I.11Классификация, ранжирование и сопоставление

PocketAI выпустила конвертированную и упакованную для запуска на Apple Silicon версию Qwopus3.6-27B-v2 от Jackrong. Это плотная языковая модель семейства Qwen3.5 с 26,896 млрд параметров в формате BF16 и нативной боковой MTP-головой для ускорения генерации методом speculative decoding. PocketAI не обучала и не дообучала базовую модель. Модель предназначена для диалоговой генерации текста, рассуждений и работы с инструментами. Пакет содержит только текстовую модель, без компонентов для обработки изображений; заявлены английский, китайский, испанский, русский и японский языки. Для ускорения через MTP требуется MTPLX версии 2.4.0 или новее; стандартный mlx-lm не поддерживает боковой файл MTP самостоятельно. Репозиторий распространяется по лицензии Apache-2.0. Модель обозначена как экспериментальная и не проходила всестороннюю оценку безопасности; результаты следует проверять перед использованием в важных сценариях. Приведённые в README показатели скорости получены на одной конфигурации Apple Silicon и не гарантируют аналогичную производительность на другом оборудовании.

Rombos-2.5-T.E-8.1 — объединённая модель генерации текста, собранная с помощью mergekit из rombodawg/Rombos-LLM-V2.5-Qwen-7b и Cran-May/T.E-8.1. Она построена на архитектуре Qwen2 и содержит 7,1 млрд параметров. Модель предназначена для диалогов и генерации текста; поддерживает формат ChatML и интерфейс вызова инструментов. Заявленная длина контекста — 131 072 токена. Слияние выполнено методом SLERP с настройками весов для слоёв внимания и MLP; веса сохранены в формате safetensors. Карточка приводит результаты оценивания на IFEval и BBH. Лицензия CC BY-NC-SA 4.0 разрешает использование с указанием авторства и на условиях распространения производных работ, но запрещает коммерческое использование. Данных о поддерживаемых естественных языках и отдельных ограничениях качества карточка не приводит.

JetLM/SDAR-4B-Chat — диалоговая языковая модель семейства SDAR, разработанная авторами SDAR. Архитектура SDAR объединяет авторегрессионное обучение с дискретным диффузионным моделированием: по заявлению авторов, это сочетает эффективное обучение с параллельным выводом. Репозиторий содержит плотную модель на 3,7 млрд параметров в формате safetensors с контекстом до 32 768 токенов. Модель предназначена для генерации ответов в диалоге и других задач генерации текста; в метаданных также заявлен интерфейс для вызова инструментов. Авторы сообщают о результатах на уровне сильных авторегрессионных моделей сопоставимого масштаба и о преимуществах на отдельных задачах научного рассуждения, однако приведённые в README утверждения относятся к семейству SDAR и сами по себе не подтверждают конкретные результаты этой версии 4B Chat. Поддерживается библиотекой Transformers. Лицензия Apache-2.0.

SOLAR-13B-Instruct-v1.0 — разговорная языковая модель на базе архитектуры Llama, созданная Vicgalle с помощью mergekit. Это вариант SOLAR-10.7B-Instruct-v1.0, расширенный до 13 млрд параметров методом passthrough: в итоговую модель включены диапазоны слоёв исходной модели. Репозиторий содержит веса Safetensors; нативный контекст — 4096 токенов. Модель предназначена для диалогов, выполнения инструкций и генерации текстовых ответов. Автор указывает, что 4-битная квантизация помещается в 12 ГБ видеопамяти; приведены результаты нескольких бенчмарков, но полная оценка качества ещё не опубликована. Модель поддерживает чатовый сценарий и унаследована от англоязычной инструкционной модели Upstage. Распространяется по лицензии Apache-2.0.

Tess-XS-v1-3-yarn-128K — версия общего языкового семейства Tess, разработанная Migtissera на базе Nous Research Mistral-7B-yarn-128K. Это плотная авторегрессионная модель MistralForCausalLM с 7,1 млрд параметров для генерации текста. Репозиторий содержит веса PyTorch и распространяется по лицензии Apache-2.0. Модель предназначена для генерации текста общего назначения в формате диалога с ролями SYSTEM, USER и ASSISTANT. В карточке указана длина контекста 32 768 токенов; автор сообщает о тестировании до 16 тысяч токенов и отмечает небольшие повторы около этой длины, поэтому для конкретных сценариев рекомендуется проверять качество и ограничивать контекст. Поддерживаемый язык в карточке не обозначен.

ThaiLLM-8B-Instruct — диалоговая языковая модель KBTG-Labs, созданная с помощью mergekit на основе ThaiLLM-8B и Qwen3-8B. Она предназначена для генерации текста и следования инструкциям, с улучшенным пониманием тайского языка по сравнению с Qwen3-8B. Модель поддерживает режимы с рассуждением и без него, а также интерфейс вызова инструментов. Архитектура — плотная Qwen3ForCausalLM с 7,6 млрд параметров; максимальный контекст — 40 960 токенов. README описывает сравнение результатов экзаменационных и финансовых тестов с Qwen3-8B, но отмечает, что результаты могут различаться в зависимости от среды оценки. Модель работает с текстом и рассчитана на тайский и английский языки. Для запуска через Transformers требуется версия 4.51.0 или новее. Лицензия — Apache-2.0.

TowerVision-9B — мультимодальная языковая модель с открытыми весами от проекта TowerVision, предназначенная для работы с изображениями и текстом. Версия содержит 9 млрд параметров и основана на Unbabel/Tower-Plus-9B, соединённой с визуальным энкодером SigLIP2-patch14-384 через мультимодальный адаптер. Модель поддерживает контекст до 8192 токенов и обрабатывает изображения вместе с текстовыми запросами, выдавая текст. Модель подходит для описания изображений, визуальных вопросов и ответов, суммаризации, анализа графиков и документов, а также мультиязычного перевода с учётом визуального и культурного контекста. В README перечислены европейские и азиатские языки, включая русский; метаданные также указывают поддержку 17 языков. Рекомендуемая точность для запуска — bfloat16. Модель поставляется в формате safetensors и использует библиотеку Transformers. Лицензия CC-BY-NC-SA-4.0 требует указания авторства, распространения производных материалов на тех же условиях и не разрешает коммерческое использование.

KnutJaegersberg/Tri-21B-Think-gguf — GGUF-версия модели Tri-21B-Think-Preview, подготовленная на основе Tri-21B. Это причинная языковая модель с декодерным Transformer, RoPE, SwiGLU, RMSNorm и GQA, содержащая 20,73 млрд параметров. Она дообучена для диалогов, пошаговых рассуждений и использования инструментов. Контекст составляет 32 768 токенов, а с YaRN может расширяться до 262 144 токенов. Модель предназначена для генерации ответов в чат-сценариях, решения задач на рассуждение и работы с длинными текстовыми запросами. В первую очередь она оптимизирована для английского, корейского и японского языков; на других языках качество может снижаться. Это промежуточный чекпойнт, и README указывает на Tri-21B-Think как на финальную версию. Для базовой Tri-21B указана лицензия trillion, а для Think и Think-Preview — Apache 2.0; при этом метаданные репозитория обозначают лицензию как other, поэтому условия использования следует сверить с файлами лицензии в репозитории.

Карточка модели yulan-team/YuLan-Base-12b на Hugging Face совпадает с карточкой yulan-team/YuLan-Chat-3-12b, поэтому описание составлено по ней. YuLan-Chat-3-12B — диалоговая большая языковая модель, разработанная исследователями Высшей школы искусственного интеллекта имени Гаолин при Народном университете Китая. Модель построена на плотной архитектуре Llama с 11,7 млрд параметров и предназначена для генерации ответов в диалоге и выполнения текстовых инструкций. Она обучена с нуля на англоязычных, китайских и многоязычных данных, а затем дообучена на качественных англо-китайских инструкциях и данных о человеческих предпочтениях с помощью обучения по учебной программе. Модель поддерживает контекст до 4096 токенов и ориентирована прежде всего на английский и китайский языки. Её можно применять для диалоговых помощников, ответов на вопросы, генерации и преобразования текста. В карточке указана лицензия MIT. Модель может генерировать неожиданные ответы, включая предвзятое, дискриминационное или вредоносное содержание.

Zelensky — экспериментальная командная модель V1, созданная автором nisten на основе семейства Qwen2.5. По карточке, модель обучали один проход с низкой скоростью обучения и многократно объединяли с тремя другими моделями; метаданные также указывают связь merge с Qwen/Qwen2.5-72B-Instruct и другими вариантами Qwen2.5 и ChatWaifu. Это плотная причинно-языковая архитектура Qwen2 с 76,7 млрд параметров и контекстом до 98 304 токенов. Модель предназначена для диалогов и генерации текста; каталог также отмечает интерфейс вызова инструментов. В карточке упоминаются прогоны GPQA Diamond Zero-shot на LM Eval Harness, но результаты оценки не приведены. Указана лицензия MIT, а автор отдельно отмечает, что продолжает действовать лицензия Qwen.

ALLaM-7B-Instruct-preview-GGUF — это набор GGUF-квантизаций инструкционной языковой модели ALLaM-7B-Instruct-preview, разработанной ALLaM-AI и подготовленной пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и выполнения инструкций, включая арабские и англоязычные сценарии. Доступен запуск через LM Studio, llama.cpp и другие проекты на базе llama.cpp. Модель содержит около 7 миллиардов параметров; README не уточняет её архитектуру, максимальную длину контекста, формат промптов и дополнительные модальности, поэтому она описывается как текстовая. Набор включает варианты от BF16 до Q3 и IQ3-квантизаций с размерами примерно от 3,11 до 14 ГБ. Варианты Q6 и Q5 отмечены как обеспечивающие очень высокое или высокое качество, а Q4 — как оптимальные для большинства сценариев по соотношению качества и размера. Основные преимущества — поддержка локального запуска, широкий выбор квантизаций и возможность подобрать вариант под доступную оперативную память. Более агрессивные квантизации уменьшают требования к памяти, но могут снижать качество генерации; некоторые форматы имеют статус legacy или не рекомендуются. Модель распространяется по лицензии Apache-2.0.

Amadeus-Verbo-FI-Qwen2.5-14B-PT-BR-Instruct — языковая модель на архитектуре Qwen2, разработанная Amadeus AI. Это дообученная на 600 тысячах инструкций за два прохода версия Qwen/Qwen2.5-14B-Instruct, предназначенная для диалогов и генерации текста на бразильском португальском языке. Модель содержит 14,7 млрд параметров и использует архитектуру Transformer с RoPE, SwiGLU, RMSNorm и групповым запросным вниманием. Для работы указан контекст длиной 32 768 токенов в метаданных; в README заявлена длина 131 072 токена. Поддерживаются диалоговый режим и интерфейс вызова инструментов. Модель распространяется в формате safetensors и доступна по лицензии Apache-2.0.

Amadeus-Verbo-FI-Qwen2.5-72B-PT-BR-Instruct — языковая модель на основе Qwen2.5-72B-Instruct, разработанная Amadeus AI и дообученная на 600 тысячах инструкций за две эпохи для бразильского португальского языка. Она предназначена для диалогов и генерации текстов на португальском языке Бразилии; метаданные также указывают поддержку интерфейса вызова инструментов. Модель использует архитектуру Qwen2 с причинным языковым моделированием и содержит 71,5 млрд параметров по метаданным. В карточке описаны Transformer, RoPE, SwiGLU, RMSNorm и grouped-query attention. Метаданные указывают контекст 32 768 токенов; в README заявлена длина 133 072 токена. Модель работает через Transformers и распространяется под лицензией Apache-2.0.

Lambent/arsenic-v1-qwen2.5-14B — объединённая разговорная языковая модель на архитектуре Qwen2, созданная Lambent с помощью mergekit и метода SLERP. В состав объединения вошли Lambent/arsenic-v0.1-dpo-qwen2.5-14B и Lambent/qwen2.5-reinstruct-alternate-lumen-14B; первая модель также связана в метаданных с вариантом Qwen2.5 Reinstruct Alternate Lumen. Размер модели — 14 млрд параметров, контекст — до 32 768 токенов. Модель предназначена для диалоговой генерации текста и структурированных ответов. Автор сообщает о результате 78.0391 на EQ-Bench и 100% разбираемости ответов в своей оценке, но не приводит подробностей методики. В обучении использовались наборы данных Gutenberg и toxic-DPO, а также небольшой экспериментальный синтезированный датасет. Метка карточки предупреждает, что модель может быть не для всех аудиторий; лицензия в предоставленных данных не указана.

blossom-v4-mistral-7b-Mistral-7B-Instruct-v0.1 — чат-модель на архитектуре Mistral, полученная слиянием Mistral-7B-Instruct-v0.1 и Azure99/blossom-v4-mistral-7b методом SLERP. Модель содержит 7,1 млрд параметров, распространяется в формате safetensors и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации текста в ответ на инструкции и диалоговые запросы. Её можно применять для чат-ботов, ответов на вопросы, написания текстов и помощи с математическими задачами. В карточке указаны английский и китайский языки; данные также связывают её с наборами для чатов, математики и инструкционного диалога. Модель распространяется по лицензии Apache-2.0. Сведений о специальных ограничениях качества или безопасности в предоставленной карточке нет.

Chinese-Alpaca-2-7B-64K — языковая модель семейства Llama, разработанная командой Chinese-Alpaca. Это дообученная версия Chinese-Alpaca-2-7B, расширенная методом YaRN для работы с контекстом до 65 536 токенов. Модель содержит 6,7 млрд параметров и доступна в форматах PyTorch и Safetensors. Модель предназначена для генерации текста на китайском и английском языках, включая ответы на запросы и работу с длинными входными текстами. Лицензия Apache-2.0 разрешает использование и распространение на её условиях.

Cybertron v4 qw7B MGS — диалоговая плотная трансформерная модель на 7,1 млрд параметров, разработанная fblgit и основанная на Qwen2.5-7B-Instruct. Она дообучена методом SFT на датасете Magpie-Align/Magpie-Qwen2.5-Pro-1M-v0.1 и предназначена для генерации текста и ответов в диалоге; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и выдаёт текст, поддерживает английский язык и имеет заявленную длину контекста 131 072 токена. В карточке автор заявляет высокие результаты в классе моделей 7B–8B и приводит оценки Open LLM Leaderboard, включая 62,64 на IFEval и 37,04 на BBH; эти результаты относятся к указанной автором оценке. Для модели указана лицензия other, поэтому условия использования следует сверить с лицензией и файлами репозитория. В README упоминается подход MGS, но его расшифровка и подробности не раскрыты.

Dolphin-v2 — модель для разбора документов, разработанная ByteDance. Она обрабатывает цифровые документы и фотографии страниц и выдаёт структурированное представление содержимого. Модель построена на архитектуре Qwen2.5-VL-3B с визуальным энкодером NaViT и авторегрессионным декодером; размер составляет 3,1 млрд параметров, контекст — до 128 000 токенов. Модель сначала классифицирует тип документа и анализирует его структуру, затем извлекает содержимое с учётом типа страницы и элемента. Она поддерживает распознавание текста, анализ макета и порядка чтения, извлечение таблиц, формул и кода; для фотографий использует разбор всей страницы, а для цифровых документов — параллельную обработку элементов. В README сообщается о результатах на OmniDocBench v1.5, но они не гарантируют качество на любых документах. Модель принимает изображения документов и текстовые запросы, а выдаёт текстовое структурированное представление. Карточка указывает поддержку китайского и английского языков. Лицензия в предоставленных данных не указана.

Карточка модели NVEagle/Eagle-X5-13B на Hugging Face совпадает с карточкой NVEagle/Eagle-X5-13B-Chat, поэтому описание составлено по ней. Eagle-X5-13B-Chat — мультимодальная языковая модель семейства Eagle, разработанного NVIDIA. Это плотная Transformer-модель архитектуры EagleLlamaForCausalLM с 12,9 млрд параметров, предназначенная для диалога и анализа изображений вместе с текстом. Контекст модели составляет 4096 токенов. Модель использует комбинацию визуальных энкодеров CLIP+X и рассчитана на обработку изображений высокого разрешения, включая задачи распознавания текста и понимания документов. Она принимает изображения и текст, а выдаёт текст; авторы отмечают сильные результаты на мультимодальных тестах, особенно в задачах, чувствительных к разрешению. Основные сценарии применения — исследование мультимодальных LLM и создание чат-ботов. Модель опубликована под лицензией CC BY-NC-SA 4.0, которая ограничивает коммерческое использование. README не уточняет языковой охват и подробные ограничения качества; перед применением в конкретной отрасли следует оценить пригодность модели для этого сценария.

Flux-Japanese-Qwen2.5-32B-Instruct-V1.0 — языковая модель на 32 млрд параметров от Flux, созданная на основе Qwen2.5-32B-Instruct и предназначенная для генерации ответов и диалогов. Она дообучена с акцентом на знания, рассуждения и работу с японским языком; в карточке также заявлены результаты на задачах вопросов и ответов, понимания текста, суммаризации и генерации кода. Архитектура — плотная Qwen2 с причинной генерацией текста, формат весов — safetensors, контекст — 32 768 токенов. Заявлены сильные результаты на японских оценочных наборах при сохранении близкого к базовой модели уровня на общих задачах и английском языке. Модель подходит для японских диалоговых ассистентов, ответов на вопросы, анализа и суммаризации текстов, рассуждений и генерации кода. Также доступны интерфейсы чата и вызова инструментов. Указана лицензия Apache 2.0. Как и другие большие языковые модели, она может выдавать неточные, вводящие в заблуждение или предвзятые ответы; авторы не дают гарантий и возлагают ответственность за применение на пользователя.

pytorch/gemma-3-12b-it-AWQ-INT4 — это квантизированная версия instruction-tuned языковой модели google/gemma-3-12b-it, разработанная pytorch. Модель предназначена для диалогового взаимодействия, генерации и обработки текста, включая ответы на вопросы, краткие объяснения и другие сценарии использования через chat completions или библиотеку Transformers. В README явно указан английский язык; сведения о поддерживаемых модальностях и размере контекстного окна отсутствуют. Модель содержит 12 миллиардов параметров и использует квантизацию AWQ-INT4 с группой размера 128 для весов линейных слоёв. Квантизация снижает требования к памяти по сравнению с исходной версией bfloat16 и рассчитана на запуск с PyTorch, torchao, Transformers и vLLM. В примере генерации поддерживается режим рассуждений, который можно включать или отключать через chat template. Для работы с vLLM требуется nightly-версия vLLM и torchao; из-за известных проблем совместимости рекомендуется отключать compile cache. По данным README, на ограниченной калибровке из 30 примеров задачи mmlu_philosophy модель показала точность 76,85% против 75,56% у gemma-3-12b-it-INT4 и 79,10% у базовой версии bfloat16. Эти результаты нельзя считать полноценной оценкой общих возможностей модели. В рецепте квантизации указано, что AWQ на данный момент работает только на H100 INT4, поэтому аппаратная совместимость может быть ограничена. Модель распространяется по лицензии Apache-2.0.

Gemma-3-1b-it-GGUF — квантизированная GGUF-версия модели gemma-3-1b-it, разработанной Google и подготовленной в квантизированном виде компанией Second State Inc. Это инструкционно настроенная модель генерации текста, предназначенная для диалогов, обработки пользовательских запросов и запуска локальных приложений и сервисов, включая LlamaEdge. Поддерживается контекст размером до 32 000 токенов. Сведения о языках, мультимодальности и точной архитектуре в README не указаны. Модель доступна в вариантах квантования от Q2_K до Q8_0, а также в формате f16, с размером файлов примерно от 689 МБ до 2,01 ГБ. Вариант Q4_K_M рекомендован как сбалансированный по качеству и размеру, а Q5_K_M и Q5_K_S — как варианты с минимальной потерей качества. Более низкие уровни квантования уменьшают требования к ресурсам, но могут существенно снижать качество; README отдельно указывает, что Q2_K и некоторые Q3- и Q4-варианты имеют значительные потери. Для использования заявлена лицензия Gemma.

zeromodels/gemma-4-12b-it — конверсия Gemma 4 12B Instruct в формате Keras 3 от zeromodels. Модель содержит около 11,95 млрд параметров и представлена в bfloat16; реализация запускается на TensorFlow, PyTorch и JAX. Вариант предназначен для генерации ответов по тексту, изображениям и аудио: принимает эти типы входных данных и выдаёт текст. Доступен также текстовый режим. В README указано окно скользящего внимания 1024 токена; это не следует трактовать как полный размер контекста. Модель унаследована от google/gemma-4-12B-it и распространяется по лицензии Apache 2.0.

Gemma4-26B-A4B-Uncensored-HauhauCS-Balanced-Ollama — это модифицированная и квантизированная версия Gemma 4 26B A4B, основанная на Google Gemma 4 26B A4B Instruct. Модель опубликована braydenh563, а вариант без ограничений разработан HauhauCS. Она предназначена для творческого письма, ролевых сценариев, эмоционально-интеллектуального общения, исследований, программирования и агентных задач с инструментами. Версия Balanced ориентирована на минимальное число отказов и обычно предоставляет полный ответ после краткой оговорки о безопасности, хотя в отдельных случаях может сначала уклониться от ответа. Модель использует архитектуру Mixture-of-Experts: около 25,2 млрд параметров всего и примерно 3,8 млрд активных параметров на проход, 128 маршрутизируемых экспертов, выбор 8 экспертов и одного общего эксперта. В ней 30 слоёв, гибридное внимание со скользящим окном на 1024 токена и периодическим глобальным вниманием, Proportional RoPE и нативный контекст до 256K токенов. Это нативно мультимодальная модель для текста и изображений; для обработки изображений поставляется отдельный mmproj, поддерживающий переменные бюджеты визуальных токенов от 70 до 1120 на изображение. В README заявлен английский язык. К сильным сторонам относятся высокая вычислительная эффективность MoE, большой контекст, мультимодальность, стабильность семплирования в длинных сессиях и специальные K_P-квантизации с оптимизацией по важности тензоров. Ограничения включают отсутствие приведённых независимых бенчмарков, зависимость качества и требований к памяти от выбранной квантизации, а также менее высокую пригодность для агентного программирования по сравнению с Qwen3.6, согласно автору README. Удаление отказов снижает встроенные защитные ограничения и требует самостоятельного контроля безопасного применения. Модель распространяется по лицензии Apache-2.0 в форматах GGUF; размеры доступных вариантов составляют примерно от 10 до 27 ГБ, а файл mmproj занимает около 1,2 ГБ.

gemma-4-31B-it-GGUF — квантованная модель Gemma 4 с 31 млрд параметров, разработанная Google и представленная в формате GGUF организацией ggml-org. Это instruction-tuned модель на базе google/gemma-4-31B-it, предназначенная для запуска и инференса в совместимых средах, включая llama.app. По указанным метаданным модель поддерживает сценарии image-text-to-text, то есть обработку текстовых и визуальных входных данных с генерацией текста. Ключевая особенность этой версии — формат GGUF и квантование, направленные на снижение требований к памяти и упрощение локального запуска. README не содержит сведений о конкретном варианте квантования, размере файла, длине контекста, поддерживаемых языках, аппаратных требованиях или результатах тестирования, поэтому эти характеристики нельзя определить по предоставленным данным. Модель автоматически преобразована с использованием инструментария ggml-org/convert, что может влиять на совместимость и доступные способы запуска. Модель распространяется по лицензии Apache 2.0. Ограничения README не описывает; при практическом использовании следует учитывать ограничения исходной Gemma 4, особенности квантованной версии и возможности выбранного движка инференса.

Gemma-4-31B-it-ROCmFP4-GGUF — это мультимодальная квантизированная GGUF-версия модели Gemma-4-31B-it, разработанной Google и подготовленной пользователем kingjones777. Модель предназначена для генерации и анализа текста, а также для обработки изображений; для визуального ввода в репозиторий включён отдельный проектор mmproj-BF16.gguf. В репозитории представлены четыре варианта квантизации: 4-битный ROCmFP4 и 6- или 8-битные ROCmFPX, размером примерно от 16,44 до 30,04 ГиБ. Модель рассчитана прежде всего на AMD Strix Halo с графикой gfx1151, включая Ryzen AI MAX+ 395, и поддерживает ускорение через ROCmFPX. Заявленный контекст в проверках составлял 4096 токенов; языки явно не указаны. Для ускорения генерации поддерживается speculative decoding с drafter-моделью Gemma-4-31B-it-assistant. На рекомендованном 4-битном варианте измерена скорость до 21,68 токена в секунду с MTP и около 11,81 токена в секунду без него. Сильные стороны модели — мультимодальность, наличие нескольких вариантов точности, проверенная работа с текстом и изображениями на реальном оборудовании, а также заметное ускорение за счёт speculative decoding. Основное ограничение — необходимость специальной сборки llama.cpp с поддержкой ROCmFPX: стандартные llama.cpp, Ollama и LM Studio эти типы файлов не загружают. Для обработки изображений требуется отключить flash attention, а использование MTP может зависеть от версии сборки и операционной системы. Модель распространяется по лицензии Gemma. Условия использования следует уточнять в лицензии Google Gemma; README не приводит дополнительных ограничений.

Мультимодальная модель Gemma 4 E2B IT, дообученная filipwx на базе unsloth/gemma-4-E2B-it и опубликованная в виде шардированных весов для удобной загрузки. Она предназначена для диалогов и задач image-text-to-text, включая анализ изображений и документов. Архитектура — плотная Gemma4ForConditionalGeneration; репозиторий содержит веса safetensors, разбитые на шарды примерно по 2 ГБ. README описывает запуск с 4-битной квантизацией bitsandbytes и прямым размещением модели на GPU, однако это параметры загрузки, а не отдельное заявленное свойство весов репозитория. Модель ориентирована на работу с изображениями и текстом; базовая модель также поддерживает диалоги и интерфейс вызова инструментов. Карточка приводит английский язык. Лицензия — Apache-2.0. Указанные в README ограничения и рекомендации по размещению на GPU относятся к конкретной конфигурации загрузки и оборудованию; её применимость зависит от доступной памяти и окружения.

alpindale/gemma-7b-it — диалоговая инструктивная версия Gemma, семейства компактных открытых языковых моделей Google. Это плотная авторегрессионная модель-декодер для генерации текста; в репозитории указаны 8,2 млрд параметров, контекст до 8192 токенов и формат safetensors. Карточка описывает Gemma как англоязычную модель, подходящую для диалога, ответов на вопросы, суммаризации и рассуждений. Модель можно применять для чат-ботов и виртуальных помощников, подготовки черновиков и творческих текстов, краткого пересказа документов и исследования текстовых коллекций. Относительно компактный размер допускает запуск на персональных компьютерах и собственной облачной инфраструктуре, хотя практические требования зависят от конфигурации. README указывает Google как разработчика семейства Gemma; идентификатор репозитория сам по себе не подтверждает отдельное авторство alpindale или конкретную историю происхождения этой копии. Сведения о лицензии в предоставленных данных отсутствуют. Ответы могут содержать фактические ошибки и устаревшие сведения; качество зависит от обучающих данных и формулировки запроса. Модель может хуже справляться с нюансами языка, сложными открытыми задачами и здравым смыслом, а также отражать предвзятости данных; для пользовательских приложений нужны проверка результатов и меры безопасности.

German-RAG-MISTRAL-7B-v3.0-ORPO-HESSIAN-AI — авторегрессионная языковая модель на архитектуре Transformer Mistral, разработанная командой Avemio AI при поддержке Hessian AI. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. Модель дообучена методом ORPO на немецкоязычных и англоязычных данных для сценариев Retrieval-Augmented Generation (RAG). Она предназначена для ответов на вопросы по найденным документам и контексту, извлечения релевантной информации, суммаризации и рассуждений. В README приведены результаты тестирования на наборах для извлечения, ответов на вопросы, суммаризации и сложных рассуждений; это результаты авторской оценки, а не гарантия качества для конкретных данных. Модель может выдавать неверные факты, поэтому ответы следует проверять. Без дополнительной фильтрации она может генерировать вредный или чувствительный контент. Лицензия модели и кода — Apache 2.0.

GLM-5.2-MXFP4xFP8_BLOCK — квантизированная версия языковой модели GLM-5.2, разработанная RedHatAI на базе модели zai-org/GLM-5.2. Это текстовая causal language model с архитектурой GlmMoeDsaForCausalLM: принимает текст и генерирует текст. В README указана поддержка английского и китайского языков, а также готовность к инференсу через vLLM. Модель использует смешанную квантизацию: линейные слои MoE-экспертов квантизированы до 4-битного MXFP4, а линейные слои внимания, dense- и shared-expert-компоненты — до 8-битного блочно-масштабируемого FP8_BLOCK; активации квантизируются в FP8 с динамическим масштабированием. В среднем используется около 4,4 бита на параметр, благодаря чему размер модели на диске сокращён примерно с 1,47 ТБ в формате BF16 до 411 ГБ, а требования к дисковой и GPU-памяти уменьшены приблизительно на 72%. Модель предназначена для запуска крупной GLM-5.2 в условиях ограниченных ресурсов, включая инференс с использованием vLLM, параллелизма по тензорам, FP8 KV-кэша и инструментального вызова. Ключевое ограничение — экспериментальная поддержка этого квантизированного checkpoint в vLLM; размер контекста, точное число параметров, мультимодальные возможности и лицензия в README не указаны. Квантизация выполнена с помощью LLM Compressor методом RTN без калибровочных данных, а модель экспортирована в формате compressed-tensors.