II.1Анализ требований и архитектура ПО

SImi-2B — генеративная языковая модель, разработанная Dakuwon Moody. Это публичное распространение только весов модели SImiModel без исходного кода архитектуры, обучающего кода и полного внутреннего дерева восстановления. Модель предназначена для генерации текста, следования инструкциям, агентских сценариев и использования инструментов, включая задачи с tool use и function calling. Модель представляет собой decoder-only causal language model в стиле Llama, реализованную на JAX/Flax. Она содержит примерно 2,32 млрд параметров, 30 слоёв, скрытую размерность 2560, GQA с 20 query heads и 4 KV heads, RoPE, RMSNorm и SwiGLU. Используется untied token embedding и LM head, токенизатор GPT-2 BPE с 50 257 токенами и максимальная длина последовательности 1024 токена. Вычисления и веса имеют тип bfloat16. В README указан английский язык модели. Сильными сторонами являются обучение на полноразмерных потоках данных для инструкционного, агентского и инструментального использования, а также компактный размер по сравнению с крупными языковыми моделями. Ограничения включают отсутствие поддержки hosted inference, отсутствие исходного кода и несовместимость с Transformers AutoModel.from_pretrained; для восстановления требуются JAX/Flax и специфические процедуры работы с Orbax. Модель обучалась на AMD Instinct MI300X. Распространяется по лицензии Apache-2.0.

Leroy Dyer представляет SpydazWeb AI HumanAI RP — объединённую модель для генерации текста на основе Mistral 7B. Автор сообщает о длительном дообучении и слиянии нескольких моделей; метаданные указывают размер 7,1 млрд параметров, архитектуру Mistral и лицензию Apache-2.0. Карточка описывает модель как ориентированную на диалоги, ролевые сценарии, рассказывание историй и следование инструкциям, а также на структурированные ответы, планирование и генерацию кода. Модель рассчитана на текстовые сценарии, включая ролевые игры и персонажей, ответы на вопросы, перевод, суммаризацию, программирование и задачи с агентами или инструментами. В README также заявлена работа с изображениями и аудио через текстовые представления Base64 и спектрограммы, однако метаданные подтверждают только задачу text-generation, поэтому эти возможности следует считать заявлениями автора. Автор заявляет контекст до 512 тыс. токенов, но отмечает, что обучение в основном проводилось на последовательностях длиной 2048 токенов. Автор предупреждает, что модель может ошибаться и выдавать NSFW-контент; её ответы требуют проверки, особенно в медицинских и других чувствительных сценариях. Условия использования определяются лицензией Apache-2.0.

TripleTrouble-V3 — объединённая разреженная языковая модель семейства Qwen3.5 MoE, созданная OliviaRossi на основе KAT-Coder-V2.5-Dev, Ornith-1.5-35B-A3B и Qwen-AgentWorld-35B-A3B. Она предназначена для генерации текста и диалога, программирования, вызова инструментов и агентных сценариев, включая планирование действий и моделирование переходов состояния среды. Архитектура модели — MoE; в репозитории указаны веса SafeTensors, 2,9 млрд параметров в метаданных и контекст до 262 144 токенов. Карточка описывает объединение специализированных чекпойнтов методами согласования весов и калибровки маршрутизатора экспертов. Заявлены навыки работы с кодовыми базами, структурированным JSON, многошаговыми вызовами API и состояниями сред. Метаданные указывают поддержку английского и китайского языков, а также интерфейс для вызова инструментов. Лицензия — Apache-2.0. Размер в README (34,7 млрд параметров всего и около 3,3 млрд активных на токен) расходится с метаданными, где указано 2,9 млрд параметров; поэтому размер следует считать неоднозначным. Заявления карточки о качестве и скорости не сопровождаются приведёнными результатами оценки. Это текстовая модель: сведения не подтверждают обработку изображений, аудио или видео.

Yi-9B-200K — базовая языковая модель, разработанная компанией 01.AI и обученная с нуля. Это плотная авторегрессионная модель семейства Yi на архитектуре Transformer, совместимой с реализацией Llama; веса Llama в обучении не использовались. Модель содержит 8,6 млрд параметров и поддерживает контекст до 262 144 токенов. Модель предназначена для генерации текста, понимания языка, ответов на вопросы, чтения и рассуждений. Семейство Yi рассчитано прежде всего на английский и китайский языки и обучено на многоязычном корпусе. Эта карточка описывает базовую модель, а не диалоговую настройку, поэтому качество ответов в чате может требовать дополнительного дообучения или инструкции в промпте. Модель распространяется в формате safetensors по лицензии Apache 2.0. Длинный контекст и относительно компактный размер семейства позволяют применять её для анализа больших текстовых фрагментов, однако фактические требования к памяти и скорость зависят от оборудования и настроек инференса.

Yuan2-2B-hf — плотная языковая модель с архитектурой YuanForCausalLM, разработанная IEIT System как часть семейства Yuan 2.0. Репозиторий содержит веса PyTorch; модель насчитывает около 1,9 млрд параметров и поддерживает контекст до 8192 токенов. Модель предназначена для генерации текста и диалогов, а также для сценариев, где нужны понимание семантики, математические рассуждения, работа с кодом и знаниями. Разработчик предоставляет инструменты для дообучения и развёртывания инференса. Карточка приводит оценочные наборы GSM8K, AGIEval-GK-Math, HumanEval и TruthfulQA, но не содержит результатов именно для этой версии в доступной таблице. В README заявлена коммерческая возможность использования при соблюдении лицензии Yuan 2.0; код оригинального репозитория распространяется по Apache 2.0. Модель может выдавать неточные ответы и поддаваться вводящим в заблуждение инструкциям.

Zero-Mistral-Small — дообученная методом SFT модель ZeroAgency на основе mistralai/Mistral-Small-24B-Instruct-2501. Она предназначена для диалогов и следования инструкциям, с дополнительной адаптацией прежде всего к русскому и английскому языкам на датасете Vikhrmodels/GrandMaster-PRO-MAX. Это плотная авторегрессионная модель семейства Mistral с 23,4 млрд параметров и контекстом 32 768 токенов; доступны веса Safetensors, а в карточке также перечислены варианты LoRA и GGUF с разной точностью. Модель подходит для развёртывания чат-ассистента, ответов на вопросы, генерации текста и русскоязычных задач на рассуждение. В README приведены результаты нескольких русскоязычных бенчмарков, но они не гарантируют качество на конкретных запросах. Для запуска автор рекомендует vLLM или Transformers; README указывает ориентировочную потребность базовой модели в 55 ГБ видеопамяти для BF16/FP16, а для запуска этой модели на GPU в примере — более 60 ГБ. Лицензия — MIT.

Zurich 14B GammaCorpus v2-500k — диалоговая языковая модель, разработанная Ruben Roy и полученная дообучением Qwen/Qwen2.5-14B-Instruct на наборе структурированных и отфильтрованных многоходовых диалогов GammaCorpus v2-500k. Она предназначена для генерации текста и ответов в диалоге, включая структурированные ответы и взаимодействие через интерфейс вызова инструментов. Модель построена на архитектуре Qwen2, имеет около 14,7 млрд параметров и контекст длиной 32 768 токенов. В карточке указаны 48 слоёв и групповое внимание с 40 головами Q и 8 головами KV. Модель принимает текст и генерирует текст; в метаданных основным языком карточки указан английский.

AceInstruct-7B — языковая модель NVIDIA из семейства AceInstruct, дообученная методом supervised fine-tuning на базе Qwen2.5-Base. Она предназначена для программирования, математики, общих знаний и широкого круга пользовательских запросов; поддерживает диалоговый режим. Модель содержит 7,1 млрд параметров, использует плотную архитектуру Qwen2 и принимает контекст до 131 072 токенов. В опубликованных оценках AceInstruct-7B показывает результаты, сопоставимые с Qwen2.5-7B-Instruct на задачах программирования, математики и общих знаний. Она генерирует текст по запросу, включая ответы, объяснения и код. В карточке указан английский язык; других поддерживаемых языков источники не подтверждают. Модель распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование. Оценки в карточке основаны на бенчмарках и не гарантируют качество для каждого запроса или предметной области.

Olmo-3.1-32B-Instruct-GGUF — это квантизированная версия языковой модели Olmo-3.1-32B-Instruct, разработанной AllenAI. Публикацией и квантизацией в формате GGUF занимался bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и выполнения инструкций в локальных приложениях, поддерживающих llama.cpp, включая LM Studio. Модель имеет размер 32 млрд параметров, относится к текстовым моделям и, согласно карточке, ориентирована на английский язык. Доступны варианты от BF16 до различных уровней квантизации Q8, Q6, Q5, Q4, Q3 и IQ; размеры файлов составляют примерно от 14 до 64 ГБ. Для работы необходимо использовать соответствующий шаблон чата с ролями system, user и assistant. Размер контекста и другие архитектурные характеристики в карточке не указаны. Сильной стороной является широкий выбор квантизаций, позволяющий подобрать баланс между качеством, потреблением памяти и скоростью локального запуска. Варианты Q5 и Q6 заявлены как высококачественные, а Q4_K_M — как подходящий вариант для большинства сценариев. Более компактные варианты требуют меньше оперативной памяти, но могут заметно уступать по качеству. Модель ориентирована на текстовые задачи и не заявлена как мультимодальная; поддержка других языков, кроме английского, в карточке не описана. Лицензия — Apache 2.0.

Baanzon-Chenni-1.5-9B-GGUF — квантизированная версия модели Baanzon-Chenni-1.5-9B, разработанной Devopsopraiz и преобразованной в формат GGUF пользователем mradermacher. Модель относится к семейству Qwen3 и предназначена для генерации текста, диалоговых сценариев, задач программной инженерии и использования в автономных агентах. В карточке указан английский язык. Модель содержит около 9 миллиардов параметров и доступна в вариантах с разной степенью квантизации: от Q2_K до Q8_0, а также в формате F16. Размер файлов составляет примерно от 3,9 до 18 ГБ. Для мультимодального использования предоставляются отдельные файлы mmproj, однако поддерживаемые типы входных данных и точный набор мультимодальных возможностей не указаны. Размер контекста и другие архитектурные характеристики также не приведены. Основное преимущество сборки — возможность запуска модели в GGUF-совместимых средах с выбором компромисса между размером, скоростью и качеством. В README варианты Q4_K_S и Q4_K_M названы быстрыми и рекомендуемыми, Q6_K — обеспечивающим очень хорошее качество, а Q8_0 — быстрым вариантом с наилучшим качеством среди перечисленных. Более агрессивная квантизация может снижать качество ответов, а конкретные ограничения исходной модели и результаты оценивания не указаны. Лицензия модели — MIT.

Baichuan2-7B-Chat — разработанная Baichuan Intelligence чат-модель семейства Baichuan 2 с плотной архитектурой BaichuanForCausalLM и 7 млрд параметров. Семейство обучено на 2,6 трлн токенов; модель предназначена для диалога и генерации текста на китайском и английском языках. Её проверяли на задачах общего назначения, права, медицины, математики, программирования и многоязычного перевода. Модель принимает текст и генерирует текст, а её контекст ограничен 4096 токенами. Для запуска требуется PyTorch 2.0 или новее. Карточка описывает поддержку академических исследований; коммерческое использование требует предварительной заявки и получения лицензии Baichuan, с указанными в соглашении ограничениями. Возможны ошибки и небезопасные ответы; разработчик предупреждает о необходимости соблюдать требования к проверке и регистрации интернет-сервисов.

mlx-community/c4ai-command-r7b-12-2024-bf16 — версия модели Cohere Command R7B, конвертированная сообществом mlx-community в формат MLX из CohereForAI/c4ai-command-r7b-12-2024 с помощью mlx-lm 0.20.4. Это плотная авторегрессионная языковая модель семейства Cohere2 примерно на 8 млрд параметров, предназначенная для генерации текста и диалогового общения; доступен интерфейс вызова инструментов. Контекст модели — до 8192 токенов. Модель поддерживает английский, французский, немецкий, испанский, итальянский, португальский, японский, корейский, китайский, арабский, греческий, персидский, польский, индонезийский, чешский, иврит, хинди, нидерландский, румынский, русский и другие перечисленные в метаданных языки. Лицензия CC-BY-NC-4.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение. Репозиторий предоставляет конвертированные веса bf16 для MLX; карточка не сообщает результатов оценки качества.

DeepSeek-R1-0528-Qwen3-8B-GGUF — квантизированная версия языковой модели DeepSeek-R1-0528-Qwen3-8B, разработанной deepseek-ai. Квантизацию выполнил bartowski с использованием llama.cpp версии b5524 и метода imatrix. Модель предназначена для генерации текста и локального запуска в LM Studio, llama.cpp и других проектах на базе llama.cpp. Это текстовая модель размером 8B параметров, представленная в формате GGUF. Доступны варианты от BF16 до различных уровней квантизации Q8, Q6, Q5, Q4, Q3 и IQ, с размером файлов примерно от 3,9 до 16,39 ГБ. Более высокие уровни квантизации обычно лучше сохраняют качество, а варианты Q3 и ниже ориентированы на устройства с ограниченным объёмом оперативной памяти. Для работы рекомендуется использовать указанный шаблон prompt format; контекстное окно, поддерживаемые языки и дополнительные модальности в README не указаны. Сильные стороны модели — возможность локального запуска, широкий выбор вариантов квантизации и компромисс между качеством, размером и требованиями к памяти. Ограничения зависят от выбранного варианта: более сильная квантизация может снижать качество генерации, а для запуска требуются совместимые инструменты и достаточно оперативной или видеопамяти. Лицензия модели указана как MIT.

Это GGUF-квантизированная версия модели DeepSeek-V3.1-Terminus, подготовленная пользователем bartowski на основе оригинальной модели deepseek-ai. Квантизация выполнена с помощью llama.cpp версии b6550 с использованием метода imatrix и калибровочных наборов данных. Модель предназначена для генерации текста и локального запуска в LM Studio, llama.cpp и других проектах на базе llama.cpp. Доступны варианты квантизации от Q8_0 до Q2_K, различающиеся размером файла и качеством: старшие варианты обеспечивают более высокое качество, а младшие требуют меньше оперативной памяти. Рекомендуемыми автор считает, в частности, Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S и IQ4_XS. В README не указаны архитектура, точный размер исходной модели, поддерживаемые языки, контекстное окно, мультимодальные возможности и формат промптов; для последнего рекомендуется обратиться к странице оригинальной модели. Лицензия также не указана, поэтому условия использования следует уточнять в репозитории исходной модели DeepSeek-V3.1-Terminus.

DeepSeek-R1-0528-Qwen3-8B-MLX-4bit — это 4-битно квантованная версия модели DeepSeek-R1-0528-Qwen3-8B, разработанной deepseek-ai. Квантование выполнено командой LM Studio с использованием mlx_lm и формата MLX, ориентированного на работу на устройствах с Apple Silicon. Модель предназначена для генерации текста и связанных с ней языковых сценариев. README не содержит сведений о точном числе параметров, поддерживаемых языках, размере контекста, модальностях или специализированных ограничениях исходной модели. Ключевое преимущество версии — уменьшенный размер благодаря 4-битному представлению и оптимизация для Apple Silicon; при этом квантование может снижать точность по сравнению с исходной моделью, а применение вне экосистемы MLX и Apple Silicon может быть ограничено. Модель распространяется по лицензии MIT.

DeepSeek-V2-Lite-Chat-GGUF — это квантизированная GGUF-версия диалоговой модели DeepSeek-V2-Lite-Chat, разработанной DeepSeek-ai и подготовленной компанией Second State Inc. Модель предназначена для локального запуска и генерации ответов в формате чат-ассистента; в README также указана совместимость с LlamaEdge версии 0.12.3 и выше. Модель поддерживает контекст размером до 128 000 токенов и использует шаблон запросов deepseek-chat-2. В репозитории доступны варианты квантования от Q2_K до Q8_0, а также f16, с размером файлов примерно от 6,43 до 31,4 ГБ. Вариант Q4_K_M обозначен как сбалансированный и рекомендуемый, а Q5_K_M и Q5_K_S — как варианты с очень низкой потерей качества. Более сильное квантование уменьшает требования к памяти, но может заметно снижать качество ответов. README не содержит сведений об архитектуре, количестве параметров, поддерживаемых языках и модальностях, поэтому эти характеристики нельзя уточнить. Модель распространяется по лицензии DeepSeek с обозначением other; ссылка на условия лицензии приведена в исходном описании.

ERNIE-4.5-300B-A47B-2Bits-TP2-Paddle — текстовая MoE-модель семейства ERNIE 4.5 от Baidu для диалогов, понимания языка и генерации текста. В карточке описана конфигурация ERNIE-4.5-300B-A47B с 300 млрд параметров, из которых активируется около 47 млрд на токен; метаданные репозитория указывают 47,1 млрд параметров. Архитектура использует 54 слоя и контекст до 131 072 токенов. Модель обучалась совместно на текстовых и визуальных данных, однако этот вариант обозначен как текстовый, поэтому его основной сценарий — текстовые запросы и ответы. Карточка описывает поддержку английского и китайского языков, а также развёртывание через FastDeploy на PaddlePaddle. Указана лицензия Apache-2.0. В README заявлена эффективная 2-битная квантизация, но метаданные форматов указывают safetensors, а не отдельный формат квантованных весов. Это крупная MoE-модель, для развёртывания которой требуется значительная инфраструктура; конкретные показатели качества и подробные ограничения в карточке не приведены.

Карточка модели Eric111/FINAL-Bench_Darwin-4B-Opus на Hugging Face совпадает с карточкой FINAL-Bench/Darwin-4B-Opus, поэтому описание составлено по ней. Darwin-4B-Opus — языковая модель для диалога и рассуждений, созданная VIDRAFT с помощью движка Darwin V6. Это слияние Google Gemma 4 E4B Instruct и модели Gemma-4-E4B-Claude-4.6-Opus-Reasoning-Distilled; при слиянии DARE-TIES применялись диагностически подобранные коэффициенты для отдельных тензоров. Модель использует архитектуру Gemma4ForConditionalGeneration с MoE, содержит около 4 млрд параметров и представлена в формате BF16 и safetensors. Модель предназначена для ответов на вопросы, рассуждений, программирования, математики и анализа на одном потребительском GPU. В README заявлены контекст 128 тыс. токенов и поддержка более 140 языков; метаданные карточки перечисляют английский, корейский, японский и китайский. Архитектура базовой модели поддерживает изображения и аудио, однако README не описывает эти сценарии для Darwin-4B-Opus. В README приведён результат 82,92% на ARC-Challenge в режиме zero-shot; авторы отмечают, что проверка здоровья модели не проводилась. Модель распространяется по лицензии Apache 2.0. Фактическое качество на других задачах и мультимодальная работа в карточке не подтверждены.

FlashModel-Qwen3.5-9B — текстовая причинная языковая модель, дообученная flashback2k на базе Qwen/Qwen3.5-9B методом LoRA с последующим объединением весов. Модель содержит около 7,2 млрд параметров, использует архитектуру Qwen3_5ForCausalLM и формат Safetensors; заявленная длина контекста — 262 144 токена. В отличие от мультимодальной базовой модели, этот вариант предназначен только для работы с текстом и не содержит компонента зрения. Модель ориентирована на рассуждения, решение математических задач, генерацию кода, следование инструкциям и вызов инструментов в диалоговых сценариях. Обучение включало англоязычные примеры из наборов Nemotron по математике, соревновательному программированию, агентным задачам, инструкциям и науке; для получения обучающих ответов использовались несколько открытых моделей-учителей. Модель распространяется под лицензией Apache-2.0. Сравнительных бенчмарков пока нет, поэтому качество относительно исходной Qwen3.5-9B не установлено. Обучающие данные были англоязычными, и на запросах на других языках модель может рассуждать по-английски; примеры по математике и коду длиннее 16 тысяч токенов исключались из обучения. Эффект специальных тегов бюджета рассуждений не измерен.

FuseChat-Gemma-2-9B-Instruct — диалоговая модель FuseAI на архитектуре Gemma 2 с 9 млрд параметров. Это вариант FuseChat-3.0, созданный на базе Gemma-2-9B-It с помощью дообучения и неявного объединения знаний: после supervised fine-tuning модель оптимизировали методом Direct Preference Optimization на предпочтениях, собранных по ответам нескольких крупных языковых моделей. Модель предназначена для диалогов и выполнения инструкций, включая общие вопросы, математику, программирование и задачи на китайском языке. Контекст составляет 8192 токена. В README заявлены улучшения на бенчмарках для серии FuseChat-3.0, но приведённые численные результаты относятся к варианту с Llama-3.1-8B-Instruct в качестве целевой модели и не подтверждают такие же показатели для этой версии Gemma. Модель принимает текст и генерирует текст. Она распространяется в формате safetensors; лицензия в предоставленных данных не указана.

GeM2-Llamion-14B-Chat — чат-модель семейства GeM 2.0, разработанная компанией VAIV. Это плотная авторегрессионная модель на архитектуре LLaMA с 14,1 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия. Репозиторий содержит веса в формате safetensors; длина контекста составляет 4096 токенов. Llamion создана на основе Orion: разработчики преобразовали модель к стандартной архитектуре LLaMA с помощью сопоставления параметров и переноса знаний. Модель ориентирована на основные бизнес-задачи VAIV, однако конкретные отрасли и сценарии в карточке не перечислены. Лицензия — Apache-2.0.

ThomasBaruzier/gemma-2-27b-it-GGUF — это набор GGUF-квантизаций instruction-tuned модели Gemma 2 27B, разработанной Google. Квантизации выполнены с помощью llama.cpp с использованием метода imatrix на основе оригинальной модели google/gemma-2-27b-it и калибровочного файла Bartowski. Модель предназначена для текстовой генерации, включая ответы на вопросы, суммаризацию, рассуждения и другие сценарии взаимодействия по инструкциям. Это decoder-only языковая модель формата text-to-text с открытыми весами; в README указана поддержка английского языка. Доступно множество вариантов квантизации от IQ1_S до Q8_0, а также F16, с размером файлов примерно от 5,8 до 51,9 ГБ. Более компактные варианты требуют меньше памяти, но уступают менее квантизированным версиям по измеренным показателям perplexity и accuracy. Сильной стороной набора является возможность запускать крупную 27-миллиардную модель в llama.cpp и выбирать компромисс между качеством, размером и требованиями к ресурсам. Ограничения включают потенциальную потерю качества при сильной квантизации, значительные требования к памяти для крупных вариантов и преимущественную ориентацию на английский язык. Контекстное окно и точные аппаратные требования в README не указаны. Использование модели регулируется лицензией Gemma от Google; для доступа на Hugging Face требуется ознакомиться с условиями и принять лицензию Google.

Gemma4-12B Uncensored-HauhauCS-1M-GGUF — GGUF-версия модели, опубликованная satgeze и основанная на HauhauCS/Gemma4-12B-QAT-Uncensored-HauhauCS-Balanced, которая, в свою очередь, использует 12-миллиардный dense-чекпойнт Google с квантизацией QAT. Модель предназначена для генерации текста, работы с длинными документами и задач, требующих извлечения информации из больших контекстов. Также заявлена поддержка изображений благодаря vision tower и ускоренного вывода через MTP speculative decoding; запуск ориентирован на llama.cpp и Ollama. Ключевая характеристика модели — контекстное окно до 1 048 576 токенов, увеличенное в четыре раза относительно исходных 262 144 токенов. В README сообщается о сертифицированном needle-in-a-haystack извлечении на всём диапазоне от 64K до 1M токенов, а также о сохранении цепочек многошагового поиска на полном миллионном контексте. MTP ускоряет генерацию примерно на 51% в заявленных тестах, до 218,4 токена в секунду на RTX 5090. Языки явно не указаны. Сильные стороны модели — очень длинный контекст, точное позиционное извлечение и поддержка изображений. Ограничения проявляются в задачах, требующих агрегации данных по всему окну: на больших длинах качество снижается, а режим thinking, по данным README, существенно ухудшает результаты и может зацикливаться или исчерпывать лимит генерации. Для длинноконтекстного извлечения рекомендуется отключать thinking. Модель описана как uncensored и распространяется по лицензии Gemma; конкретные условия лицензии следует учитывать при использовании.

Gemma 4 26B-A4B-it QAT JANG_4M CRACK — мультимодальная доработанная версия Gemma 4 от dealignai. Она сочетает архитектуру MoE с 128 экспертами и выбором восьми активных экспертов, гибридное внимание и квантизацию JANG_4M: 8 бит для attention и 4 бита для MLP. Модель принимает текст и изображения и отвечает текстом; карточка заявляет поддержку рассуждений, визуальных запросов, вопросов и ответов и генерации кода. Модель рассчитана на общие диалоговые сценарии, включая анализ изображений, многошаговые рассуждения и написание кода. По результатам, приведённым в README, её показатель MMLU составляет 79,8% против 84,2% у базовой модели; автор также сообщает о сохранении визуальных возможностей и снижении отказов на тесте HarmBench. Для запуска требуются Mac на Apple Silicon с достаточным объёмом объединённой памяти и vMLX с поддержкой Gemma 4. Лицензия — Gemma; README указывает исследовательское назначение и возлагает на пользователя ответственность за соблюдение применимого законодательства.

Это GGUF-квантование GLM-4.7-Flash, подготовленное TNT.Chat в рамках проекта LOCAL AI. Модель Z.ai — диалоговая MoE-модель класса 30B-A3B; в этой сборке около 20% весов, включая shared expert и тензоры внимания, представлены в Q4_K, остальные — в Q3_K. Такой смешанный формат рассчитан на локальный запуск и использование в редакторах кода, включая VS Code, на потребительском оборудовании; автор заявляет возможность работы в пределах 16 ГБ VRAM и приводит отдельную оценку для контекста 200 тысяч токенов на GPU с 24 ГБ VRAM. Модель генерирует текст в диалоге и ориентирована, среди прочего, на программирование и рассуждения. В карточке приведены рекомендации по параметрам генерации и отмечено, что исправление в llama.cpp устранило зацикливание и низкое качество прежней версии файлов. Заявления о качестве и требованиях к памяти относятся к описанию автора сборки. Репозиторий распространяется по лицензии MIT; README указывает исходный GGUF от Unsloth и метод смешанного квантования, не подтверждая отдельное дообучение этой версии.

GPT-5.2-Codex — модель OpenAI, описанная как улучшенная версия GPT-5.1-Codex и оптимизированная для разработки программного обеспечения и рабочих процессов с кодом. Она предназначена для интерактивной работы над проектами и длительного автономного выполнения сложных инженерных задач. Доступные сведения не раскрывают размер, архитектуру, контекстное окно, языки или лицензию модели. По описанию она принимает запросы и контекст разработки и помогает выполнять инженерные задачи; конкретные ограничения и условия использования в карточке не приведены.

GRaPE 2.5 Helios — мультимодальная инструктивная модель компании SL-AI, дообученная на базе Qwen/Qwen3.5-9B. Она принимает текст и изображения, а также, согласно карточке, видео, и генерирует текст. Модель предназначена для диалога, анализа изображений, рассуждений, творческих задач, программирования с использованием инструментов и задач STEAM. В модели предусмотрены настраиваемые режимы глубины рассуждений и усилий при работе с инструментами; заявлена поддержка нескольких языков. Архитектура — плотная Qwen3.5 для генерации текста с визуальным входом; в метаданных указано 9 млрд параметров, а в README размер округлён до 10 млрд. Модель распространяется по лицензии Apache 2.0. Карточка заявляет, что обучение ориентировано на качество данных, более естественный стиль ответов и улучшение обобщения и агентного программирования. Эти заявления не сопровождаются результатами независимых сравнительных тестов. Для видеовхода и работы с инструментами требуется совместимая обвязка; конкретный формат входного видео README не описывает.

Это GGUF-сборка Huihui-Nex-N2-mini-abliterated, подготовленная LocalAI с использованием APEX — смешанной MoE-квантизации с учётом роли и слоя тензоров. Модель основана на гибридной архитектуре Qwen3.5 с 40 слоями, 256 экспертами (8 активны одновременно), линейным вниманием SSM и полным вниманием; всего около 35,1 млрд параметров, из которых активно около 3 млрд. В сборках MTP сохранена встроенная черновая голова предсказания следующего токена для спекулятивного декодирования. Модель предназначена для диалогов и задач с изображениями. Вариант APEX I-Quality калиброван на разнообразных примерах чата, кода, рассуждений и вызова инструментов. MTP-варианты могут ускорять генерацию, но требуют свежей сборки llama.cpp с поддержкой встроенного MTP; вариант без MTP совместим с более широким диапазоном сборок. Репозиторий содержит несколько вариантов GGUF-квантования примерно по 22,8–24,5 ГБ. Это uncensored-производная: удаление направления отказов может приводить к ответам на запросы, от которых исходная модель отказалась бы. Лицензия — Apache-2.0.

munekazu/Huihui-Qwen3.8-27B-abliterated-FP8 — FP8-квантизированная версия модели Huihui-Qwen3.8-27B-abliterated от huihui-ai, созданная на основе Qwen/Qwen3.8-27B. Модель предназначена для генерации текста и мультимодальных сценариев с использованием текста и изображений, а также для развёртывания через vLLM. Это abliterated-версия, в которой удалены ограничения на отказы, присутствующие в исходной модели. Модель имеет размер 27B параметров и использует block-wise FP8-квантизацию формата e4m3 с блоками 128×128 и динамическими активациями. Объём хранения сокращён примерно с 52 GiB в BF16 до 29 GiB в FP8. Vision tower, нормализационные слои и отдельные компоненты MTP-головы сохранены в BF16, что обеспечивает поддержку мультимодального пути vLLM и speculative decoding. Заявлена поддержка контекста до 262 144 токенов; для рассуждений используется шаблон чата с параметром reasoning_effort. Сильные стороны модели — уменьшенные требования к памяти, поддержка мультимодальности, MTP speculative decoding и сохранение значительной части поведения базовой модели благодаря абляции только среднего диапазона слоёв. Ограничения включают зависимость от совместимости vLLM и аппаратного обеспечения: на GPU Ampere FP8 не использует нативные tensor cores и применяется kernel Marlin W8A16, поэтому экономия памяти не сопровождается ускорением вычислений. В vLLM 0.24.0 также наблюдалась проблема с возвратом reasoning_content через API, хотя качество ответов не страдает. Модель распространяется по лицензии Apache-2.0.

internlm3-8B-Nex-N1 — чат-модель серии Nex-N1 от разработчиков платформы Nex, представленная в работе о создании агентных моделей. Это плотная авторегрессионная модель InternLM3 с 8,3 млрд параметров, опубликованная в формате Safetensors; карточка указывает контекст до 131 072 токенов и лицензию Apache-2.0. Модель предназначена для агентных сценариев: программирования, вызова инструментов и функций, веб-поиска и многошаговых задач. Разработчики также заявляют применение для создания мини-приложений, сайтов и слайдов. В README описана поддержка function calling и приведены результаты серии Nex-N1 на агентных бенчмарках, однако таблица не содержит отдельной строки с результатами именно этой 8B-модели. Модель принимает текстовые запросы и генерирует текстовые ответы; в метаданных отмечен режим чата. Языковая поддержка отдельно не описана. Для запуска разработчики рекомендуют SGLang; для function calling предлагается специальный парсер инструментов. Качество в конкретных задачах и совместимость с окружением агента могут зависеть от конфигурации и инструментов.