II.8Инженерия данных и аналитика

Granite-4.0-H-Tiny — языковая модель IBM Granite Team для диалогов и выполнения инструкций, рассчитанная на создание ассистентов и бизнес-приложений. Это дообученная на инструкциях модель семейства Granite 4.0: в README указана версия на 7 млрд параметров, тогда как метаданные репозитория сообщают 500,2 млн параметров. Архитектура — декодерный гибридный MoE-трансформер с GQA, Mamba2, общими экспертами, SwiGLU, RMSNorm и общими входными и выходными эмбеддингами; поддерживается контекст до 131 072 токенов. Модель подходит для суммаризации, классификации и извлечения текста, ответов на вопросы, RAG, задач с кодом и вызова инструментов, а также многоязычного диалога. В README перечислены английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский. Модель обучена преимущественно на англоязычных инструкциях; качество на других языках может быть ниже. Она может выдавать неточные, предвзятые или небезопасные ответы, поэтому для конкретного применения нужны проверка и настройка безопасности. Разработчик — IBM Granite Team. Лицензия — Apache 2.0; веса опубликованы в формате safetensors.

K2-Horizon-32B — плотная авторегрессионная языковая модель с архитектурой K2HorizonForCausalLM, разработанная IFM. Модель содержит 31,2 млрд параметров и предназначена для генерации текста в диалогах, решения задач на рассуждение, программирование и сценариев с агентами. Для работы с чатом и вызовом инструментов предусмотрены соответствующие парсеры; основной pipeline-тег — text-generation. Модель поддерживает контекст до 524 288 токенов и опубликована в формате Safetensors для Transformers. В карточке указаны английский язык и открытая публикация обучающих данных, рецепта и кода обучения. Указанная лицензия — Apache-2.0. Для заявленного качества авторы рекомендуют высокий уровень рассуждений; для обслуживания описаны конфигурации vLLM и SGLang, включая использование двух ускорителей H200.

Kimi K3 — открытая мультимодальная модель AMAImedia, выпущенная в составе платформы автоматизации профессионального дубляжа NOESIS. В карточке заявлены архитектура Kimi Delta Attention с Attention Residuals, размер 2,8 трлн параметров и контекст до 1 млн токенов; метаданные указывают класс KimiK3ForConditionalGeneration и формат safetensors. Модель принимает текст и изображения, а README также заявляет поддержку видео; её назначение включает диалог, рассуждения, длительные задачи программирования и агентную работу с инструментами. Модель рассчитана на анализ больших репозиториев и документов, помощь в разработке, исследовательские задачи и мультимодальную работу с изображениями и видео. README сообщает, что режим размышления включён постоянно и ответ может содержать reasoning_content; усилие рассуждения настраивается параметром reasoning_effort. Указанная в карточке лицензия — other, а README называет её Kimi K3 License, поэтому конкретные условия следует проверять в тексте лицензии репозитория. Метаданные классифицируют модель как image-text-to-text, при этом каталог дополнительно относит её к text-generation.

RedHatAI/Llama-3.3-70B-Instruct — инструктивная языковая модель Meta, распространяемая Red Hat AI. Это плотная авторегрессионная модель семейства Llama на архитектуре Transformer с 69,5 млрд параметров, обученная для следования инструкциям и диалогов; настройка включает supervised fine-tuning и обучение с обратной связью от людей. Модель принимает текст и генерирует текст, в том числе код, поддерживает контекст до 131 072 токенов и интерфейс вызова инструментов. Модель предназначена для многоязычных диалоговых ассистентов, генерации текста и кода, а также коммерческих и исследовательских сценариев. В карточке указана поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Модель статична и обучена на офлайн-данных; знания ограничены данными обучения с отсечкой декабря 2023 года. Для вызова внешних инструментов требуется интеграция со стороны приложения. Использование регулируется пользовательским соглашением Llama 3.3 Community License и соответствующей политикой допустимого использования.

Карточка модели Darth-Coder/my-model3-8b-it на Hugging Face совпадает с карточкой Qwen/Qwen3-8B, поэтому описание составлено по ней. Qwen3-8B — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Версия содержит 7,6 млрд параметров по метаданным и дообучена на базе Qwen/Qwen3-8B-Base; карточка описывает этапы предварительного обучения и последующего обучения. Модель принимает текст и генерирует текст, поддерживает диалог и интерфейс вызова инструментов. Модель предназначена для диалоговых помощников, следования инструкциям, рассуждений, решения математических задач, генерации кода, творческого письма и перевода. Она поддерживает более 100 языков и диалектов и позволяет переключаться между режимами рассуждения и обычного ответа. Метаданные указывают нативный контекст 40 960 токенов; README приводит 32 768 токенов нативно и до 131 072 с YaRN. Лицензия — Apache-2.0. Качество ответов и рассуждений может зависеть от задачи и формулировки запроса; генерация кода и ответы модели требуют проверки. Значение контекстного окна в README отличается от метаданных, а заявленное расширение с YaRN требует соответствующей настройки.

Neuron-46x4B-Instruct — инструкция бойынша жауап беруге бапталған, Neura Tech AI әзірлеген сирек сарапшылар қоспасы (MoE) бар тілдік модель. Ол мәтін генерациясы мен диалогқа арналған. README 46 сарапшы, токенге шаққанда шамамен 8 млрд белсенді параметр және жалпы шамамен 125 млрд параметр барын мәлімдейді; метадеректерде модель көлемі 3,7 млрд параметр деп көрсетілген. Архитектурасы Qwen3 MoE, файлдары Safetensors форматында, ал контекст терезесі 262 144 токенге дейін. Модель код жазу мен түсіндіру, математикалық және көп қадамды пайымдау, көптілді әңгімелесу, аудару, құжаттарды талдау және құралдарды қолданатын агенттерге негіз болу сценарийлеріне арналған. Карточкада ағылшын, қытай, хинди, араб, жапон, корей, еуропалық тілдер, орыс және басқа тілдер аталған. Деректерде Neura-Tech-AI/Neuron-4B-Instruct және Qwen3-4B-Instruct-2507, Qwen3-4B-Thinking-2507 базалық модельдерімен merge байланысы көрсетілген; лицензиясы — Apache-2.0. Модель қате, толық емес немесе ойдан шығарылған жауап беруі мүмкін. Нәтижелерді, әсіресе қауіпсіздікке, құқыққа, қаржыға немесе медицинаға қатысты қолданар алдында тексеру керек; өнімділігі инференс ортасына, жабдыққа, квантизацияға және сұрау пішіміне тәуелді.

Это GGUF-модель NVIDIA Nemotron-3-Nano-30B-A3B в формате BF16, подготовленная автором репозитория с помощью llama.cpp. Исходная модель NVIDIA обучена с нуля как универсальная языковая модель для рассуждений и обычного диалога; этот вариант использует гибридную архитектуру MoE с 23 слоями Mamba-2 и MoE и 6 слоями внимания. Всего модель содержит 30 млрд параметров, из которых на каждом токене активны около 3,5 млрд; в каждом MoE-слое есть 128 экспертов и один общий эксперт, активируются шесть экспертов. Модель предназначена для ответов на вопросы, следования инструкциям, программирования, многоязычного диалога, а также создания чат-ботов, RAG-систем и агентных приложений. Режим рассуждений можно включать и отключать через шаблон чата; карточка указывает контекст до 1 млн токенов, при этом конфигурация по умолчанию рассчитана на 256 тыс. токенов. Поддерживаются английский, немецкий, испанский, французский, итальянский и японский языки. Вариант использует BF16, поэтому это не низкобитная квантизация, хотя веса представлены в GGUF и подготовлены для llama.cpp. Для запуска также перечислены Transformers, vLLM, TRT-LLM и SGLang; максимальный контекст и требования к памяти зависят от конфигурации. Модель заявлена как пригодная для коммерческого использования; метаданные репозитория указывают лицензию «other», поэтому перед применением следует проверить условия лицензии исходной модели NVIDIA.

NVIDIA Nemotron Nano 9B v2 — языковая модель NVIDIA для диалогов, следования инструкциям и задач с рассуждением. Она генерирует текстовый ответ и позволяет управлять режимом и бюджетом рассуждения. Архитектура Nemotron-Hybrid сочетает Mamba-2 и MLP-блоки с четырьмя слоями Attention; заявленная длина контекста — до 128 тыс. токенов. Модель рассчитана на чат-боты, RAG-системы и агентные приложения, а также на программирование и типовые задачи по инструкциям. Модель поддерживает английский, немецкий, испанский, французский, итальянский и японский; в README также перечислены русский, корейский, португальский и китайский. Она принимает и выдаёт текст. В карточке указана коммерческая применимость, но метаданные обозначают лицензию как other, поэтому точные условия следует проверять в файлах лицензии репозитория. Для корректного вывода при запуске через vLLM README рекомендует тип кэша Mamba SSM float32; без него качество может снижаться.

Карточка модели ArchiveStudio/Qwen2.5-14B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-14B-Instruct, поэтому описание составлено по ней. Qwen/Qwen2.5-14B-Instruct — инструкционно дообученная большая языковая модель семейства Qwen2.5, разработанная командой Qwen. Это плотная авторегрессионная модель с архитектурой Qwen2ForCausalLM, 14,7 млрд параметров, RoPE, SwiGLU, RMSNorm и групповой обработкой запросов внимания. Репозиторий содержит веса в формате Safetensors и предназначен для генерации текста в диалоговом формате. Модель подходит для чат-ботов, следования инструкциям, генерации длинных текстов, работы с таблицами и структурированными ответами, включая JSON. В README заявлена поддержка более 29 языков, в том числе русского и английского. Метаданные указывают контекст в 32 768 токенов; README сообщает о возможности расширения контекста до 131 072 токенов с YaRN и генерации до 8 192 токенов. Модель также заявлена как улучшенная для программирования и математики, но результаты зависят от запроса и не гарантируют точности. Для контекстов длиннее 32 768 токенов требуется настройка YaRN; её статический коэффициент масштабирования в vLLM может снижать качество на коротких входах. Лицензия Apache-2.0 допускает использование на её условиях.

Карточка модели CookieXG/Qwen3-4B на Hugging Face совпадает с карточкой Qwen/Qwen3-4B, поэтому описание составлено по ней. Qwen3-4B — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Она предназначена для диалогов, следования инструкциям, рассуждений, генерации кода, творческого письма, многоязычных задач и работы с инструментами. В модели около 3,7 млрд параметров по метаданным; она использует архитектуру Qwen3ForCausalLM и поддерживает контекст до 40 960 токенов по метаданным. README описывает переключение между режимами рассуждения и обычного диалога, а также поддержку более 100 языков и диалектов. Модель обучена на базе Qwen/Qwen3-4B-Base и распространяется в формате safetensors для библиотеки Transformers. Лицензия — Apache 2.0. Карточка предупреждает о возможных бесконечных повторах при генерации и рекомендует настраивать параметры сэмплирования.

palmfuture/Qwen3.6-35B-A3B-GPTQ-Int4 — GPTQ-квантизированная версия модели Qwen3.6-35B-A3B, разработанная сообществом palmfuture на базе модели Qwen. Это мультимодальная модель для работы с текстом и изображениями, поддерживающая задачи генерации текста, следования инструкциям, программирования, математических рассуждений, агентских сценариев и обработки визуально-текстовых запросов. Заявлены языки English, Thai, Chinese и multilingual. Модель использует MoE-архитектуру Qwen3_5MoeForConditionalGeneration с 35 млрд параметров в общей сложности и примерно 3 млрд активных параметров на токен. В ней 256 экспертов, из которых для каждого токена выбираются 8, и 40 скрытых слоёв. Контекстное окно составляет 262 144 токена. Квантизация выполнена в формате GPTQ v2, 4-bit, с group_size=128 и симметричным представлением; размер модели вместе с MTP-весами — около 24,4 ГБ. Веса MTP (Multi-Token Prediction) сохранены в BF16 и поддерживают speculative decoding в vLLM и SGLang. К сильным сторонам относятся существенно уменьшенный размер по сравнению с полноформатной моделью, сохранение заявленного качества на уровне около 97,9% от BF16-версии по perplexity на wikitext-2-raw-v1, поддержка мультимодальности, длинного контекста и ускоренного декодирования. Ограничения связаны с требованиями к ресурсам: для рекомендованных конфигураций требуется несколько GPU, а совместимость и параметры запуска зависят от версий vLLM, SGLang и Transformers. Квантизация может приводить к некоторой потере качества, а для архитектуры требуется trust_remote_code. Модель распространяется по лицензии Apache-2.0.

TelperionAI/Qwen3.8-27B-INT4-AWQ-GPTQ-gdn4 — квантизированная версия языковой модели Qwen3.8-27B, разработанная TelperionAI на базе модели Qwen/Qwen3.8-27B. Она предназначена для локального и серверного запуска больших языковых моделей, включая генерацию текста, рассуждения, работу с кодом, математическими и STEM-задачами, чат-сценарии и мультиязычные запросы. Модель рассчитана на использование через Transformers и vLLM; README отдельно указывает поддержку speculative decoding с MTP. Это смешанная квантизация INT4 W4A16 с группами размера 32 и асимметричным представлением весов. Для большинства MLP-проекций и GDN-линейных проекций используется INT4, часть слоёв MLP и все проекции self-attention хранятся в INT8, а lm_head, embed_tokens, нормализации, параметры состояния GDN, vision tower и MTP-head — в BF16. Квантизация выполнена в два этапа: AWQ с учетом активаций и последующая GPTQ-компенсация ошибок. Размер модели составляет около 22,6 ГБ; для работы требуется GPU с Compute Capability не ниже 7.5, то есть поддерживаются устройства уровня Turing и новее. Сильная сторона модели — удачный баланс размера и точности: по приведённым тестам она ближе к исходной BF16-модели, чем некоторые сопоставимые INT4-варианты, при заметно меньшем объёме, чем FP8-релиз. При этом переход GDN-проекций на INT4 немного снижает точность по сравнению с более крупной версией модели с GDN в INT8, а производительность зависит от GPU и реализации Marlin; измерения на B300 не следует напрямую переносить на Ampere. Модель распространяется по лицензии Apache-2.0.

Карточка модели Riyan200324200324/Qwen3-8B на Hugging Face совпадает с карточкой Qwen/Qwen3-8B, поэтому описание составлено по ней. Qwen3-8B — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Версия содержит 7,6 млрд параметров по метаданным и дообучена на базе Qwen/Qwen3-8B-Base; карточка описывает этапы предварительного обучения и последующего обучения. Модель принимает текст и генерирует текст, поддерживает диалог и интерфейс вызова инструментов. Модель предназначена для диалоговых помощников, следования инструкциям, рассуждений, решения математических задач, генерации кода, творческого письма и перевода. Она поддерживает более 100 языков и диалектов и позволяет переключаться между режимами рассуждения и обычного ответа. Метаданные указывают нативный контекст 40 960 токенов; README приводит 32 768 токенов нативно и до 131 072 с YaRN. Лицензия — Apache-2.0. Качество ответов и рассуждений может зависеть от задачи и формулировки запроса; генерация кода и ответы модели требуют проверки. Значение контекстного окна в README отличается от метаданных, а заявленное расширение с YaRN требует соответствующей настройки.

unsloth/Qwen3-8B-GGUF — версия языковой модели Qwen3-8B, подготовленная Unsloth в формате GGUF на базе Qwen/Qwen3-8B. Qwen разработана Alibaba Cloud. Модель предназначена для диалоговых приложений, следования инструкциям, генерации текста и кода, математического и логического рассуждения, творческого письма, ролевого взаимодействия, перевода и агентских сценариев с использованием внешних инструментов. Это каузальная языковая модель с 8,2 млрд параметров, из которых 6,95 млрд приходятся не на embedding-слои. Архитектура включает 36 слоёв и Grouped-Query Attention с 32 головами для Q и 8 для KV. Поддерживаются режимы «мышления» и «без мышления», между которыми можно переключаться в запросах. Нативная длина контекста составляет 32 768 токенов, а с YaRN — до 131 072 токенов. Заявлена поддержка более 100 языков и диалектов; в метаданных README отдельно указан английский язык. Сильными сторонами являются рассуждение, следование инструкциям, многоязычность, генерация кода и поддержка агентских задач, а также возможность выбирать между качеством рассуждения и скоростью ответа. Ограничения включают отсутствие в предоставленных данных подробностей о фактической производительности, требованиях к оборудованию и поддерживаемых инструментах запуска. Модель распространяется по лицензии Apache-2.0.

Карточка модели exolabs/Step-3.7-Flash-IQ4_XS-dequant-bf16-vllm на Hugging Face совпадает с карточкой stepfun-ai/Step-3.7-Flash, поэтому описание составлено по ней. StepFun разработала Step 3.7 Flash — мультимодальную модель со смесью экспертов (MoE), предназначенную для высоконагруженных рабочих процессов. Она содержит 198 млрд параметров, из которых около 11 млрд активируются на каждом токене; включает языковую часть на 196 млрд параметров и визуальный энкодер на 1,8 млрд. Модель принимает изображения и текст, поддерживает контекст до 256 тыс. токенов и три уровня рассуждений: низкий, средний и высокий. Модель предназначена для понимания изображений, анализа больших документов, многошагового поиска и проверки фактов, оркестрации инструментов и API, а также для задач разработки ПО — например, поиска ошибок в репозиториях и подготовки исправлений. Заявленная скорость генерации достигает 400 токенов в секунду. Карточка описывает её как модель для производственных нагрузок; доступны варианты развёртывания через облачные платформы и локальные средства инференса. Репозиторий использует библиотеку Transformers и формат Safetensors. Лицензия — Apache-2.0. В метаданных указан английский язык; README не подтверждает поддержку других естественных языков.

BTL-4 Compact — текстовая GGUF-версия модели BTL-4 от Bad Theory Labs, распространяемая для запуска в llama.cpp, Ollama и LM Studio. Это квантованная модель класса Mixture of Experts, предназначенная для генерации текста, программирования, работы с технической документацией, агентных сценариев и использования инструментов. Модель поставляется одним файлом размером 9,96 ГБ и не требует загрузки или восстановления базовой модели. Модель содержит 35,1 млрд параметров, из которых около 2,1 млрд активны для каждого токена. Архитектура включает 40 слоёв: 30 слоёв с линейным вниманием и 10 слоёв с полным вниманием; в каждом слое 256 экспертов, из которых для токена выбираются 8. Нативный контекст составляет 262 144 токена. Сборка является текстовой: vision tower исключён. Слой multi-token prediction отключён, но это не мешает обычной работе модели. Главное преимущество BTL-4 Compact — сочетание большого общего числа параметров с относительно низкими вычислительными затратами и возможностью запуска на пользовательском оборудовании. Квантование выполнено с эффективностью 2,30 бита на вес; заявленное сохранение измеренного поведения полной модели составляет 94,1% на тесте из 118 заданий. Ограничения включают потерю качества из-за сильного квантования, отсутствие обработки изображений и чувствительность агентных сценариев к настройкам шаблона чата и формата рассуждений. Для корректной работы требуется версия llama.cpp с поддержкой qwen3_5_moe и определённые параметры запуска. Модель распространяется по лицензии Apache-2.0, унаследованной от базовой модели.

C4AI Command R7B — открытая исследовательская модель с весами, разработанная Cohere и Cohere For AI. Данный репозиторий содержит её квантизированные версии в формате GGUF с использованием imatrix, предназначенные для локального запуска через llama.cpp и совместимые с рядом клиентских интерфейсов, включая KoboldCPP, Ollama, Jan, text-generation-webui и GPT4All. Модель имеет 7 миллиардов параметров и контекстное окно 128K токенов. Это мультиязычная text-generation модель, обученная на 23 языках. Она предназначена для рассуждений, суммаризации, ответов на вопросы, генерации кода, Retrieval Augmented Generation (RAG) и использования инструментов. Также заявлены агентные возможности: модель может комбинировать несколько инструментов и выполнять многошаговые задачи. К её сильным сторонам относятся широкий контекст, поддержка нескольких языков и ориентация на корпоративные сценарии, включая работу с кодом. Ограничения связаны с относительно небольшим размером по сравнению с крупными моделями и необходимостью использовать совместимое программное обеспечение; для запуска GGUF-файлов требуется llama.cpp версии b4415 или новее. Модель распространяется по лицензии CC-BY-NC, которая не допускает коммерческое использование, а также требует соблюдения Acceptable Use Policy от C4AI. Репозиторий содержит квантизированные производные исходной модели c4ai-command-r7b-12-2024, опубликованной Cohere For AI.

duyntnet/cogito-v1-preview-qwen-14B-imatrix-GGUF — набор imatrix-квантизаций языковой модели Cogito v1-preview Qwen 14B, первоначально разработанной deepcogito. Это instruction-tuned генеративная модель формата «текст на входе — текст на выходе», предназначенная для диалогов, генерации текста, программирования, задач STEM, следования инструкциям, общего ассистирования и вызова инструментов. Репозиторий предоставляет варианты в формате GGUF для локального запуска через llama.cpp и совместимые приложения, включая KoboldCPP, text-generation-webui, Ollama, Jan и LM Studio. Модель использует гибридный подход к рассуждениям: может отвечать напрямую в стандартном режиме или выполнять дополнительную саморефлексию в режиме extended thinking. Поддерживаются одиночные, параллельные и комбинированные вызовы инструментов. Модель обучалась более чем на 30 языках и поддерживает контекст до 128k токенов; заявлены улучшенные многоязычные возможности, качество программирования и tool calling по сравнению с моделями сопоставимого размера. Архитектура описана как Qwen 14B, однако точные параметры GGUF-квантизаций в README не приведены. К сильным сторонам относятся сочетание стандартного и рассуждающего режимов, широкий контекст, поддержка многоязычных сценариев, программирования и инструментов, а также возможность локального инференса. Ограничения включают preview-статус исходной модели, зависимость характеристик от конкретного варианта квантизации и отсутствие в README точных данных о размерах файлов, требованиях к оборудованию и результатах бенчмарков. Указана лицензия other; при этом исходное описание сообщает, что модели Cogito выпущены по открытой лицензии с разрешением коммерческого использования, но точные условия лицензии для данного репозитория не раскрыты.

google/gemma-4-31B-it-qat-q4_0-unquantized — мультимодальная инструкционно-настроенная модель семейства Gemma 4, разработанная Google DeepMind. Это dense-модель с архитектурой Gemma4ForConditionalGeneration, принимающая текст и изображения и генерирующая текст. Вариант QAT Q4_0 содержит веса половинной точности, извлечённые из процесса обучения с учётом квантования; он предназначен для дальнейшей компиляции и исследовательской работы с меньшими требованиями к памяти по сравнению с обычной версией bfloat16. Модель подходит для диалогов, генерации и анализа текста, программирования, рассуждений, понимания изображений, распознавания текста на изображениях и разбора документов. Семейство Gemma 4 поддерживает контекст до 256 тысяч токенов и многоязычную работу; описание карточки заявляет поддержку более 140 языков при предварительном обучении. Для этого варианта доступен формат safetensors и библиотека Transformers. Лицензия — Apache 2.0. Возможности обработки аудио и видео перечислены для отдельных моделей семейства, но не подтверждены для данного чекпойнта. Качество и скорость зависят от аппаратного обеспечения и последующей компиляции; QAT-веса этого варианта не являются готовым GGUF-пакетом для непосредственного развёртывания.

GLM-4-9B-Chat — диалоговая языковая модель семейства GLM, выпущенная Zhipu AI. Репозиторий содержит версию в формате Transformers и safetensors; модель насчитывает 8,8 млрд параметров и рассчитана на генерацию текста в многораундовом чате. Модель подходит для ответов на вопросы, рассуждений, задач по математике и коду, а также для сценариев с вызовом инструментов и длинными документами. Заявленная длина контекста — до 128K токенов. Поддерживаются китайский и английский; автор также заявляет поддержку 26 языков. README сообщает о результатах тестов на задачах семантики, математики, рассуждений, кода и знаний, но не приводит полных данных для некоторых сравнительных таблиц. Это дообученная версия THUDM/glm-4-9b-chat. Для загрузки весов требуется transformers версии 4.46.0 или новее: репозиторий несовместим с более старыми версиями. Лицензия указана как other, поэтому условия использования следует уточнить в материалах репозитория.

Карточка модели CandyBuster/GLM-5.2 на Hugging Face совпадает с карточкой Ares-Realm-Studios/GLM-5.2, поэтому описание составлено по ней. GLM-5.2 — большая языковая модель от Ares-Realm-Studios для продолжительных задач, диалогов и программирования. Она построена на архитектуре GLM MoE DSA и содержит 30,4 млрд параметров; модель принимает и генерирует текст, поддерживает контекст до 1 048 576 токенов и рассчитана прежде всего на английский и китайский языки. Модель предназначена для многошаговой работы с длинным контекстом, включая анализ материалов и разработку программного кода. В README заявлены гибкие уровни усилий рассуждения и оптимизации для обработки контекста в миллион токенов; для локального запуска перечислены Transformers, vLLM, SGLang и другие среды. Репозиторий содержит веса Safetensors. Модель распространяется по лицензии MIT. Заявленные возможности и результаты приведены авторами; практическое качество может зависеть от сценария и настроек запуска.

Карточка модели sanjum2/GLM-5.2-Own на Hugging Face совпадает с карточкой zai-org/GLM-5.2, поэтому описание составлено по ней. GLM-5.2 — флагманская языковая модель компании Z.ai для длительных задач и диалогового взаимодействия. Она предназначена для генерации текста, программирования и решения задач, требующих работы с большим объёмом контекста. Модель построена на архитектуре GLM MoE DSA и содержит 30,4 млрд параметров. Поддерживает контекст до 1 048 576 токенов; в README также отмечены гибкие уровни усилий для задач программирования, механизм IndexShare для снижения вычислений на длинном контексте и улучшение MTP для ускорения спекулятивного декодирования. Заявлены английский и китайский языки. Модель доступна в формате safetensors для Transformers и поддерживается рядом сред локального запуска, включая vLLM и SGLang. Лицензия — MIT. README приводит сравнительные результаты на бенчмарках, но они зависят от настроек и сценариев оценки.

GLM-5.3-GGUF — квантизированная версия модели GLM-5.3, распространяемая Unsloth на основе базовой модели zai-org/GLM-5.3. Это текстовая генеративная модель для задач, требующих рассуждений, написания и анализа кода, длительных многоэтапных рабочих процессов, взаимодействия с инструментами и автоматизации. Заявлена поддержка английского и китайского языков. Модель использует архитектуру GLM-5.3; точный размер, число параметров, тип и уровни GGUF-квантизации, а также максимальная длина контекста в представленном README не указаны. Доступно управление бюджетом рассуждений через параметр reasoning_effort со значениями low, high и max; по умолчанию используется max. В описании особо отмечены улучшения в сложном программировании и задачах с длинным горизонтом по сравнению с GLM-5.2, а также высокие результаты в тестах на поиск уязвимостей и эксплуатацию. Сильные стороны модели — программирование, агентные сценарии, работа с терминалом, автоматизация и кибербезопасность; при этом приведённые результаты являются заявленными бенчмарками и не гарантируют аналогичное качество в каждом применении. Для чат-сценариев рекомендуется явно задавать clear_thinking=true. Модель распространяется по лицензии glm-5.3; условия этой лицензии в README не приведены.

Granite-4.2-3B (NVFP4) — компактная языковая модель семейства Granite, разработанная командой Granite компании IBM. Это NVFP4-квантизованная версия Granite-4.2-3B, предназначенная для генерации текста, диалога, рассуждений, написания кода, вызова инструментов и агентных рабочих процессов. Модель построена как плотный decoder-only Transformer с архитектурой GraniteForCausalLM и содержит около 3 млрд параметров. Она поддерживает встроенный режим рассуждений с тегами <think>...</think>, а также режимы полного, отключённого и облегчённого рассуждения. Архитектура использует Grouped Query Attention, 40 attention heads, 8 KV heads, RoPE, SwiGLU и RMSNorm. Нативная длина контекста составляет 128K токенов, заявлено расширение до 512K. Поддерживаются английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Модель работает с текстом; мультимодальность не заявлена. Сильные стороны модели — небольшие размеры, поддержка длинного контекста, reasoning, генерации кода, tool calling и многоязычного диалога, что упрощает локальное и ресурсно-ограниченное развертывание. Ограничения включают более слабую и вариативную производительность на языках, отличных от английского, а также возможность неточных, предвзятых или небезопасных ответов; результаты NVFP4-квантизации могут отличаться от полноточной версии. Модель распространяется по лицензии Apache 2.0, допускающей коммерческое и исследовательское использование.

GRM-2.6-Plus-0628 — дообученная OrionLLM модель с 27 млрд параметров на архитектуре семейства Qwen3.5. Она предназначена для общего общения и сложных задач, включая структурированные рассуждения, программирование и длительные многошаговые агентные сценарии. Метаданные указывают поддержку изображений и интерфейса вызова инструментов; модель принимает текст и изображения и генерирует текст. В README также описана исправленная версия шаблона чата для передачи вызовов инструментов в некоторых движках инференса. Модель выпущена под лицензией Apache 2.0. Заявления о высокой производительности приведены в карточке, но численные результаты бенчмарков в доступном тексте отсутствуют.

Карточка модели manaladan6/HYDRALINK на Hugging Face совпадает с карточкой zai-org/GLM-5.2, поэтому описание составлено по ней. GLM-5.2 — флагманская языковая модель компании Z.ai для длительных задач и диалогового взаимодействия. Она предназначена для генерации текста, программирования и решения задач, требующих работы с большим объёмом контекста. Модель построена на архитектуре GLM MoE DSA и содержит 30,4 млрд параметров. Поддерживает контекст до 1 048 576 токенов; в README также отмечены гибкие уровни усилий для задач программирования, механизм IndexShare для снижения вычислений на длинном контексте и улучшение MTP для ускорения спекулятивного декодирования. Заявлены английский и китайский языки. Модель доступна в формате safetensors для Transformers и поддерживается рядом сред локального запуска, включая vLLM и SGLang. Лицензия — MIT. README приводит сравнительные результаты на бенчмарках, но они зависят от настроек и сценариев оценки.

Motif-3-NVFP4 — это NVFP4-квантизированный вариант большой авторегрессионной языковой модели Motif 3, разработанной компанией Motif Technologies. Модель предназначена для генерации текста общего назначения, мультиязычных задач, программирования, математического рассуждения, работы с длинными контекстами и агентных сценариев с использованием инструментов. Указанные языки — английский и корейский. Модель построена на декодерной архитектуре Mixture-of-Experts с примерно 314 млрд параметров, из которых около 13,2 млрд активируются для каждого токена. Она содержит 53 слоя, включая 2 плотных и 51 MoE-слой, 384 маршрутизируемых эксперта с выбором 8 экспертов на токен и одного общего эксперта. Используются Grouped Differential Latent Attention, модифицированные manifold-constrained hyper-connections, Expert-Specific PolyNorm и Multi-Token Prediction для self-speculative decoding. Нативная длина контекста составляет 262 144 токена, размер словаря — 220 160. Квантизация NVFP4 уменьшает требования к памяти и ориентирована на эффективное развертывание на GPU класса NVIDIA Blackwell. Сильными сторонами модели заявлены работа с длинным контекстом, агентное и инструментальное взаимодействие, а также конкурентные результаты в задачах программирования, математики и общих знаний. По приведённым тестам, NVFP4-версия в среднем почти не уступает варианту Block-FP8 по точности, однако фактическая производительность может зависеть от оборудования и настроек инференса. Ограничения включают высокую общую ёмкость модели, необходимость совместимого NVFP4-оборудования и отсутствие в этой карточке полного описания базовой модели и подробностей оценки. Модель распространяется по лицензии MIT.

NVIDIA-Nemotron-3-Nano-30B-A3B-NVFP4 — большая языковая модель, разработанная NVIDIA Corporation и представленная в квантованном формате NVFP4. Она предназначена для генерации текста, решения задач с рассуждением и без него, программирования, математических и научных задач, а также создания специализированных AI-агентов. Модель может сначала формировать рассуждение, а затем итоговый ответ; этот режим настраивается через флаг в chat template. Отключение промежуточных рассуждений уменьшает задержку, но может немного снизить точность на сложных запросах. Модель использует гибридную архитектуру Mixture-of-Experts: 23 слоя Mamba-2 и MoE, 6 attention-слоёв, по 128 экспертов и одному общему эксперту в каждом MoE-слое, при этом на каждый токен активируются 6 экспертов. Всего модель содержит 30 млрд параметров, из которых активно около 3,5 млрд, что повышает эффективность инференса. Поддерживаются английский, немецкий, испанский, французский, итальянский и японский языки. Размер контекста в предоставленных данных не указан. Сильными сторонами модели являются сочетание reasoning и обычной генерации, высокая вычислительная эффективность за счёт разреженной активации экспертов и пригодность для коммерческих сценариев. NVFP4-квантизация может снизить требования к памяти по сравнению с полноформатными вариантами, однако в приведённых оценках она уступает BF16-версии на ряде задач. Модель обучалась на данных с отсечками июня 2025 года для предобучения и ноября 2025 года для post-training, поэтому её знания могут быть неполными или устаревшими. Использование регулируется NVIDIA Nemotron Open Model License.

qwp4w3hyb/Qwen2-72B-Instruct-iMat-GGUF — это квантованная GGUF-версия инструкционно дообученной языковой модели Qwen2-72B-Instruct, разработанной командой Qwen/Tongyi Qianwen. Модель предназначена для диалогов, генерации и понимания текста, решения задач рассуждения, программирования, математики и работы с многоязычными запросами. Модель основана на архитектуре Transformer с активацией SwiGLU, смещениями в QKV внимания, group query attention и токенизатором, адаптированным к естественным языкам и коду. Размер модели — 72 миллиарда параметров. Указана поддержка контекста до 131 072 токенов с применением YARN для обработки длинных текстов. Модель работает в текстовой модальности; в карточке явно указан английский язык, при этом оригинальная модель заявляет многоязычные возможности. Доступен широкий набор квантований от Q8_0 до IQ1_S, выполненных с использованием importance matrix для снижения потерь точности при квантовании. Сильные стороны модели — большой размер, расширенный контекст, широкий выбор уровней квантования и заявленная конкурентоспособность в понимании и генерации текста, кодировании, математике и рассуждениях. Ограничения включают высокие требования к вычислительным ресурсам для крупных вариантов квантования и возможное снижение точности у более агрессивных вариантов. Для развёртывания длинного контекста рекомендуется vLLM с настройкой YARN. Лицензия указана как other; в качестве лицензионного соглашения приведена Tongyi Qianwen.

unsloth/Qwen3-4B-Instruct-2507-unsloth-bnb-4bit — 4-битная версия модели Qwen3-4B-Instruct-2507, подготовленная Unsloth на основе модели Qwen/Qwen3-4B-Instruct-2507, разработанной командой Qwen. Это авторегрессионная causal language model для генерации текста и диалоговых сценариев. Модель предназначена для следования инструкциям, ответов на вопросы, логического рассуждения, понимания текста, математики, науки, программирования, использования инструментов и генерации творческих текстов. Она поддерживает несколько языков и рассчитана на работу с длинным контекстом до 262 144 токенов. Модель работает только в non-thinking режиме и не генерирует блоки <think></think>. Архитектура включает 4,0 млрд параметров, из которых 3,6 млрд не являются embedding-параметрами, 36 слоёв и Grouped-Query Attention с 32 головами Q и 8 головами KV. Квантование до 4 бит снижает требования к памяти и может упростить локальное развёртывание, однако потенциально сопровождается потерей точности по сравнению с полноразмерной версией. В README заявлены улучшения в знаниях, рассуждении, кодировании, агентских задачах, многоязычности и соответствии пользовательским предпочтениям, но конкретная производительность зависит от сценария и среды запуска. Лицензия — Apache-2.0.