I.5Создание и редактирование текста

Карточка модели thoratsr7/Phi-4-multimodal-instruct на Hugging Face совпадает с карточкой microsoft/Phi-4-multimodal-instruct, поэтому описание составлено по ней. Phi-4-multimodal-instruct — мультимодальная модель Microsoft на 3,8 млрд параметров с плотной авторегрессионной архитектурой Phi4MM. Она принимает текст, изображения и аудио, а отвечает текстом; в метаданных указано контекстное окно 4096 токенов. В карточке README заявлено 128K токенов, поэтому длина контекста в источниках расходится. Модель предназначена для диалоговых и генеративных систем, которым нужны распознавание и перевод речи, ответы на вопросы по аудио и изображениям, понимание диаграмм и таблиц, OCR, суммаризация и вызов инструментов. Она поддерживает текст на арабском, китайском, чешском, датском, нидерландском, английском, финском, французском, немецком, иврите, венгерском, итальянском, японском, корейском, норвежском, польском, португальском, русском, испанском, шведском, тайском, турецком и украинском; аудио — на английском, китайском, немецком, французском, итальянском, японском, испанском и португальском; изображения — на английском. Microsoft сообщает о supervised fine-tuning, direct preference optimization и RLHF для следования инструкциям и повышения безопасности. Модель распространяется по лицензии MIT. Разработчики предупреждают, что качество может различаться между языками, а применимость к конкретным сценариям следует оценивать отдельно, особенно в высокорисковых областях.

Qwen3.6-35B-A3B-GGUF — набор квантизированных моделей в формате GGUF для llama.cpp, подготовленный BatiAI на основе Qwen/Qwen3.6-35B-A3B от Alibaba. Модель предназначена для локального запуска на устройствах Mac, включая сценарии on-device AI, генерацию текста и кода, многошаговое агентное программирование, работу с репозиториями и вызов инструментов. Указана поддержка английского, корейского, японского и китайского языков. Это текстовая MoE-модель с заявленным общим размером 35B параметров и конфигурацией A3B; доступны варианты квантизации от IQ3 и IQ4 до Q6, Q8 и других K-квантов. Размер файлов составляет примерно от 13 до 35 ГБ, а рекомендуемый объём RAM — от 16 до 48 ГБ в зависимости от варианта. Основной набор является text-only, однако репозиторий также содержит vision projector, позволяющий использовать мультимодальный режим при соответствующей настройке. Поддерживаются ChatML, thinking и tool calling. Сильные стороны модели — ориентация на агентное программирование, рассуждение на уровне репозитория, длительные итеративные задачи, генерацию кода и интеграцию с локальными инструментами. Квантизация и imatrix-калибровка делают возможным запуск на потребительских Mac без облака и API-ключей, но более компактные варианты могут уступать по качеству оригинальной BF16-модели, а запуск требует значительного объёма оперативной памяти. Модель распространяется по лицензии Apache-2.0.

Qwen3-VL-30B-A3B-Instruct-FP8 — мультимодальная vision-language модель из семейства Qwen, разработанная командой Qwen. Это FP8-квантизированная версия Qwen3-VL-30B-A3B-Instruct с мелкозернистым квантованием и размером блока 128; заявлено, что её производительность почти идентична исходной версии в формате BF16. Модель предназначена для понимания и генерации текста с учётом изображений и видео. Модель ориентирована на визуальное восприятие и рассуждение, анализ документов и сцен, OCR, пространственное понимание, обработку длинных текстов и многочасовых видео, а также на визуальное управление PC- и мобильными GUI, вызов инструментов и выполнение задач агентом. Она поддерживает генерацию Draw.io, HTML, CSS и JavaScript по изображениям и видео, STEM- и математическое рассуждение, а также временную локализацию событий в видео. Заявлен нативный контекст 256K токенов с возможностью расширения до 1M, а OCR поддерживает 32 языка; полный перечень языков в README не указан. К сильным сторонам относятся объединённое текстово-визуальное понимание, улучшенное распознавание объектов и документов, анализ пространственных отношений и видео, а также архитектурные механизмы Interleaved-MRoPE, DeepStack и выравнивание текста с временными метками. Ограничение при развёртывании заключается в том, что Transformers пока не поддерживает прямую загрузку этих весов; README рекомендует vLLM или SGLang. Модель распространяется по лицензии Apache-2.0.

Qwopus3.5-27B-v3.5 — дообученная Jackrong мультимодальная модель на основе Qwen3.5-27B. Версия 3.5 продолжает Qwopus3.5-27B-v3 с примерно вдвое большим объёмом данных SFT; новая архитектура и отдельный этап RL не заявлены. Модель предназначена для структурированных рассуждений, диалогов, программирования, работы с инструментами и многошаговых агентных сценариев. Метаданные также указывают поддержку анализа изображений и интерфейс вызова инструментов. Архитектура — плотная Qwen3.5 для генерации текста и работы с изображениями; в репозитории представлены веса Safetensors. Заявлена лицензия Apache-2.0. В карточке приведены результаты на выбранных подмножествах MMLU-Pro и SWE-подобном наборе тестов; оценки предварительные и не заменяют независимую проверку на полном наборе задач. Среди ограничений автор отмечает нестабильность рассуждений в отдельных случаях, зависимость работы с инструментами от интеграции со средой и возможность ухудшения отдельных показателей выравнивания. Данные README о языковом охвате шире явно перечисленных в метаданных языков, поэтому в языковые теги включены только указанные там коды.

DeepSeek-R1-Distill-Llama-70B — плотная авторегрессионная языковая модель семейства Llama, разработанная DeepSeek и дообученная на примерах рассуждений, сгенерированных DeepSeek-R1. Она предназначена для диалогов и задач, требующих многошагового анализа: решения математических задач, программирования и ответов на сложные вопросы. Модель содержит 69,5 млрд параметров и поддерживает контекст до 131 072 токенов. Модель принимает текст и генерирует текст; в метаданных также заявлен интерфейс для вызова инструментов. Карточка сообщает о результатах серии дистиллированных моделей на математических, кодовых и научных тестах, но не приводит отдельные показатели именно для версии Llama-70B. Репозиторий распространяется по лицензии MIT. README отмечает, что настройки токенизатора и конфигурации были изменены, и рекомендует использовать настройки DeepSeek для запуска.

Карточка модели ApocalypseParty/G4-31B-SFT-v5-2-seed1337 на Hugging Face совпадает с карточкой ApocalypseParty/G4-31B-SFT-v6-2, поэтому описание составлено по ней. ApocalypseParty/G4-31B-SFT-v6-2 — дообученная версия мультимодальной Gemma 4 31B от Google DeepMind. Модель принимает текст и изображения и генерирует текст; её можно использовать для диалога, рассуждений, программирования и анализа визуальных данных, включая распознавание текста в документах, понимание диаграмм и интерфейсов. Поддерживаются вызовы инструментов и длинные контексты; для семейства Gemma 4 31B заявлено до 256K токенов. Gemma 4 обучена работать со многими языками, однако конкретные языки и настройки этого дообучения не описаны. Репозиторий содержит веса Safetensors и использует лицензию Apache 2.0. Карточка не приводит отдельных оценок качества или ограничений именно этой версии.

Карточка модели ApocalypseParty/G4-31B-SFT-v6-1 на Hugging Face совпадает с карточкой ApocalypseParty/G4-31B-SFT-v6-2, поэтому описание составлено по ней. ApocalypseParty/G4-31B-SFT-v6-2 — дообученная версия мультимодальной Gemma 4 31B от Google DeepMind. Модель принимает текст и изображения и генерирует текст; её можно использовать для диалога, рассуждений, программирования и анализа визуальных данных, включая распознавание текста в документах, понимание диаграмм и интерфейсов. Поддерживаются вызовы инструментов и длинные контексты; для семейства Gemma 4 31B заявлено до 256K токенов. Gemma 4 обучена работать со многими языками, однако конкретные языки и настройки этого дообучения не описаны. Репозиторий содержит веса Safetensors и использует лицензию Apache 2.0. Карточка не приводит отдельных оценок качества или ограничений именно этой версии.

Карточка модели ApocalypseParty/G4-31B-SFT-v6-3 на Hugging Face совпадает с карточкой ApocalypseParty/G4-31B-SFT-v6-2, поэтому описание составлено по ней. ApocalypseParty/G4-31B-SFT-v6-2 — дообученная версия мультимодальной Gemma 4 31B от Google DeepMind. Модель принимает текст и изображения и генерирует текст; её можно использовать для диалога, рассуждений, программирования и анализа визуальных данных, включая распознавание текста в документах, понимание диаграмм и интерфейсов. Поддерживаются вызовы инструментов и длинные контексты; для семейства Gemma 4 31B заявлено до 256K токенов. Gemma 4 обучена работать со многими языками, однако конкретные языки и настройки этого дообучения не описаны. Репозиторий содержит веса Safetensors и использует лицензию Apache 2.0. Карточка не приводит отдельных оценок качества или ограничений именно этой версии.

Карточка модели jdlovestofish/granite-4.2-8b на Hugging Face совпадает с карточкой ibm-granite/granite-4.2-8b, поэтому описание составлено по ней. Granite-4.2-8B — языковая модель команды Granite компании IBM для диалогов, рассуждений и работы с инструментами. Это плотный декодерный трансформер GraniteForCausalLM с 8,4 млрд параметров, доступный в формате safetensors и рассчитанный на библиотеку Transformers. Модель дообучена на базе ibm-granite/granite-4.1-8b-base; лицензия Apache 2.0 разрешает коммерческое и академическое использование. Модель предназначена для ответов на вопросы, многошаговых рассуждений, математических и программных задач, а также сценариев, где нужно выбирать и вызывать инструменты. Поддерживаются режимы полного, облегчённого и отключённого рассуждения. Метаданные указывают контекст до 131 072 токенов. Архитектура включает Grouped Query Attention, RoPE, SwiGLU и RMSNorm. Модель обучалась преимущественно на английских инструкциях, также включает многоязычные данные для немецкого, испанского, французского, японского, португальского, арабского, чешского, итальянского, корейского, нидерландского и китайского языков. Качество на других языках может уступать английскому; ответы могут быть неточными, предвзятыми или небезопасными. Текст рассуждений может содержать промежуточные мысли и не отражать итоговый ответ.

Qwen3.6-27B-Claude-Opus-DeepSeek-Distilled-Imatrix-MTP-1M-GGUF — квантованная модель в формате GGUF на базе Qwen3.6-27B, опубликованная Brian6145. Она предназначена для локального запуска, агентных сценариев, ReAct-рассуждений, использования инструментов, структурированного вывода, многошагового выполнения задач, анализа кода и работы с длинными документами. Модель поддерживает английский и китайский языки и относится к задачам генерации текста. Вариант дообучен методом дистилляции с использованием Claude Opus, DeepSeek и математико-логических моделей: заявлены улучшения систематичности рассуждений, оркестрации инструментов, завершения задач и математической логики. Контекстное окно расширено с 262 144 до 1 048 576 токенов с помощью YaRN, что позволяет обрабатывать книги, большие кодовые базы и длительные диалоги. В репозитории также заявлена поддержка speculative decoding через MTP; конкретный размер квантования для этой карточки не указан. В качестве сильных сторон заявлены агентное поведение, вызов инструментов, следование инструкциям, структурированный вывод и результаты на внутренних тестах, включая GPQA-Diamond — 83,84% и MMLU-500 — 91,80%. Рекомендуемые параметры генерации — temperature 0,6 и top_p 0,95; отклонение от них, согласно README, может ухудшать стабильность и качество вызова инструментов. Производительность зависит от оборудования и конфигурации инференса. Модель распространяется по лицензии Apache-2.0.

Qwen3-VL-32B-Thinking-GGUF — мультимодальная модель семейства Qwen, разработанная командой Qwen. Репозиторий содержит GGUF-веса базовой модели Qwen3-VL-32B-Thinking и предназначен для локального запуска через llama.cpp, Ollama и другие инструменты, совместимые с GGUF, на CPU, NVIDIA GPU, Apple Silicon и Intel GPU. Модель объединяет языковую модель и vision encoder, поддерживает обработку текста, изображений и видео. Она ориентирована на визуально-языковое понимание и рассуждение, включая анализ документов и сцен, OCR, пространственное восприятие, STEM- и математические задачи, генерацию кода и разметки по изображениям или видео, а также взаимодействие с графическими интерфейсами и инструментами. Заявлены контекст до 256K токенов с возможностью расширения до 1M, поддержка OCR на 32 языках и улучшенное понимание длительных видео с временной привязкой событий. Архитектурные особенности включают Interleaved-MRoPE для моделирования времени и пространственных измерений, DeepStack для объединения многоуровневых признаков ViT и выравнивание текста с временными метками. Доступны варианты языковой модели FP16, Q8_0 и Q4_K_M, а vision encoder — FP16 и Q8_0, что позволяет выбирать баланс качества, скорости и требований к памяти. Ограничения включают высокие вычислительные и ресурсные требования 32B-модели, а также возможное снижение качества при использовании более агрессивного квантования; конкретные результаты бенчмарков в README не приведены. Распространение указано по лицензии Apache-2.0.

BennyDaBall/Qwopus3.8-27B-Flash-NVFP4 — локальная квантованная версия модели Qwopus3.8-27B-Flash, разработанной Jackrong. Это GGUF-модель для запуска через llama.cpp и LM Studio, оптимизированная прежде всего для видеокарт NVIDIA Blackwell, включая RTX 5090. Модель предназначена для программирования, агентских сценариев, работы с инструментами и функциями, генерации кода и диалоговых приложений. В основе находится плотная текстовая модель с 27 млрд параметров и 64 текстовыми слоями, использующая NVFP4 для основных матриц внимания, Gated DeltaNet и MLP. В модели сохранена высокоточная MTP-компонента для встроенного speculative decoding без отдельной draft-модели. Выходные, embedding- и крупные MTP-тензоры имеют более высокую точность, а малые служебные тензоры сохранены в F32. Поддерживается контекст до 262 144 токенов. Модель мультимодальная: для анализа изображений используется отдельный совместимый BF16 vision projector. Заявлены языки English, Chinese, Spanish, Russian и Japanese. К сильным сторонам относятся уменьшенный размер по сравнению с исходной BF16-версией, встроенное ускорение генерации через MTP, поддержка изображений, tool use и function calling, а также готовый шаблон чата с поддержкой мультимодального ввода и сохранения reasoning-контента. Основные ограничения связаны с требованиями к окружению: оптимизация и проверка выполнены на одной RTX 5090 с 32 ГБ памяти, необходима свежая сборка llama.cpp с поддержкой NVFP4, мультимодальности и draft-mtp, а старые runtime могут не загрузить тензоры типа 40. Для работы с изображениями требуется дополнительный файл mmproj; доступный контекст в таком режиме может быть уменьшен из-за расхода памяти. Модель распространяется по лицензии Apache-2.0.

Theta-35 — плотная языковая модель семейства Theta от SVECTOR, предназначенная для диалогов и задач, требующих сложных рассуждений. Она обучалась в несколько этапов: предварительное обучение, supervised fine-tuning и обучение с подкреплением. Архитектура включает Transformers, RoPE, SwiGLU, RMSNorm и смещение в проекциях QKV; в карточке указано 33 млрд параметров, а в метаданных — 32 млрд. Модель поддерживает генерацию текста и интерфейс вызова инструментов. Theta-35 рассчитана на математические и научные рассуждения, логические выводы, многошаговое решение задач, а также понимание и генерацию кода. В метаданных указаны английский язык и контекст до 131 072 токенов; README приводит контекст 32 768 токенов, поэтому фактическую длину контекста следует сверить с документацией и конфигурацией используемой версии. Для работы нужна актуальная версия Transformers, README рекомендует версию 4.43.1 или новее. Модель распространяется по лицензии Apache-2.0.

Карточка модели ApocalypseParty/G4-31B-SFT-v5-2 на Hugging Face совпадает с карточкой ApocalypseParty/G4-31B-SFT-v6-2, поэтому описание составлено по ней. ApocalypseParty/G4-31B-SFT-v6-2 — дообученная версия мультимодальной Gemma 4 31B от Google DeepMind. Модель принимает текст и изображения и генерирует текст; её можно использовать для диалога, рассуждений, программирования и анализа визуальных данных, включая распознавание текста в документах, понимание диаграмм и интерфейсов. Поддерживаются вызовы инструментов и длинные контексты; для семейства Gemma 4 31B заявлено до 256K токенов. Gemma 4 обучена работать со многими языками, однако конкретные языки и настройки этого дообучения не описаны. Репозиторий содержит веса Safetensors и использует лицензию Apache 2.0. Карточка не приводит отдельных оценок качества или ограничений именно этой версии.

Карточка модели RedHatAI/granite-4.2-3b на Hugging Face совпадает с карточкой ibm-granite/granite-4.2-3b, поэтому описание составлено по ней. Granite-4.2-3B — компактная языковая модель IBM Granite Team на базе плотного декодирующего трансформера GraniteForCausalLM с 3,4 млрд параметров. Она дообучена на Granite-4.1-3B-Base и рассчитана на диалог, рассуждения и следование инструкциям; доступны режимы полного, облегчённого и отключённого рассуждения. Модель предназначена для решения математических и логических задач, программирования, многошагового анализа и вызова инструментов в агентных сценариях. Она поддерживает контекст до 131 072 токенов по метаданным; в README заявлено окно 512 тысяч токенов. Поддерживаемые языки включают английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский; качество может быть ниже английского. Модель использует архитектуру decoder-only dense Transformer, формат весов safetensors и библиотеку Transformers. Она выпущена по лицензии Apache 2.0, допускающей коммерческое и академическое использование. Ответы могут быть неточными, предвзятыми или небезопасными; промежуточные рассуждения не всегда отражают итоговый ответ.

Hermes-2 Θ (Theta) 70B — языковая модель Nous Research, созданная совместно с Charles Goddard и Arcee AI. Это плотная авторегрессионная модель семейства Llama 3 с 69,5 млрд параметров, полученная слиянием Hermes 2 Pro и Llama 3 Instruct с последующим дообучением с помощью RLHF. Репозиторий содержит веса SafeTensors; лицензия — llama3. Модель предназначена для многошагового диалога в формате ChatML и поддерживает контекст до 32 768 токенов. Она обучена вызову функций, выдаче структурированных ответов по JSON-схеме и извлечению признаков из документов для RAG. В метаданных указан английский язык. Эти возможности помогают создавать чат-ассистентов, связывать модель с инструментами и получать ответы в заданном формате. В README приведены результаты нескольких бенчмарков, включая IFEval и MTBench, но они не гарантируют качество на конкретных запросах. Для вызова функций требуется внешняя логика, которая разбирает вызов, выполняет функцию и передаёт результат обратно модели. Для эксплуатации нужно учитывать значительный размер модели: в README также упоминается вариант инференса в 4-битном режиме.

lmstudio-community/Qwen2.5-VL-32B-Instruct-GGUF — мультимодальная инструкционная модель семейства Qwen2.5-VL, разработанная командой Qwen и представленная в формате GGUF. Квантизацию выполнил bartowski на основе llama.cpp. Модель предназначена для работы с текстом и изображениями, включая анализ визуального содержимого и выполнение задач по инструкциям. Модель подходит для распознавания объектов, анализа текста на изображениях, таблиц, диаграмм, значков, графики и макетов. Она также может использоваться как визуальный агент для рассуждений и динамического управления инструментами, включая сценарии взаимодействия с компьютером и телефоном. Поддерживаются структурированные ответы и стабильная генерация JSON, а также многоязычная работа. Заявленная длина контекста составляет 128 000 токенов, размер модели — 32B параметров. К сильным сторонам относятся развитый анализ визуальной информации, поддержка длинного контекста, мультимодальность, многоязычность и способность формировать структурированные результаты. Это квантизированная community-версия, поэтому её характеристики могут зависеть от конкретной квантизации и среды запуска; как и другие языковые модели, она может генерировать неточные или неподходящие ответы. Лицензия модели — Apache 2.0.

QuantTrio/Qwen3.6-27B-AWQ-6Bit — квантованная версия открытой модели Qwen3.6-27B, разработанной командой Qwen. Вариант из данного репозитория получен с помощью data-free-квантования без калибровочного набора данных и предназначен для запуска через Transformers и высокопроизводительные серверы инференса, включая vLLM, SGLang и KTransformers. Модель представляет собой авторегрессионную языковую модель с vision encoder, содержащую около 27 млрд параметров. Архитектура включает 64 слоя, Gated DeltaNet и Gated Attention, а также поддержку multi-step speculative decoding. Нативная длина контекста составляет 262 144 токена и может быть расширена до 1 010 000 токенов. Основные сценарии применения — программирование, агентная работа с кодом, анализ репозиториев, фронтенд-разработка, рассуждения по длинному контексту и задачи, требующие обработки текста и изображений. README не указывает полный перечень поддерживаемых языков. К сильным сторонам относятся большой контекст, ориентация на coding agent-сценарии, поддержка сохранения контекста рассуждений и снижение требований к памяти благодаря AWQ-квантованию до 6 бит; размер файлов модели составляет около 26 GiB. Ограничения включают возможные потери качества относительно исходной модели из-за квантования, отсутствие опубликованных в README подробных результатов именно для этой квантованной версии и зависимость от совместимых версий vLLM, Transformers и CUDA. Для запуска рекомендуются vLLM 0.19.0, Transformers 5.5.4 и CUDA 12.8 или 13.0; при использовании tensor parallelism на 8 GPU требуется expert parallelism. Модель распространяется по лицензии Apache-2.0.

Qwen3-VL-32B-Instruct — мультимодальная vision-language модель семейства Qwen, разработанная командой Qwen и представленная в формате GGUF компанией Unsloth. Это инструкционно настроенная dense-модель для обработки текста и визуальных данных, включая изображения и видео, с поддержкой сценариев image-text-to-text. Модель предназначена для визуального вопросно-ответного взаимодействия, анализа изображений и видео, OCR, понимания документов, STEM- и математического рассуждения, пространственного анализа, генерации кода и взаимодействия с графическими интерфейсами через визуального агента. Заявлены нативный контекст 256K токенов с возможностью расширения до 1M, улучшенное понимание длительных видео и событий с временными метками, а также OCR на 32 языках. Среди архитектурных компонентов указаны Interleaved-MRoPE, DeepStack и выравнивание текста с временными метками. К сильным сторонам относятся объединённое понимание текста и визуальной информации, детальное восприятие сцен, объектов и документов, расширенный контекст и широкий набор мультимодальных задач. Ограничения включают высокие требования к вычислительным ресурсам, характерные для модели с 32B параметрами, а также потенциальные потери точности из-за квантования в GGUF; конкретный вариант квантования в README не указан. Для llama.cpp рекомендуется использовать параметр --jinja из-за исправлений chat template. Лицензия модели — Apache-2.0.

unsloth/Qwen3-VL-32B-Thinking-GGUF — GGUF-версия мультимодальной модели Qwen3-VL-32B-Thinking, разработанной командой Qwen и подготовленной Unsloth. Модель предназначена для обработки текста, изображений и видео, включая визуальный вопросно-ответный диалог, анализ документов, распознавание текста, STEM- и математическое рассуждение, пространственный анализ, понимание длительных видеосцен и взаимодействие с графическими интерфейсами через инструменты. Модель относится к reasoning-ориентированной версии Qwen3-VL и содержит 32B параметров в базовой конфигурации. Заявлена поддержка контекста длиной 256K токенов с возможностью расширения до 1M, а также видео с временной привязкой событий. Среди архитектурных особенностей указаны Interleaved-MRoPE для позиционного кодирования по времени, ширине и высоте, DeepStack для объединения многоуровневых визуальных признаков и Text–Timestamp Alignment для временного анализа видео. OCR поддерживает 32 языка; при этом полный перечень языков в README не приведён. Сильные стороны модели — объединённое понимание текста и визуальных данных, расширенные возможности рассуждения, детальное восприятие объектов и пространственных отношений, анализ длинных документов и видео, а также генерация кода и разметки по визуальным материалам. Ограничения включают высокие требования к вычислительным ресурсам, характерные для модели такого размера, возможные потери качества из-за GGUF-квантизации и отсутствие в README точных сведений о конкретном варианте квантизации, системных требованиях и результатах бенчмарков. Модель распространяется по лицензии Apache-2.0.

Карточка модели unsloth/GLM-4.7-REAP-218B-A32B на Hugging Face совпадает с карточкой cerebras/GLM-4.7-REAP-218B-A32B, поэтому описание составлено по ней. GLM-4.7-REAP-218B-A32B — сжатая разреженная языковая модель семейства GLM-4.7 от Cerebras. Она получена методом REAP, который удаляет из смеси экспертов менее значимые компоненты; после прунинга дообучение не проводилось. Модель содержит 218 млрд параметров, из которых 32 млрд активируются на токен, и поддерживает контекст до 202 752 токенов. Модель предназначена для генерации кода и текста, агентных рабочих процессов, понимания репозиториев и вызова функций. В карточке заявлено, что она сохраняет близкое к исходной GLM-4.7 качество при уменьшении объёма памяти примерно на 40%; для версии BF16 приведены характеристики, но результаты оценки не указаны. Модель можно развернуть с актуальным vLLM. Лицензия — MIT. README рекомендует вариант BF16 для последующей низкобитной квантизации.

NVIDIA Nemotron-UltraLong-8B-Instruct — языковая модель на архитектуре Llama 3.1 с 7,5 млрд параметров, предназначенная для работы с длинными текстами и следования инструкциям. Модель принимает текст и генерирует текст; её контекстное окно достигает 1 073 152 токенов. Для запуска используется Transformers. Модель дообучена на основе meta-llama/Llama-3.1-8B-Instruct: обучение включало продолжение предобучения на длинных последовательностях и настройку на инструкциях по общим темам, математике и программированию. Модель подходит для анализа больших документов и контекстов, а также для диалогов и ответов на вопросы с опорой на предоставленный текст. Карточка сообщает о конкурентных результатах на стандартных тестах и сильных результатах на задачах с очень длинным контекстом. Модель рассчитана прежде всего на английский язык. Лицензия CC-BY-NC-4.0 ограничивает коммерческое использование; перед применением необходимо соблюдать её условия. Указанный размер контекста не гарантирует одинаковую точность на всём диапазоне длины, а качество может зависеть от задачи и содержимого запроса.

hardcoreerik выпустил декензурированную версию Llama-3.1-Nemotron-Nano-4B-v1.1, созданную с помощью Heretic v1.3.0. По карточке это плотный decoder-only Transformer семейства Llama, дообученный на базе nvidia/Llama-3.1-Minitron-4B-Width-Base; размер — 3,9 млрд параметров, контекст — до 131 072 токенов. Модель принимает и выдаёт текст, поддерживает чат, рассуждения, следование инструкциям и вызов инструментов. Она предназначена для чат-ботов, агентных систем, RAG и общих задач, включая программирование, математику и рассуждения. Основной язык — английский; также заявлена поддержка немецкого, французского, итальянского, португальского, хинди, испанского и тайского. В сравнении с исходной моделью в README указано меньше отказов на тесте из 100 запросов, что отражает её декензурированную настройку. Репозиторий использует формат safetensors и библиотеку Transformers; лицензия указана как other, а README заявляет готовность исходной модели к коммерческому использованию, но условия лицензии именно этой версии следует проверять отдельно.

Nemotron-Cascade-2-30B-A3B — открытая языковая модель NVIDIA с архитектурой Nemotron-H и смесью экспертов: при общем размере 30 млрд параметров активируется около 3 млрд. Модель дообучена на основе nvidia/Nemotron-3-Nano-30B-A3B-Base и предназначена для диалогов, сложных рассуждений и агентных сценариев. Она поддерживает режимы с рассуждениями и обычными инструкциями, а также интерфейс вызова инструментов через соответствующую конфигурацию. Модель работает с текстом и использует шаблон ChatML. Размер контекста по метаданным — 262 144 токена. В README сообщается о золотых медалях на Международной математической олимпиаде IMO и Международной олимпиаде по информатике IOI 2025. Для запуска через vLLM требуется версия не ниже 0.17.1. Указанный в метаданных язык — английский. Лицензия обозначена как other; конкретные условия следует сверить с карточкой модели на Hugging Face. Качество может зависеть от запроса и настроек генерации; заявленные результаты на олимпиадах не гарантируют такой же точности в других задачах.

Qwen3.8-Flash-Next REAP-384 — это мультимодальная модель класса 180B параметров, разработанная на основе Qwen/Qwen3.8-Flash-Next и опубликованная пользователем sh0wie. Версия адаптирована для MLX и выполнена в 4-битной аффинной квантизации. В каждом MoE-слое сохранено 384 из 512 экспертов, при этом маршрутизация top-10 не изменена. Модель предназначена прежде всего для генерации текста и агентских сценариев, особенно для программирования и рефакторинга кода; поддерживается запуск и OpenAI-совместимое серверное предоставление через mlx-vlm. Мультимодальные веса, включая vision tower, сохранены, однако качество работы с изображениями после pruning не оценивалось. Архитектура включает основную модель объёмом около 125B параметров, 51B-параметрическую n-gram embedding table и 48 слоёв, чередующих Gated DeltaNet и Qwen sparse attention. Используется MoE с 384 экспертами на слой, квантизация — 4-битная, с group size 64, а для n-gram-таблицы — 32. Модель требует около 80 ГБ дискового пространства и примерно 51 ГБ оперативной памяти при размещении n-gram-таблицы на NVMe; при полной загрузке в память потребление составляет около 80 ГБ. В тесте HumanEval получен результат 92,1% pass@1 против 93,9% у некропнутой 512-экспертной версии. Сильная сторона модели — близкое к исходной версии качество при сниженных требованиях к диску и памяти; доступна также speculative decoding с отдельным MTP-drafter, хотя выигрыш в скорости зависит от оборудования. Ограничения включают неполную проверку мультимодальности, возможное ухудшение качества в областях, далёких от программирования, и однократные оценки без доверительных интервалов. Модель распространяется по Qwen Community License 1.0, унаследованной от базовой модели.

unsloth/Qwen3-VL-8B-Instruct-bnb-4bit — 4-битная квантованная версия мультимодальной модели Qwen3-VL-8B-Instruct, опубликованная Unsloth на основе модели Qwen от Qwen Team. Она предназначена для работы с текстом и изображениями, а также для анализа видео, визуального распознавания, OCR, пространственного и мультимодального рассуждения. Модель имеет размер 8B параметров и поддерживает контекст длиной 256K токенов с возможностью расширения до 1M. Среди её возможностей заявлены управление графическими интерфейсами компьютеров и мобильных устройств, генерация Draw.io, HTML, CSS и JavaScript по изображениям и видео, анализ пространственных отношений, понимание длительных видео с временной локализацией событий, STEM- и математическое рассуждение, а также распознавание широкого спектра объектов и сцен. OCR поддерживает 32 языка и устойчив к низкому освещению, размытию и наклону текста. К архитектурным особенностям относятся Interleaved-MRoPE для временных и пространственных измерений, DeepStack для объединения признаков разных уровней ViT и выравнивание текста с временными метками. Квантованный 4-битный формат ориентирован на более экономичное по памяти развёртывание, однако README не приводит точные требования к оборудованию, результаты для данной квантованной версии или детальные ограничения качества. Модель распространяется по лицензии Apache-2.0.

llmfan46 представил uncensored-вариант Gemma 4 26B A4B IT, дообученный с изменением компонента attn.o_proj. Это диалоговая мультимодальная модель для анализа изображений и генерации текста; карточка указывает на поддержку чата и vision, а также на архитектуру Gemma 4 и формат safetensors. Базовая модель разработана Google DeepMind, использует гибридный механизм внимания и рассчитана на контекст до 256 тысяч токенов. Модель подходит для ответов на вопросы по изображениям и документам, распознавания текста и рукописей, понимания графиков и интерфейсов, а также для диалогов, рассуждений, программирования и вызова инструментов. Вариант предназначен для ослабления ограничений базовой модели, однако карточка не описывает метод дообучения и не приводит отдельные оценки качества именно этой версии. Поддерживаемые базовой линейкой языковые и аудиовозможности не следует полностью переносить на этот чекпойнт: метаданные подтверждают только image-text-to-text и vision. Модель выпущена по лицензии Apache-2.0. Возможны предвзятость и пробелы в данных, ошибки в фактах и затруднения с неоднозначными или сложными запросами; маркировка uncensored также означает, что ответы могут быть менее ограничены защитными механизмами.

GLM-4.6V-Flash-GGUF — мультимодальная модель семейства GLM-V, разработанная Z.ai (zai-org) и представленная в формате GGUF компанией Unsloth. Это облегчённая версия GLM-4.6V с 9 млрд параметров, ориентированная на локальное развёртывание и приложения с низкой задержкой. Модель поддерживает китайский и английский языки, работает с текстом и изображениями, а также предназначена для обработки скриншотов, страниц документов, таблиц, графиков и других визуальных данных. Модель рассчитана на визуальное понимание, мультимодальное рассуждение, анализ длинных и сложных документов, распознавание структуры и содержимого изображений, а также на сценарии мультимодальных агентов. Она поддерживает контекст до 128K токенов, нативный Function Calling с передачей изображений и документов инструментам, интерливинг текстового и визуального контента, генерацию HTML/CSS по скриншотам интерфейсов и визуальное редактирование по инструкциям на естественном языке. К сильным сторонам относятся сочетание визуального восприятия, рассуждения и вызова инструментов, поддержка длинного мультимодального контекста и оптимизация для локального использования. Ограничения включают меньший размер и, вероятно, более ограниченные возможности по сравнению с облачной версией GLM-4.6V на 106 млрд параметров; конкретные требования к оборудованию и характеристики квантования для данного GGUF в README не указаны. Лицензия модели — MIT.

Granite Switch 4.1 3B Preview — модульная языковая модель IBM, построенная на IBM Granite 4.1 3B и содержащая 12 встроенных адаптеров из библиотек Granite. Выбор возможностей выполняется во время генерации с помощью управляющих токенов в шаблоне чата. Модель насчитывает 3,5 млрд параметров, принимает текст и поддерживает контекст до 131 072 токенов. Адаптеры предназначены для задач RAG, проверки требований к ответу, атрибуции контекста, оценки неопределённости, выявления рисков безопасности и проверки либо исправления фактических ошибок. Модель можно использовать как обычную генеративную LLM или вызывать отдельные адаптеры; для интеграции README рекомендует Mellea. Поддерживаются Transformers и vLLM. Возможности специализированных адаптеров позволяют объединить несколько этапов работы с ответами и документами в одном чекпойнте. README не перечисляет все адаптеры целиком, а также не сообщает языки обучения или гарантии точности. Модель распространяется по лицензии Apache 2.0.

Qwen2.5-7B — базовая языковая модель серии Qwen2.5, разработанной командой Qwen. Это предобученная плотная авторегрессионная модель на 7,1 млрд параметров; в карточке указаны архитектура Qwen2ForCausalLM, RoPE, SwiGLU, RMSNorm и контекст до 131 072 токенов. Модель распространяется в формате Safetensors и под лицензией Apache-2.0. Модель предназначена для дальнейшей адаптации и использования как основа для генерации текста, кода и структурированных ответов. Серия поддерживает более 29 языков, включая русский и английский, и заявляет улучшения в математике, программировании, следовании инструкциям и работе с таблицами и JSON. У этой версии базовые веса предобучения: разработчик не рекомендует использовать её непосредственно для диалогов; для чат-сценариев требуется постобучение, например SFT или RLHF.