II.2Создание и понимание программного кода

unsloth/Qwen3-VL-8B-Instruct-1M-GGUF — GGUF-версия 8-миллиардной мультимодальной instruct-модели Qwen3-VL, подготовленная Unsloth на основе Qwen/Qwen3-VL-8B-Instruct. Модель предназначена для понимания и генерации текста с учётом изображений и видео, визуального анализа, OCR, математических и STEM-задач, анализа документов, пространственного рассуждения, генерации кода и взаимодействия с графическими интерфейсами через визуального агента. Модель использует плотную архитектуру с 8B параметров и поддерживает текст, изображения и видео. Заявлено нативное контекстное окно 256K токенов с возможностью расширения до 1M, что позволяет обрабатывать книги и длительные видеоматериалы с временной привязкой событий. Среди архитектурных особенностей указаны Interleaved-MRoPE для позиционного кодирования времени, ширины и высоты, DeepStack для объединения многоуровневых визуальных признаков и Text–Timestamp Alignment для локализации событий в видео. OCR поддерживает 32 языка. Сильные стороны модели — объединённое текстово-визуальное понимание, улучшенная работа с пространственными отношениями, длинным контекстом, видео, документами и визуальными интерфейсами. Ограничения, такие как фактическая точность на конкретных наборах данных, требования к ресурсам и поддерживаемые языки вне OCR, в README не уточняются. Репозиторий распространяется по лицензии Apache-2.0; для использования через llama.cpp рекомендуется включать параметр --jinja из-за исправлений chat template от Unsloth.

Spark-X2.5-4B-GGUF — компактная языковая модель общего назначения, разработанная XHToken и представленная в формате GGUF. Модель предназначена для диалогов, написания и перевода текстов, рассуждений, программирования, использования инструментов и агентских сценариев. Это текстовая модель размером 4 млрд параметров с гибридной архитектурой внимания, нативной длиной контекста до 1 млн токенов и поддержкой более 200 языков, включая английский и китайский. К сильным сторонам относятся компактный размер, широкий набор прикладных задач, многоязычность и возможность локального запуска через llama.cpp, Ollama, LM Studio и Unsloth. Для работы требуется совместимая версия программного обеспечения с поддержкой архитектуры spark2_5: llama.cpp b10828 или новее, Ollama v0.34.1 или новее либо соответствующая версия LM Studio. README не содержит подробных результатов тестирования, требований к ресурсам и сведений о поддерживаемых модальностях помимо обработки текста. Модель распространяется по лицензии Apache License 2.0.

Tele-FLM (также FLM-2) — открытая многоязычная языковая модель на 52,2 млрд параметров, разработанная BAAI и TeleAI. Это плотный декодерный Transformer, обученный примерно на 2 трлн токенов; архитектура использует RoPE, RMSNorm и SwiGLU и во многом совместима с Llama. Контекст модели составляет 4096 токенов. Модель предназначена для генерации текста и извлечения признаков, включая многоязычные запросы и задачи, где важны фактические суждения. В обучающих данных преобладают английский и китайский языки; также включены код и тексты на других языках. Доступны веса и сведения о разработке и обучении модели. Модель распространяется по лицензии Apache 2.0. По предупреждению разработчиков, она может воспроизводить предвзятые или оскорбительные примеры и выдавать небезопасный контент; ответы следует проверять.

unsloth/gemma-3-12b-pt — вариант Gemma 3 от Unsloth, основанный на дообучении предобученной модели Google google/gemma-3-12b-pt. Это плотная мультимодальная модель с архитектурой Gemma3ForConditionalGeneration и 12 млрд параметров. Она принимает текст и изображения и генерирует текст; семейство Gemma 3 поддерживает контекст до 128 тыс. токенов и более 140 языков. Модель подходит для ответов на вопросы по изображениям, извлечения и пересказа визуальной информации, суммаризации и генерации текста, включая диалог, черновики писем и код. Карточка Unsloth ориентирована на использование модели как основы для дальнейшего дообучения и описывает экспорт дообученных вариантов в GGUF, Ollama, llama.cpp и формат Hugging Face. Возможности и качество ответов зависят от обучающих данных и формулировки запроса: модель может ошибаться в фактах, упускать языковые нюансы и отражать предвзятости данных. Лицензия — Gemma; условия использования следует сверять с лицензией Google Gemma.

Карточка модели Alfredofrog/gemma-4-E4B-it-uncensored-heretic на Hugging Face совпадает с карточкой llmfan46/gemma-4-E4B-it-uncensored-heretic, поэтому описание составлено по ней. llmfan46/gemma-4-E4B-it-uncensored-heretic — производная модель на основе Google Gemma 4 E4B Instruct, опубликованная независимым автором. Это плотная мультимодальная модель для диалога и генерации текста, понимания изображений и аудио, рассуждений, программирования и вызова инструментов. В карточке заявлены гибридное внимание с локальными скользящими окнами и глобальными слоями, а для базовой модели E4B — контекст до 128 тысяч токенов и поддержка более 35 языков. Модель подходит для чат-ботов, суммаризации и создания текстов, извлечения данных из изображений и документов, распознавания речи и голосовых сценариев. В названии и тегах указано uncensored/abliterated, однако README не описывает конкретные изменения и не приводит отдельные оценки качества именно этой производной версии. Возможны фактические ошибки, смещения и трудности с неоднозначными или сложными запросами. Лицензия — Apache-2.0.

furiosa-ai/gpt-oss-120b — адаптация открытой весовой модели OpenAI gpt-oss-120b, подготовленная для запуска на аппаратных ускорителях FuriosaAI RNGD с использованием Furiosa-LLM. Это авторегрессионная текстовая модель на архитектуре Mixture-of-Experts (MoE), предназначенная для универсальной генерации текста и задач, требующих углублённого рассуждения, включая рабочие производственные сценарии. Модель принимает и генерирует текст, поддерживает английский язык и работает в формате harmony response format, отделяющем рассуждения от итогового ответа. Доступна настройка глубины рассуждения с помощью параметра reasoning_effort со значениями low, medium и high. Также поддерживается вызов инструментов и функций через OpenAI-совместимый API. Экспертные веса MoE квантизованы в MXFP4, а компоненты attention, router и embeddings сохраняются в более высокой точности. Для запуска на RNGD используется tensor parallelism с 32 вычислительными элементами, что соответствует четырём картам RNGD. Ключевое ограничение — описанная в README сборка ориентирована на Furiosa-LLM и оборудование FuriosaAI RNGD, хотя исходная модель также может работать с другими фреймворками. Модель распространяется по лицензии Apache 2.0.

Kimi-K3-Audit-240E-MLX-MXFP4 — специализированная модель для аудита безопасности и анализа исходного кода, разработанная catalystsec на базе Kimi K3 от Moonshot AI. Это текстовая модель с поддержкой инструментов, предназначенная прежде всего для поиска и анализа проблем в исходном коде, включая аудит ядерных компонентов. Общение общего назначения, перевод и нетехническое письмо находятся вне заявленной области применения. Модель использует архитектуру Mixture of Experts: в каждом слое сохраняются 240 из 896 маршрутизируемых экспертов, а веса сохранённых экспертов идентичны оригинальному выпуску. Модель представлена в формате MXFP4 для MLX, занимает около 408 GiB и разделена на 91 фрагмент, что позволяет запускать её на одной машине Apple silicon с 512 ГБ памяти. Основная модальность — текст; vision tower сохранён, но не оценивался. В README приведены результаты для C, C++, Swift, Rust и Python, а также английской прозы. При использовании на M3 Ultra размер доступного контекста зависит от шага предварительного заполнения и может составлять примерно от 198 тысяч до 731 тысячи токенов при размере батча 1. Сильная сторона модели — сохранение качества на задачах анализа кода и аудита при существенно меньших требованиях к памяти по сравнению с полной версией на 896 экспертов. Наиболее близкие результаты к исходной модели показаны для C и C++; для Python расхождение больше, а на английской прозе качество значительно ниже, поэтому модель не следует рассматривать как универсальную. Для работы требуется версия mlx-lm с поддержкой Kimi K3 из PR #1626 и пакет tiktoken; до включения поддержки в официальный выпуск mlx-lm необходимо устанавливать сборку из соответствующей ветки. Лицензия указана как Kimi K3, со ссылкой на лицензию базовой модели.

Linkbricks-Horizon-AI-Japanese-Advanced-V4-70B — языковая модель компании Linkbricks, дообученная дата-сайентистом Джи Юнсоном (Saxo) на базе Saxo/Linkbricks-Horizon-AI-Japanese-Base-70B. Это плотная авторегрессионная модель семейства Llama с 69,5 млрд параметров и контекстом до 128 тыс. токенов; в репозитории представлены веса Safetensors для Transformers. Модель прошла продолженное предобучение на японском корпусе новостей и Википедии, а также SFT, DPO и слияние. Обучение включало японские, корейские, китайские и английские данные, задачи перевода и суммаризации, математику и логические рассуждения. Она предназначена для генерации текста, написания и редактирования, анализа отзывов и публикаций в соцсетях, программирования, решения математических и логических задач и вызова функций. Карточка сообщает о лицензии Apache-2.0. Заявленные возможности основаны на описании разработчика; конкретные результаты на независимых тестах и ограничения качества для отдельных языков или задач в карточке не приведены.

Saxo/Linkbricks-Horizon-AI-Japanese-Superb-V6-70B — языковая модель Linkbricks, дообученная директором по данным Юнсоном Джи (Saxo) на базе V5. Модель семейства Llama с плотной архитектурой содержит 69,5 млрд параметров и принимает контекст длиной до 131 072 токенов. Веса доступны в формате Safetensors по лицензии Apache-2.0. Модель предназначена для генерации текста и диалогов, а также для многоязычных задач на японском, корейском, китайском и английском языках. В карточке заявлены усиленная работа с отзывами и публикациями в социальных сетях, программированием, письмом, математикой и логическими задачами, а также интерфейс вызова функций и инструментов. Обучение включало японский SFT и DPO, многоязычные данные и корпус японских новостей и Википедии.

Manticore 13B — языковая модель OpenAccess AI Collective, полученная дообучением Llama 13B на наборах диалогов, инструкций, задач на рассуждение и краткое изложение. Это плотная авторегрессионная архитектура LLaMA с 12,9 млрд параметров; модель использует Transformers и принимает текст, генерируя текст. Указанный контекст — 2048 токенов, основной язык карточки — английский. Модель предназначена для диалогов с ассистентом, выполнения инструкций, ответов на вопросы и генерации подробных или кратких ответов. Данные обучения включают ShareGPT, WizardLM, Wizard-Vicuna, Alpaca-CoT, GPT4-LLM-Cleaned, GPTeacher, ScienceQA, HellaSwag, MMLU и набор для суммаризации отзывов. Модель не проходила выравнивание предпочтений с помощью RLHF и может выдавать проблемные ответы, особенно при соответствующих запросах. Лицензия в предоставленных данных не указана.

RedHatAI/Ministral-3-14B-Instruct-2512-FP8-dynamic — текстовая генеративная языковая модель на архитектуре MistralForCausalLM, разработанная Red Hat совместно с Neural Magic. Она основана на mistralai/Ministral-3-14B-Instruct-2512-BF16 и предназначена для генерации текста по инструкциям. Модель ориентирована на рассуждения, вызов функций, многоязычное следование инструкциям, перевод и создание предметно-ориентированных решений посредством дообучения. Она принимает текст и генерирует текст. В README указано использование контекстного окна до 262144 токенов в конфигурации оценки. Поддержка конкретного набора языков не уточняется. Ключевая особенность — динамическое FP8-квантизование весов и активаций линейных операторов внутри transformer-блоков. По сравнению с BF16 это уменьшает число бит на параметр с 16 до 8, размер на диске и требования к GPU-памяти примерно на 50%, что делает модель удобнее для инференса. Рекомендуемый backend развертывания — vLLM, включая OpenAI-совместимый сервер. Ограничения включают возможное снижение точности из-за квантизации и отсутствие в представленном README итоговых числовых результатов бенчмарков. Модель предназначена для законного использования и распространяется по лицензии Apache 2.0.

QuantFactory/Qwen2.5-1.5B-Instruct-GGUF — квантизированная версия инструкционно дообученной языковой модели Qwen2.5-1.5B-Instruct, созданная QuantFactory с использованием llama.cpp на основе модели Qwen от Alibaba Cloud. Это каузальная текстовая модель для диалогов, генерации текста, следования инструкциям, работы со структурированными данными и формирования структурированных ответов, включая JSON. Она также улучшена для задач программирования и математики. Модель содержит 1,54 млрд параметров, из которых 1,31 млрд не относятся к эмбеддингам, и включает 28 слоёв. Архитектура использует RoPE, SwiGLU, RMSNorm, смещения в QKV внимания, связанные эмбеддинги слов и GQA с 12 головами для Q и 2 для KV. Поддерживаются контексты до 32 768 токенов и генерация до 8192 токенов. Модель многоязычная и поддерживает более 29 языков, включая английский, китайский, русский, французский, испанский, немецкий, итальянский, японский, корейский, арабский и другие. Квантизация в формате GGUF может снизить требования к ресурсам и упростить локальный запуск, однако README не содержит сведений о конкретном типе квантизации, размере файлов, точности или производительности. Модель предназначена для текстовых сценариев и не заявляет поддержку изображений или других модальностей. Распространяется по лицензии Apache-2.0.

Qwen3-0.6B-FP8 — компактная причинно-следственная языковая модель семейства Qwen, разработанная командой Qwen. Это FP8-квантизированная версия базовой модели Qwen3-0.6B, предназначенная для генерации текста, диалогов, следования инструкциям, рассуждений, математических и программных задач, перевода и мультиязычных сценариев. Модель также поддерживает интеграцию с внешними инструментами и агентские приложения. Модель содержит 0,6 млрд параметров, из них 0,44 млрд не относятся к embedding, и включает 28 слоёв. Она использует Grouped-Query Attention с 16 головами для запросов и 8 для ключей и значений, поддерживает контекст до 32 768 токенов и более 100 языков и диалектов. В одной модели можно переключаться между thinking mode для сложных рассуждений, математики и кода и non-thinking mode для более быстрой генерации и обычного диалога. FP8-квантизация с размером блока 128 снижает требования к ресурсам и подходит для развёртывания через Transformers, SGLang и vLLM. Сильные стороны модели — небольшой размер, поддержка мультиязычности, режимов рассуждения и обычного ответа, а также применимость к диалоговым и агентским задачам. Ограничения включают возможные бесконечные повторы при неподходящих параметрах генерации и известные проблемы fine-grained FP8 в Transformers при распределённом инференсе на нескольких устройствах. Модель распространяется по лицензии Apache 2.0.

Qwen3-1.7B-GGUF — квантованная версия причинной языковой модели Qwen3-1.7B, разработанной командой Qwen компании Alibaba Cloud. Модель предназначена для локальной генерации текста, диалогов, следования инструкциям, решения математических и логических задач, программирования, творческого письма, ролевого взаимодействия, перевода и сценариев с использованием внешних инструментов. Она поддерживает переключение между режимом рассуждений для сложных задач и нерссуждающим режимом для более быстрых универсальных ответов. Модель содержит 1,7 млрд параметров, из которых 1,4 млрд не относятся к embedding, включает 28 слоёв и использует Grouped Query Attention: 16 голов для Q и 8 для KV. Заявленная длина контекста — 32 768 токенов. Формат GGUF и квантование q8_0 ориентированы на запуск через llama.cpp и Ollama. Поддерживаются более 100 языков и диалектов, при этом README не уточняет полный перечень языков. К сильным сторонам относятся компактный размер, мультиязычность, возможности рассуждения, следования инструкциям и работы с агентными сценариями. Ограничения включают меньший размер по сравнению с крупными моделями, возможное снижение качества из-за квантования и зависимость результатов от настроек декодирования и поддерживаемого шаблона чата. Для режима рассуждений рекомендуются специальные параметры sampling; жадное декодирование не рекомендуется из-за риска ухудшения качества и повторов. Модель распространяется по лицензии Apache-2.0.

RedHatAI/Qwen3-4B-Instruct-2507-quantized.w8a8 — это квантизированная версия языковой модели Qwen/Qwen3-4B-Instruct-2507, разработанная Red Hat совместно с Neural Magic. Модель построена на архитектуре Qwen3ForCausalLM, работает с текстом на входе и генерирует текст на выходе. Размер базовой модели — 4 млрд параметров; поддерживается контекст до 262 144 токенов в конфигурации развертывания, указанной в README. Модель предназначена для рассуждений, следования многоязычным инструкциям, перевода и function calling. Её также можно адаптировать под предметные области с помощью дообучения. Языки перечислены обобщённо как многоязычные, без указания конкретного набора языков. Поддерживается эффективное развертывание через vLLM, включая OpenAI-совместимый API. Веса и активации линейных операторов в блоках Transformer квантизированы в INT8; применяются SmoothQuant и GPTQ. Это примерно вдвое снижает требования к памяти и размер модели на диске, а также может увеличить пропускную способность матричных умножений примерно в 2 раза. Ограничение модели — использование квантованного представления и текстовая модальность; сведения о конкретном влиянии квантования на качество и подробные результаты оценки в README не приведены. Модель распространяется по лицензии Apache 2.0.

NVIDIA Qwen3.6-35B-A3B-NVFP4 — квантизированная версия языковой модели Qwen3.6-35B-A3B, разработанной Alibaba и подготовленной NVIDIA с использованием Model Optimizer. Модель предназначена для генерации текста, чат-ботов, AI-агентов, RAG-систем и других приложений на базе ИИ. Модель использует архитектуру Transformers с гибридным вниманием и Mixture-of-Experts (MoE): всего 35 млрд параметров, из которых активируется 3 млрд. Она поддерживает текстовые, графические и видеовходы, включая изображения RGB и видео MP4/WebM, а также контекст длиной до 262 тысяч токенов; выходом служит текст. Для запуска заявлена поддержка vLLM на Linux и NVIDIA GPU архитектур Hopper и Blackwell. Квантизация выполнена в формат NVFP4 с помощью nvidia-modelopt версии 0.44.0, что ориентировано на эффективный инференс на совместимом оборудовании. Сильными сторонами модели являются большой контекст, мультимодальные входы, MoE-архитектура с небольшим числом активных параметров и готовность к развертыванию через vLLM. Ограничения включают зависимость от совместимой NVIDIA-инфраструктуры, неполное раскрытие данных об обучении и необходимость дополнительного тестирования на данных конкретного сценария. Использование регулируется лицензией Apache 2.0; модель доступна для коммерческого и некоммерческого применения.

Qwen3.6-35B-A3B-QD-GGUF — квантизированная версия модели Qwen3.6-35B-A3B, подготовленная Quadux IT с использованием собственной методики Quadux Dynamic Quantization. Модель предназначена для диалоговых и мультимодальных сценариев, включая работу с текстом и изображениями, и рассчитана на запуск через llama.cpp в формате GGUF. В основе лежит MoE-архитектура: 35,5 млрд параметров всего и около 3 млрд активных параметров на токен. Используется гибридная схема attention с контекстом до 256 тысяч токенов и низкими затратами на KV-кэш. Поддерживаются английский, немецкий и, согласно карточке, другие языки. В комплект включены MTP head и совместимый vision projector, что обеспечивает поддержку изображений при использовании соответствующей конфигурации. Доступно несколько вариантов квантизации размером примерно от 10,6 до 26,42 ГБ, рассчитанных на видеокарты с 12–32 ГБ памяти. Распределение точности выполнено по результатам измерения чувствительности отдельных тензоров, поэтому варианты ориентированы на хорошее качество при ограниченном размере. Ограничения связаны с неизбежными потерями качества квантизации, зависимостью результата от выбранного варианта и необходимостью отдельного vision projector для мультимодальной работы. Лицензия — Apache 2.0.

infosave/Qwen3.8-27B-cmf — это квантизированная версия модели Qwen3.8-27B, преобразованная в контейнер CMF. Исходная модель разработана командой Qwen, а данный репозиторий содержит её представление для запуска через cortiq — нативный Rust-бинарник без Python и ML-фреймворков. Модель предназначена для генерации текста, диалогов, объяснения технических тем и работы через API, совместимый с OpenAI, а также через Ollama-совместимый интерфейс. Модель имеет 27 млрд параметров и гибридную архитектуру: 48 слоёв GatedDeltaNet с линейным вниманием и 16 слоёв полного внимания. Заявлено контекстное окно до 262 тысяч токенов и режим рассуждений. Поддерживаются английский, русский и китайский языки. Доступны варианты квантизации 4-bit и 8-bit; наиболее компактный q4tp занимает 14,3 ГБ, q4t — 15,4 ГБ, а q8_2f — 27,4 ГБ. К сильным сторонам относятся большое контекстное окно, поддержка различных GPU через Vulkan, Metal и DX12, работа на CPU, совместимость с NVIDIA, AMD, Intel и Apple silicon, а также возможность спекулятивного декодирования для ускорения жадной генерации. Ограничения связаны с высокими требованиями к памяти, зависимостью производительности от оборудования и характера запроса, а также с тем, что спекулятивное декодирование применяется преимущественно для greedy-генерации и не всегда ускоряет свободный текст. Модель распространяется по лицензии Apache-2.0.

unsloth/Qwen3-VL-2B-Instruct-bnb-4bit — 4-битная квантованная версия мультимодальной модели Qwen3-VL-2B-Instruct, опубликованная Unsloth на основе модели Qwen. Это instruction-модель архитектуры Dense с примерно 2 млрд параметров, предназначенная для обработки изображений и текста, а также для задач понимания видео и визуально-текстового диалога. Модель подходит для описания и анализа изображений, визуального и пространственного рассуждения, OCR, STEM- и математических задач, генерации кода и разметки Draw.io/HTML/CSS/JS по визуальным материалам, а также для взаимодействия с графическими интерфейсами и инструментами. Заявлены контекст длиной 256 тысяч токенов с возможностью расширения до 1 млн, понимание длинных документов и продолжительных видеозаписей, а также OCR для 32 языков. Среди архитектурных особенностей указаны Interleaved-MRoPE, DeepStack и выравнивание текста с временными метками. К сильным сторонам относятся сочетание языкового и визуального понимания, улучшенная работа с пространственными отношениями, видео, документами и мелкими визуальными деталями, а также сниженные требования к памяти благодаря 4-битному формату. README не приводит точный перечень поддерживаемых языков, аппаратные требования и детальные ограничения квантованной версии; на практике 4-битное представление может влиять на точность, но конкретные потери здесь не указаны. Лицензия — Apache-2.0.

Qwen3-VL-32B-Thinking-GGUF — мультимодальная модель семейства Qwen, разработанная командой Qwen. Репозиторий содержит GGUF-веса базовой модели Qwen3-VL-32B-Thinking и предназначен для локального запуска через llama.cpp, Ollama и другие инструменты, совместимые с GGUF, на CPU, NVIDIA GPU, Apple Silicon и Intel GPU. Модель объединяет языковую модель и vision encoder, поддерживает обработку текста, изображений и видео. Она ориентирована на визуально-языковое понимание и рассуждение, включая анализ документов и сцен, OCR, пространственное восприятие, STEM- и математические задачи, генерацию кода и разметки по изображениям или видео, а также взаимодействие с графическими интерфейсами и инструментами. Заявлены контекст до 256K токенов с возможностью расширения до 1M, поддержка OCR на 32 языках и улучшенное понимание длительных видео с временной привязкой событий. Архитектурные особенности включают Interleaved-MRoPE для моделирования времени и пространственных измерений, DeepStack для объединения многоуровневых признаков ViT и выравнивание текста с временными метками. Доступны варианты языковой модели FP16, Q8_0 и Q4_K_M, а vision encoder — FP16 и Q8_0, что позволяет выбирать баланс качества, скорости и требований к памяти. Ограничения включают высокие вычислительные и ресурсные требования 32B-модели, а также возможное снижение качества при использовании более агрессивного квантования; конкретные результаты бенчмарков в README не приведены. Распространение указано по лицензии Apache-2.0.

Qwen3-VL-4B-Instruct-GGUF — мультимодальная vision-language модель, созданная командой Qwen и представленная в формате GGUF компанией Unsloth. Она предназначена для диалогов и генерации текста по текстовым и визуальным входным данным, включая изображения и видео. Модель подходит для визуального анализа, распознавания текста, пространственного рассуждения, решения STEM- и математических задач, понимания видеосцен, генерации кода и взаимодействия с графическими интерфейсами и инструментами. Модель относится к семейству Qwen3-VL и использует плотную архитектуру с 4B параметров. Заявлена поддержка контекста длиной 256K токенов с возможностью расширения до 1M. Среди архитектурных особенностей указаны Interleaved-MRoPE для временных и пространственных представлений, DeepStack для объединения многоуровневых визуальных признаков и выравнивание текста с временными метками для анализа видео. OCR поддерживает 32 языка, однако полный перечень языков в README не приведён. Сильные стороны модели — сочетание текстового и визуального понимания, расширенный контекст, обработка длинных документов и продолжительных видео, распознавание текста в сложных визуальных условиях, а также возможности пространственного и агентного рассуждения. Ограничения, включая точные требования к памяти, скорость работы, результаты бенчмарков и перечень поддерживаемых языков, в предоставленных данных не раскрыты. Модель распространяется по лицензии Apache-2.0.

VulnLLM-R-7B — специализированная языковая модель Virtue-AI-HUB для поиска уязвимостей в исходном коде. Это дообученная версия Qwen/Qwen2.5-7B-Instruct с плотной архитектурой Qwen2 и 7,1 млрд параметров; модель принимает текст и генерирует анализ кода с объяснением возможной уязвимости. В карточке заявлена поддержка C, C++, Python и Java, а контекст составляет 32 768 токенов. Модель предназначена для анализа потоков данных и управления, контекста безопасности и выявления сложных логических уязвимостей. Её можно применять при аудите кода и проверке на уязвимости; карточка сообщает о тестировании на PrimeVul, Juliet 1.3 и ARVO и заявляет высокие результаты, но не приводит сами метрики. Модель не заменяет проверку специалистом: качество вывода для конкретного кода и среды может различаться. Лицензия — Apache-2.0.

InternScience/Agents-A1-Q4_K_M-GGUF — квантизированная версия агентной модели Agents-A1, разработанной командой InternScience. Модель относится к классу Mixture-of-Experts и имеет около 35 млрд параметров; вариант Q4_K_M предназначен для более экономичного локального запуска. Базовая модель Agents-A1 поддерживает генерацию текста, работу с инструментами и, согласно заявленным тегам, мультимодальные сценарии с изображениями, однако точные сведения о поддерживаемых форматах и языках в предоставленных данных не указаны. Модель предназначена для долгих многошаговых задач, поиска и анализа информации, инженерных и научных исследований, выполнения инструкций, общего агентного взаимодействия и вызова внешних инструментов, включая API, интерпретаторы кода и поисковые системы. Она ориентирована на декомпозицию сложных задач, планирование, адаптацию по промежуточным результатам, научное рассуждение и соблюдение подробных многоусловных инструкций. Среди сильных сторон заявлены конкурентоспособные результаты в ряде агентных, научных и исследовательских бенчмарков при существенно меньшем размере по сравнению с крупнейшими моделями. К ограничениям относятся возможное снижение качества из-за квантизации Q4_K_M, а также отсутствие в предоставленном README точных данных о размере контекстного окна, языках, поддерживаемых мультимодальных входах и системных требованиях. Модель распространяется по лицензии Apache-2.0.

Anthropic-ai/Aiaudiotranslate — мультиязычная разговорная языковая модель на архитектуре Qwen3.5 с 7,2 млрд параметров. Согласно карточке, это независимый проект открытой модели, дообученной для следования инструкциям, устойчивого поведения ассистента, рассуждений, письма, суммаризации и помощи с программированием. Метаданные указывают контекст до 262 144 токенов и варианты весов Safetensors и GGUF, включая квантизированные сборки. Модель предназначена для диалога и генерации текста на разных языках; в README также заявлены задачи транскрибирования и перевода аудио, но описание репозитория сосредоточено на текстовом ассистенте и не подтверждает аудиовход. Лицензия — MIT. Карточка называет проект независимым и неофициальным; приведённые в README показатели бенчмарков описаны как основанные на Qwen3.5 9B.

ressl/gemma-4-31B-it-uncensored-GGUF — квантизированная GGUF-версия модели gemma-4-31B-it-uncensored, основанной на Google Gemma 4 31B-it. Формат подготовлен Robert Ressl для запуска через llama.cpp, Ollama и LM Studio; разработчик базовой модели — Google, а адаптация, «uncensored»/abliterated-обработка, конвертация и валидация выполнены Robert Ressl. Модель предназначена для генерации текста, диалоговых задач, локального запуска и сценариев, где требуется ассистент с минимальным количеством отказов, включая этичный анализ безопасности, исследование уязвимостей, анализ вредоносного и exploit-кода, написание правил обнаружения и red-teaming. GGUF-репозиторий является текстовым: мультимодальная vision-компонента удалена. Заявлены английский и немецкий языки. Модель поддерживает режим рассуждений, включаемый по умолчанию в llama.cpp; для прямых ответов его можно отключить. Доступны квантизации от q8_0 до q2_k размером примерно от 31 до 12 ГБ; q4_k_m указан как рекомендуемый баланс качества и размера. Меньшие квантизации снижают требования к памяти, но могут ухудшать качество. README сообщает о 0 эффективных отказов в большинстве уровней квантизации и о скорости около 75 токенов в секунду для q4 на одной RTX PRO 6000, однако эти показатели зависят от среды и методики тестирования. Максимальная длина контекста и архитектурные детали не указаны. Модель распространяется по Apache License 2.0, унаследованной от базовой модели Google Gemma 4; использование должно соответствовать условиям этой лицензии и применимому законодательству.

llmfan46/gemma-4-E4B-it-uncensored-heretic — производная модель на основе Google Gemma 4 E4B Instruct, опубликованная независимым автором. Это плотная мультимодальная модель для диалога и генерации текста, понимания изображений и аудио, рассуждений, программирования и вызова инструментов. В карточке заявлены гибридное внимание с локальными скользящими окнами и глобальными слоями, а для базовой модели E4B — контекст до 128 тысяч токенов и поддержка более 35 языков. Модель подходит для чат-ботов, суммаризации и создания текстов, извлечения данных из изображений и документов, распознавания речи и голосовых сценариев. В названии и тегах указано uncensored/abliterated, однако README не описывает конкретные изменения и не приводит отдельные оценки качества именно этой производной версии. Возможны фактические ошибки, смещения и трудности с неоднозначными или сложными запросами. Лицензия — Apache-2.0.

haLLAwa3 — объединённая языковая модель AbacusResearch на архитектуре Mistral с 7,1 млрд параметров. Она создана методом слияния mergekit моделей openchat/openchat-3.5-0106 и machinists/Mistral-7B-SQL; в конфигурации указаны метод slerp и точность bfloat16. Модель предназначена для генерации текста и диалоговых ответов, в том числе для задач, где нужны краткие прямые ответы, понимание документов и работа с SQL. Контекст модели составляет до 32 768 токенов. В README приведены результаты Open LLM Leaderboard: средний балл 71,34, включая 67,83 на AI2 Reasoning Challenge и 87,02 на HellaSwag; эти показатели относятся к указанным тестам и не гарантируют точность в конкретном применении. Лицензия — Apache-2.0.

Llama-3.3-70B-Instruct-FP8-dynamic — это 70-миллиардная инструкционно дообученная языковая модель Meta на архитектуре Llama 3.3, опубликованная RedHatAI в динамически квантизованном варианте FP8 и адаптированная FuriosaAI для запуска на аппаратуре FuriosaAI RNGD с использованием Furiosa-LLM. Модель предназначена для автодополнения текста, многоязычного диалога, выполнения инструкций и вызова инструментов через функции. Модель работает с текстом на входе и выходе, поддерживает английский, французский, итальянский, португальский, хинди, испанский, тайский и немецкий языки. Это плотный autoregressive Transformer; веса линейных слоёв квантизованы в FP8, а активации квантизуются динамически для каждого токена во время инференса. Поддерживается tool calling через парсер llama3_json. Для запуска на RNGD используется tensor parallelism с 32 PE, что соответствует четырём картам RNGD. Сильные стороны модели — сочетание большого размера, инструкционного обучения, многоязычности, поддержки вызова инструментов и сниженных требований к вычислительным ресурсам благодаря FP8-квантизации. Ограничения включают необходимость совместимой инфраструктуры для запуска оптимизированной версии: Furiosa-LLM и аппаратуры FuriosaAI RNGD; в README не указаны размер контекстного окна, результаты бенчмарков и подробные ограничения безопасности. Модель распространяется по лицензии Llama 3.3 Community License.

Диалоговая модель shibing624 на базе Llama-3-8B-Instruct-262k, дообученная методом ORPO на наборе предпочтений для китайского и английского языков. Модель использует плотную архитектуру LlamaForCausalLM и содержит около 7,5 млрд параметров; поддерживает контекст до 262 144 токенов и рассчитана на многоходовый диалог, генерацию текста, кодирование и рассуждения, а также сценарии RAG с длинными документами. Модель поддерживает китайский и английский языки. В README отмечены ограничения: при ответах на вопросы о знаниях возможны галлюцинации, особенно по китайской тематике и классической китайской литературе. Для запуска приведены ориентиры по видеопамяти: около 18,66 ГБ для кодирования 2 048 токенов и 24,58 ГБ для генерации 8 192 токенов в FP16/BF16; для Int4 — около 9,21 ГБ и 14,62 ГБ соответственно. Лицензия указана как other, поэтому конкретные условия использования следует сверять с лицензией репозитория.

RedHatAI/Qwen2-72B-Instruct-FP8 — это текстовая instruction-tuned модель для диалоговых и ассистентских сценариев, созданная Neural Magic на основе Qwen2-72B-Instruct. Модель принимает текст и генерирует текст; заявлена для коммерческого и исследовательского использования на английском языке. Модель содержит 72 млрд параметров и использует FP8-квантизацию весов и активаций линейных операторов в трансформерных блоках. Симметричная поканальная схема не используется: применяется симметричная поквантовая схема с одним масштабным коэффициентом на тензор. Это примерно вдвое снижает требования к дисковому пространству и памяти GPU по сравнению с 16-битной версией. Модель подготовлена для инференса через vLLM версии 0.5.0 и выше; в примерах развертывания и оценки используется максимальная длина контекста 4096 токенов. К сильным сторонам относятся существенное снижение требований к ресурсам при сохранении качества исходной модели: средний результат на OpenLLM benchmark составляет 80,34 против 79,97 у неквантизированной версии. Ограничения включают ориентацию на английский язык, необходимость совместимого FP8-оборудования и программного стека для эффективного запуска, а также отсутствие в README сведений о поддержке изображений или других модальностей. Лицензия указана как tongyi-qianwen; применение должно соответствовать условиям этой лицензии и законодательству.