I.1Поиск и навигация по информации

Карточка модели Lumo69/Llama-3_1-Nemotron-Ultra-253B-v1 на Hugging Face совпадает с карточкой nvidia/Llama-3_1-Nemotron-Ultra-253B-v1, поэтому описание составлено по ней. Llama-3.1-Nemotron-Ultra-253B-v1 — большая языковая модель NVIDIA для рассуждений, диалогов и выполнения инструкций. Это плотный авторегрессионный Transformer-декодер, созданный на основе Meta Llama-3.1-405B-Instruct с применением Neural Architecture Search: структура блоков изменена для сокращения памяти и ускорения инференса. В README указано 253 млрд параметров; метаданные каталога оценивают общий размер в 697,9 млрд параметров. Модель принимает и генерирует текст, поддерживает контекст до 131 072 токенов и работает через Transformers. Модель предназначена для чат-ботов, агентных систем, RAG, вызова инструментов и общих задач по инструкциям, включая математику, программирование и рассуждения. Она рассчитана прежде всего на английский язык; README также заявляет поддержку немецкого, французского, итальянского, португальского, хинди, испанского и тайского. Модель оптимизирована по соотношению качества и эффективности и, по README, может использоваться коммерчески. Метаданные указывают лицензию «other», поэтому перед использованием следует проверить условия лицензии в карточке модели.

Карточка модели RedHatAI/Llama-3_1-Nemotron-Ultra-253B-v1 на Hugging Face совпадает с карточкой nvidia/Llama-3_1-Nemotron-Ultra-253B-v1, поэтому описание составлено по ней. Llama-3.1-Nemotron-Ultra-253B-v1 — большая языковая модель NVIDIA для рассуждений, диалогов и выполнения инструкций. Это плотный авторегрессионный Transformer-декодер, созданный на основе Meta Llama-3.1-405B-Instruct с применением Neural Architecture Search: структура блоков изменена для сокращения памяти и ускорения инференса. В README указано 253 млрд параметров; метаданные каталога оценивают общий размер в 697,9 млрд параметров. Модель принимает и генерирует текст, поддерживает контекст до 131 072 токенов и работает через Transformers. Модель предназначена для чат-ботов, агентных систем, RAG, вызова инструментов и общих задач по инструкциям, включая математику, программирование и рассуждения. Она рассчитана прежде всего на английский язык; README также заявляет поддержку немецкого, французского, итальянского, португальского, хинди, испанского и тайского. Модель оптимизирована по соотношению качества и эффективности и, по README, может использоваться коммерчески. Метаданные указывают лицензию «other», поэтому перед использованием следует проверить условия лицензии в карточке модели.

Llama-3.3-Nemotron-Super-49B-v1.5-NVFP4 — большая языковая модель NVIDIA, производная от Meta Llama-3.3-70B-Instruct. Это плотная модель семейства Nemotron-NAS с 87 млрд параметров и контекстом до 131 072 токенов; версия NVFP4 предназначена для эффективного использования вычислительных ресурсов. Модель поддерживает диалог, рассуждения и интерфейс вызова инструментов. Модель рассчитана на чат-ботов, AI-агентов, системы RAG и выполнение инструкций. При дообучении улучшены рассуждения и работа с математикой, кодом, наукой и инструментами; применялись supervised fine-tuning, обучение с подкреплением и объединение нескольких чекпойнтов. Основной язык — английский; также поддерживаются немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Языки программирования указаны среди сценариев использования. Модель заявлена как готовая к коммерческому использованию. В метаданных лицензия обозначена как other, поэтому конкретные условия распространения следует сверить с лицензией в репозитории. Для запуска README приводит пример с vLLM и несколькими GPU; практическая скорость и доступная длина контекста зависят от конфигурации оборудования и сервера.

GigaChat 3.1 Lightning — компактная инструкционная языковая модель семейства GigaChat 3.1, разработанная ai-sage. Модель предназначена для быстрых мультиязычных ассистентских сценариев, рассуждений, генерации и анализа кода, вызова функций и продуктовых применений. Она доступна в формате FP8 и построена на архитектуре Mixture-of-Experts: содержит 10 млрд параметров, из которых 1,8 млрд активны во время инференса. Модель использует Multi-head Latent Attention (MLA) для сжатия KV-кэша и снижения потребления памяти, а также Multi-Token Prediction (MTP), поддерживающий ускоренное и параллельное декодирование. Заявлена поддержка русского и английского языков; базовый обучающий корпус охватывает 10 языков и включает тексты, научные материалы, код, математику и синтетические данные. В README не указана точная длина контекста и не заявлена поддержка мультимодальных входов, поэтому модель следует рассматривать как текстовую. К сильным сторонам относятся высокая скорость инференса, низкий активный вычислительный бюджет, эффективность FP8 и улучшенная производительность в длинноконтекстных сценариях. Модель ориентирована на задачи поиска и цитирования, интерпретации файлового кода, персонализации и агентских диалогов с инструментами. Ограничения включают зависимость качества и скорости от аппаратного обеспечения, реализации инференса и режима MTP, а также отсутствие в предоставленных данных подробных сведений о максимальном контексте и мультимодальности. Модель распространяется по лицензии MIT.

Карточка модели crusoeai/gpt-oss-120b-BF16 на Hugging Face совпадает с карточкой unsloth/gpt-oss-120b-BF16, поэтому описание составлено по ней. unsloth/gpt-oss-120b-BF16 — вариант модели gpt-oss-120b от Unsloth, основанный на openai/gpt-oss-120b. Это генеративная языковая модель с архитектурой MoE; карточка описывает исходную gpt-oss-120b как модель на 117 млрд параметров, из которых активно 5,1 млрд, а метаданные этого репозитория указывают 2,1 млрд параметров. Модель предназначена для диалога, сложных рассуждений, агентных сценариев и задач разработчиков. Она поддерживает настройку уровня рассуждений и работу с вызовом функций, веб-поиском, выполнением Python-кода и структурированными ответами. Контекстное окно — 131 072 токена. Для корректной работы требуется формат диалога Harmony; в README также отмечено, что цепочку рассуждений не следует показывать конечным пользователям. Репозиторий содержит веса Safetensors и рассчитан на Transformers. Лицензия — Apache 2.0, допускающая коммерческое использование.

Карточка модели hchitte/gpt-oss-120b-fused на Hugging Face совпадает с карточкой unsloth/gpt-oss-120b-BF16, поэтому описание составлено по ней. unsloth/gpt-oss-120b-BF16 — вариант модели gpt-oss-120b от Unsloth, основанный на openai/gpt-oss-120b. Это генеративная языковая модель с архитектурой MoE; карточка описывает исходную gpt-oss-120b как модель на 117 млрд параметров, из которых активно 5,1 млрд, а метаданные этого репозитория указывают 2,1 млрд параметров. Модель предназначена для диалога, сложных рассуждений, агентных сценариев и задач разработчиков. Она поддерживает настройку уровня рассуждений и работу с вызовом функций, веб-поиском, выполнением Python-кода и структурированными ответами. Контекстное окно — 131 072 токена. Для корректной работы требуется формат диалога Harmony; в README также отмечено, что цепочку рассуждений не следует показывать конечным пользователям. Репозиторий содержит веса Safetensors и рассчитан на Transformers. Лицензия — Apache 2.0, допускающая коммерческое использование.

nvidia/Qwen3.5-122B-A10B-NVFP4 — квантизированная версия авторегрессионной мультимодальной модели Qwen3.5-122B-A10B, разработанной Alibaba. Квантизация выполнена NVIDIA с использованием Model Optimizer версии 0.44.0; сама модель не принадлежит и не разработана NVIDIA, а подготовлена по требованиям к данному сценарию применения. Модель предназначена для генерации текста, чат-ботов, AI Agent-систем, RAG и других приложений на базе искусственного интеллекта. Она принимает текст, изображения и видео, а выдаёт текст. Поддерживается контекст до 262K токенов, однако сведения о языках модели в карточке не указаны. Архитектура основана на оптимизированном Transformer и Mixture of Experts: всего 122 млрд параметров, из которых 10 млрд активируются при обработке запроса. Веса и активации линейных операторов в Transformer-блоках MoE переведены в формат NVFP4, что примерно в четыре раза уменьшает требования к дисковому пространству и GPU-памяти по сравнению с исходным представлением. Модель рассчитана на инференс через vLLM на NVIDIA GPU архитектуры Blackwell под Linux. К преимуществам относятся большой контекст, мультимодальный ввод, MoE-архитектура и сниженные требования к памяти благодаря квантизации. Ограничения включают зависимость от совместимого NVIDIA-оборудования и vLLM, возможные особенности качества и точности, связанные с 4-битной квантизацией, а также отсутствие раскрытых сведений о полном обучающем наборе данных. Перед промышленным использованием необходимы тестирование на данных конкретного сценария и проверка безопасности. Модель распространяется по лицензии Apache 2.0 и допускает коммерческое и некоммерческое использование.

NVIDIA Qwen3.5-397B-A17B NVFP4 V2 — квантизированная версия авторегрессионной мультимодальной модели Qwen3.5-397B-A17B, разработанной Alibaba и оптимизированной NVIDIA с помощью Model Optimizer. Модель предназначена для коммерческого и некоммерческого использования в AI Agent-системах, чат-ботах, RAG-системах и других приложениях на базе искусственного интеллекта. Модель использует архитектуру Transformers и содержит 397 млрд параметров, из которых активируется 17 млрд. Она принимает текст, изображения и видео, а генерирует текст; заявленная длина контекста составляет до 262 тысяч токенов. Поддерживаются входные данные в строковом формате, изображения RGB и видео MP4/WebM. Модель оценивалась на задачах мультимодального рассуждения, научного программирования, работы с длинным контекстом, следования инструкциям и агентского использования инструментов. Вариант NVFP4 2.0 предназначен для ускоренного инференса на GPU NVIDIA, прежде всего на архитектуре Blackwell, с использованием SGLang и Linux. Веса и активации линейных операторов внутри transformer-блоков квантизированы в NVFP4; attention и shared experts используют per-tensor FP8. Ограничения включают нераскрытые данные обучения и отсутствие приведённых численных результатов бенчмарков, поэтому перед развёртыванием необходимы тестирование на целевых данных и проверка безопасности. Модель распространяется по лицензии Apache 2.0.

brian-learns/Qwen3.6-27B-NVFP4-GGUF — квантизированная модель семейства Qwen, основанная на Qwen3.6-27B от Alibaba и подготовленная с помощью NVIDIA Model Optimizer. Это авторегрессионный трансформер с гибридным механизмом внимания Gated DeltaNet и Gated Attention, содержащий 27 млрд параметров; веса и активации линейных слоёв сведены к формату NVFP4, что сокращает требования к дисковому пространству и памяти GPU примерно в 2,5 раза относительно 16-битного варианта. Модель предназначена для диалоговых приложений, AI-агентов, чат-ботов, RAG-систем и других приложений с генерацией текста. Она принимает текст, изображения и видео, выдаёт текст и поддерживает контекст до 262 тысяч токенов. В карточке заявлена интеграция с vLLM и оптимизация для GPU NVIDIA Hopper и Blackwell; метаданные репозитория указывают формат GGUF и интерфейс вызова инструментов. Модель может отвечать неточно, пропускать важные сведения или выдавать нерелевантный и повторяющийся текст; унаследованные от обучающих данных предубеждения могут приводить к токсичным ответам. Разработчик указывает лицензию Apache-2.0 и допускает коммерческое и некоммерческое применение.

Это конвертированная версия открытой весовой модели gpt-oss-20b, разработанной OpenAI и опубликованной axolotl-ai-co. Модель предназначена для генерации текста, диалога, рассуждений и агентных сценариев, включая вызов функций и работу с инструментами. Архитектура — разреженная смесь экспертов (MoE); карточка модели указывает 21 млрд параметров, из которых активно 3,6 млрд, тогда как метаданные репозитория содержат значение 1,6 млрд. Контекст составляет 131 072 токена. Модель обучена работать в формате Harmony и может запускаться через Transformers и vLLM. Среди возможностей — настройка уровня рассуждений, дообучение под специализированные задачи и использование для локальных сценариев с меньшей задержкой. В README заявлена нативная точность MXFP4 для слоёв MoE и возможность работы в пределах 16 ГБ памяти. Модель принимает текст и выдаёт текст. Лицензия Apache-2.0 допускает коммерческое использование. Следует применять формат Harmony: вне него модель может работать некорректно; цепочку рассуждений не следует показывать конечным пользователям.

Llama-3.1-Nemotron-Nano-4B-v1.1 — языковая модель NVIDIA на базе nvidia/Llama-3.1-Minitron-4B-Width-Base, созданной из Llama 3.1 8B методом сжатия. Это плотный декодерный Transformer семейства Llama с 3,9 млрд параметров, дообученный для рассуждений, общения по инструкциям, математики, программирования, работы с RAG и вызова инструментов. Модель рассчитана на текстовый ввод и вывод, поддерживает контекст до 131 072 токенов и может запускаться локально на одной RTX GPU. Модель предназначена для чат-ботов, AI-агентов и приложений, которым нужны ответы на вопросы, следование инструкциям и многошаговые рассуждения. Режим рассуждений управляется системным промптом; для вызова инструментов предусмотрены шаблон чата и парсер для vLLM. Основной язык — английский; также заявлена поддержка немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. В карточке указана возможность коммерческого использования; лицензия обозначена как other, поэтому перед внедрением следует ознакомиться с условиями лицензии репозитория. Результаты зависят от формата запроса и настроек декодирования; опубликованные оценки получены при длине последовательности 32K и не гарантируют такого же качества на всех задачах или при использовании полного контекста.

Nex-N2.5-mini — разговорная модель семейства агентных моделей Nex-N2.5 от Nex-AGI, основанная на архитектуре Qwen3.5 MoE. Она предназначена для длительных многошаговых задач: работы с компьютером и браузером, выполнения и проверки программ, а также научной и офисной работы. Модель использует визуальную обратную связь для восприятия интерфейсов, проверки результатов и продолжения действий; поддерживает режимы рассуждения и вызов функций. Для запуска автор приводит конфигурацию на двух ускорителях H100 и рекомендует параметры генерации temperature 0.7, top_p 0.95 и top_k 40. В метаданных указаны Transformers и формат safetensors; лицензия — Apache-2.0. README описывает мультимодальные возможности семейства и отдельно позиционирует Nex-N2.5-Max как текстовую модель, поэтому точные размер, контекст и перечень входов и выходов именно mini по этим данным установить нельзя.

Qwythos-9B-Claude-Mythos-5-1M-heretic — модель на 9 млрд параметров, созданная Richard Young на основе Qwen/Qwen3.5-9B. Это полное дообучение текстовой части модели методом supervised fine-tuning; визуальный модуль унаследован от базовой модели, но при дообучении не настраивался. Модель предназначена для диалогов, рассуждений и работы с инструментами, включая вызовы функций в формате Qwen3.5. Контекстное окно расширено до 1 048 576 токенов с помощью YaRN; автор сообщает о проверке работы на контексте около 137 тысяч токенов. Это позволяет анализировать крупные репозитории, длинные переписки и наборы документов в одном запросе. Модель поддерживает английский язык. В карточке заявлены успешные результаты на собственном тесте вызова инструментов из семи запросов; это ограниченная оценка, а не независимое подтверждение качества. Автор предупреждает о циклах повторов при жадной генерации или низкой температуре и рекомендует проверять точные сведения в критически важных сценариях, используя поиск или другие инструменты. Возможности работы с изображениями унаследованы от базовой мультимодальной архитектуры, но в этой версии не настраивались и не тестировались. Лицензия — Apache 2.0.

Droplychee-1.0-27B — мультимодальная модель на архитектуре Qwen3.5 с 27 млрд параметров, разработанная Droplychee AI Research на основе Qwen/Qwen3.6-27B и доработанная полным supervised fine-tuning и слиянием моделей. Она поддерживает входные изображения и текст, а основное назначение по карточке Hugging Face — диалоговое понимание изображений и текста. В README также заявлены следование инструкциям, ответы на вопросы, программирование, рассуждения, перевод, суммаризация, анализ документов и агентные сценарии. Модель ориентирована на английский и бенгальский языки, а README дополнительно заявляет поддержку более чем 40 языков, включая русский; качество может различаться. README указывает контекст до 1 000 000 токенов в зависимости от среды запуска. Модель доступна в формате safetensors и совместима с Transformers. Лицензия — Apache-2.0. Возможные ограничения включают фактические ошибки, галлюцинации, предвзятость и ошибки рассуждения; важные результаты следует проверять. README не приводит независимо подтверждённых результатов бенчмарков.

GLM-5-FP8 — открытая языковая модель, разработанная командой zai-org. Она предназначена для сложных задач системной инженерии и длительных агентных сценариев, включая рассуждения, программирование, работу с инструментами, веб-навигацию и управление многошаговыми процессами. Модель поддерживает английский и китайский языки и используется для генерации текста через библиотеку Transformers. Модель содержит 744 млрд параметров, из которых 40 млрд активируются при обработке запроса. По сравнению с GLM-4.5 она обучена на большем объёме данных — 28,5 трлн токенов — и использует DeepSeek Sparse Attention (DSA), что снижает стоимость развёртывания при сохранении возможностей работы с длинным контекстом. В README приведены результаты на задачах математического рассуждения, программирования, кибербезопасности, веб-поиска и взаимодействия с инструментами; в ряде тестов модель показывает конкурентоспособные результаты среди открытых моделей. К сильным сторонам относятся рассуждение, написание и исправление кода, выполнение агентных задач, использование инструментов и работа с длинными последовательностями. Ограничения включают высокие требования к вычислительным ресурсам из-за общего размера модели, несмотря на разреженное внимание и активацию части параметров, а также отсутствие в предоставленных данных подробностей о мультимодальности, точном максимальном контексте и системных требованиях. Модель распространяется по лицензии MIT.

Llama-3.1-Nemotron-Nano-8B-v1 — языковая модель NVIDIA, дообученная на основе Meta Llama-3.1-8B-Instruct. Это плотный авторегрессионный Transformer с архитектурой Llama и примерно 7,5 млрд параметров; модель принимает текст и генерирует текст, поддерживает контекст до 131 072 токенов и интерфейс вызова инструментов. Модель предназначена для диалогов, следования инструкциям и рассуждений, включая задачи по математике и программированию. Её можно применять в чат-ботах, агентных системах и RAG-сценариях; заявлен баланс качества и вычислительной эффективности, включая запуск на одной RTX GPU. Основной язык — английский; также заявлена поддержка немецкого, французского, итальянского, португальского, хинди, испанского и тайского. В README описано многоэтапное дообучение с SFT и обучением с подкреплением, в том числе для математических задач, кода, рассуждений, диалогов и вызова инструментов. Модель заявлена как готовая к коммерческому использованию, однако в метаданных лицензия обозначена как «other», поэтому перед внедрением следует проверить условия лицензии на странице репозитория. Результаты зависят от режима рассуждений и настроек генерации; приведённые в карточке оценки измерялись при длине последовательности 32K токенов, а не на полном контексте.

unsloth/Llama-3.2-1B — текстовая модель генерации на базе Meta Llama 3.2, представленная Unsloth. Это плотная авторегрессионная трансформерная архитектура Llama с 1,2 млрд параметров; репозиторий содержит веса в формате safetensors и предназначен для использования через Transformers. В README Unsloth также предлагает ноутбуки для дообучения модели и экспорта полученных моделей. Модель принимает текст и генерирует текст. Семейство Llama 3.2 предназначено для генерации и диалога; в карточке указаны сценарии суммаризации и агентного поиска, а также поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Контекстное окно составляет 131072 токена. Модель опубликована 25 сентября 2024 года и распространяется по лицензии Llama 3.2 Community License, условия которой следует соблюдать при использовании и распространении.

txn545/Qwen3.5-122B-A10B-NVFP4 — квантизированная версия языковой модели Qwen3.5-122B-A10B от Alibaba, подготовленная с использованием NVIDIA Model Optimizer. Это авторегрессионная модель на архитектуре Transformers с разреженной экспертной архитектурой: всего 122 млрд параметров, из которых 10 млрд активируются при обработке запроса. Модель принимает текст, изображения и видео, а генерирует текст; заявленная длина контекста — до 262 тысяч токенов. Языки README не уточняет. Модель предназначена для развертывания в AI Agent-системах, чат-ботах, RAG-системах и других приложениях на базе искусственного интеллекта. Квантизация весов и активаций линейных операторов в MoE-блоках выполнена в формате NVFP4 и ориентирована на инференс через SGLang на GPU NVIDIA Blackwell под Linux. Указанная версия квантизации создана с помощью nvidia-modelopt v0.43.0.dev52+g35e60991c; для запуска требуется актуальная версия SGLang с поддержкой соответствующих изменений. Сильной стороной модели являются крупный общий объём параметров, мультимодальный ввод, длинный контекст и оптимизация для аппаратного ускорения NVIDIA. Ограничения включают зависимость от совместимого оборудования и программного окружения, а также возможные неточности, токсичные ответы и усиление предубеждений, присутствовавших в исходных данных обучения. Сведения о полном обучающем и тестовом наборах, а также подробные языковые характеристики не раскрыты. Модель распространяется по лицензии Apache 2.0 и допускает коммерческое и некоммерческое использование с учётом условий базовой модели Qwen3.5-122B-A10B.

dranger003/c4ai-command-r-plus-iMat.GGUF — это набор GGUF-квантизаций модели C4AI Command R+, разработанной CohereForAI. Репозиторий предназначен для локального запуска модели через llama.cpp и совместимые инструменты; веса используют importance matrix для улучшения соотношения качества и размера при низкоразрядном квантовании. Базовая модель содержит около 104 млрд параметров, имеет 64 слоя и контекст до 131 072 токенов. Это текстовая autoregressive-модель для генерации текста, диалогов, рассуждений, суммаризации и ответов на вопросы. Она оптимизирована для Retrieval Augmented Generation (RAG) и многошагового использования инструментов. Модель оценивалась на английском, французском, испанском, итальянском, немецком, бразильском португальском, японском, корейском, арабском и упрощённом китайском языках. Главное преимущество репозитория — широкий выбор квантизаций с разным компромиссом между размером файлов и качеством: от IQ1_S примерно на 21,59 ГиБ до FP16 примерно на 193,38 ГиБ. Более компактные варианты требуют меньше памяти, но могут заметно уступать по качеству; для запуска полноразмерных вариантов необходимы значительные вычислительные ресурсы. Для работы с моделью требуется актуальная основная ветка llama.cpp с поддержкой этой архитектуры. Лицензия — CC BY-NC 4.0, предусматривающая некоммерческое использование с соблюдением условий лицензии.

Dragonboy3940/DeepSeek-V3-0324 — текстовая языковая модель семейства DeepSeek-V3, представленная в формате safetensors FP8. В карточке описаны улучшения рассуждений, генерации кода для веб-интерфейсов и игр, написания текстов на китайском языке, перевода, анализа поисковых результатов и вызова функций. Модель поддерживает диалог и интерфейс вызова инструментов. Модель предназначена для генерации текста в диалоге, решения задач на рассуждение, написания и редактирования текстов, перевода и создания кода. Архитектура — DeepseekV3ForCausalLM; размер и контекстное окно соответствуют метаданным репозитория. Указана лицензия MIT. Карточка рекомендует обратиться к репозиторию DeepSeek-V3 за сведениями о локальном запуске.

Granite-3.1-8B-Base — базовая языковая модель IBM Granite Team для генерации текста и последующей адаптации под прикладные сценарии. Это плотный decoder-only Transformer с GQA, RoPE, SwiGLU, RMSNorm и общими входными и выходными эмбеддингами; модель содержит 8,2 млрд параметров и поддерживает контекст до 131 072 токенов. Контекст расширен с 4K у Granite-3.0-8B-Base посредством поэтапного обучения на длинных последовательностях примерно на 500 млрд токенов. Модель предназначена для суммаризации, классификации и извлечения информации, ответов на вопросы и других задач генерации текста, в том числе по длинному контексту. Она обучалась на данных из веба, кода, академических источников, книг и математики, а также на многоязычных, инструкционных и синтетических длинноконтекстных данных. Поддерживаются английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Модель не проходила safety alignment и может выдавать предвзятые или недостоверные ответы, а также воспроизводить фрагменты обучающих данных. Лицензия Apache 2.0.

Shiftedx/qwen3.8-27b-aeon-ultimate-uncensored-attention8-bf16recurrence-vision-mtplx — независимая конверсия сообщества на базе AEON-7/Qwen3.8-27B-AEON-ULTIMATE-UNCENSORED, подготовленная для Apple Silicon, MLX и MTPLX. Это плотная модель на 27 млрд параметров с гибридной архитектурой attention/Gated DeltaNet, поддерживающая работу с текстом и изображениями, рассуждения, вызов инструментов и структурированный вывод. Релиз не является официальным продуктом AEON-7, Qwen, Apple, MLX или MTPLX. Модель использует смешанную точность: аффинное 4-битное и 8-битное квантование весов, а отдельные рекуррентные проекции, vision tower и native multi-token prediction head сохранены в BF16. Репозиторий занимает около 23,84 ГБ, рассчитан на конфигурацию с 64 ГБ или более unified memory и поддерживает контекст до 262 144 токенов; квалификационное тестирование выполнено до 131 072 токенов. Заявлены языки English, Chinese и multilingual. Для ускорения предусмотрена спекулятивная генерация с MTP-head, квалифицированная на глубине 3. По опубликованным тестам модель получила 8/10 в проверке качества, 15/15 в тестах длинного контекста, 6/6 в вызове инструментов, 2/2 в лёгких агентских сценариях и 4/4 в vision-тестах. Сильными сторонами являются ориентация на качество локального запуска, мультимодальность, инструменты, длинный контекст и оптимизация под Apple Silicon. Ограничения включают высокие требования к памяти и зависимость производительности от оборудования и версии MTPLX; заявленные результаты относятся к конкретному Apple M4 Max с 64 ГБ памяти и не гарантируют аналогичную скорость на других системах. Модель распространяется по лицензии Apache-2.0, унаследованной от исходной линейки.

RadixArk/Qwen3.8-27B-NVFP4-BF16-LMHead — мультимодальная плотная модель семейства Qwen3.8-27B, разработанная Qwen и подвергнутая квантованию RadixArk с помощью NVIDIA Model Optimizer. Это производный чекпойнт без дополнительного обучения или дообучения RadixArk: почти все тензоры используют смешанную NVFP4 W4A4-квантизацию, веса внимания — FP8, а lm_head, MTP и визуальные тензоры сохранены в исходной точности BF16. Размер модели — 27 млрд параметров. Модель предназначена для диалоговых систем, AI-агентов, чат-ботов, RAG-систем и других приложений с поддержкой текста, изображений и видео. Она принимает текст и визуальные данные, генерирует текст и поддерживает нативный контекст до 262 144 токенов. Для запуска заявлена интеграция с SGLang на Linux и совместимость с GPU NVIDIA Blackwell; чекпойнт проверен на GB300. В README приведены результаты на GSM8K — 96,13% — и Terminal-Bench 2.1 — 69,4% в одном из протоколов. Ключевое преимущество модели — предварительное квантование, рассчитанное на эффективное развертывание, при сохранении lm_head в BF16; заявленные результаты близки к результатам варианта с квантованным lm_head. Ограничения включают зависимость от совместимой инфраструктуры NVIDIA Blackwell и SGLang, а также типичные для базовой модели риски неточных, неполных, нерелевантных или предвзятых ответов. Лицензия — Apache License 2.0; возможности, обучение, ограничения и условия использования унаследованы от исходной модели Qwen3.8-27B.

LFM2-8B-A1B — гибридная языковая модель Liquid AI для локального запуска на телефонах, планшетах и ноутбуках. Это MoE-модель с 8,3 млрд параметров, из которых при генерации активны около 1,5 млрд. Архитектура сочетает 18 блоков коротких свёрток с двойными gates и 6 блоков grouped-query attention. Контекст — до 128 000 токенов. Модель предназначена для диалогов, следования инструкциям, извлечения данных, RAG, творческого письма и агентных сценариев с вызовом инструментов. Разработчик отмечает улучшения в знаниях и программировании по сравнению с LFM2-2.6B, однако не рекомендует её для задач с высокими требованиями к знаниям или навыкам программирования; для узких сценариев советует дополнительное дообучение. Поддерживаются английский, арабский, китайский, французский, немецкий, японский, корейский и испанский языки. Доступна в формате safetensors и запускается через Transformers; карточка также описывает запуск через vLLM и llama.cpp. Лицензия обозначена как other, поэтому условия использования следует сверять с лицензией в репозитории.

Llama-3 70B Gradient Instruct 524K — языковая модель Gradient, созданная при поддержке вычислительных ресурсов Crusoe Energy на основе Meta-Llama-3-70B-Instruct. Это плотная модель семейства Llama с 69,5 млрд параметров, предназначенная для генерации текста в диалогах и работы с длинными контекстами. Авторы сообщают о расширении контекста исходной модели с 8 тысяч до более чем 524 тысяч токенов за счёт настройки RoPE theta и обучения примерно на 400 млн токенов суммарно; нативная длина контекста по метаданным — 524 288 токенов. Модель подходит для диалоговых помощников, анализа длинных документов и других сценариев, где запрос и большой объём исходного текста нужно учитывать одновременно. Карточка рекомендует Transformers или TGI для запуска. Модель принимает и выдаёт текст; в метаданных указан английский язык. Лицензия — Llama 3, с условиями использования Meta Llama 3 Community License. Как и другие большие языковые модели, она может ошибаться и требует проверки ответов и настройки защитных мер под конкретное применение.

Granite-3.1-2B-Base — базовая языковая модель команды Granite компании IBM для генерации и преобразования текста. Она предназначена для суммаризации, классификации, извлечения сведений, ответов на вопросы и других задач с длинным контекстом; также может служить основой для дообучения под специализированные сценарии. Модель построена на плотной decoder-only архитектуре Transformer с 2,5 млрд параметров. В ней используются GQA, RoPE, SwiGLU, RMSNorm и общие входные и выходные эмбеддинги. Контекст увеличен до 131 072 токенов посредством дополнительного обучения на длинных последовательностях. Поддерживаются английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Модель не проходила safety alignment; возможны предвзятые, ошибочные или небезопасные ответы, а также воспроизведение фрагментов обучающих данных. Выпущена под лицензией Apache 2.0.

JiRack Ultra 7B — текстовая модель для генерации и диалогов от CMSManhattan. Она построена на плотной архитектуре Qwen2 с 7,1 млрд параметров, а в карточке модели также заявлена основа DeepSeek R1 7B. Модель оптимизирована для запуска на CPU: автор сообщает о применении технологий BitNet и QAT, а в репозитории доступны веса safetensors и варианты GGUF с квантованием от Q2_K до Q8_0. Указанный контекст — до 131 072 токенов. Модель предназначена для диалоговых сценариев, использования в RAG, агентной разработки и вызова инструментов. Карточка упоминает специализированные токены для маршрутизации, мультимедиа, зрения, звука и робототехники, но метаданные подтверждают только текстовую генерацию и возможность чата; мультимодальный ввод или вывод ими не подтверждён. Среди отмеченных в метаданных языков — английский, китайский, японский, корейский, французский, испанский, португальский, немецкий, итальянский, русский, арабский, вьетнамский и тайский. По заявлению автора, модель рассчитана на экономичный локальный или облачный инференс, включая запуск через llama.cpp и Ollama. Для квантованного Q4_K_M README рекомендует не менее 12 ГБ системной памяти, а для комфортной работы — 16–24 ГБ; фактическая скорость зависит от процессора и контекста. Веса распространяются по лицензии MIT, однако Docker-образ, готовые Ollama-сборки и UI-клиенты могут требовать отдельной коммерческой лицензии.

Карточка модели mario-d-robot/Qwen2.5-VL-3B-Instruct на Hugging Face совпадает с карточкой unsloth/Qwen2.5-VL-3B-Instruct, поэтому описание составлено по ней. Qwen2.5-VL-3B-Instruct — мультимодальная модель Alibaba семейства Qwen2.5-VL, представленная в репозитории unsloth как дообученная версия Qwen/Qwen2.5-VL-3B-Instruct. Она принимает текст и изображения, а также может анализировать видео, и формирует ответы на естественном языке или структурированный вывод. Модель предназначена для визуальных вопросов и ответов, чтения текста и таблиц на изображениях, анализа диаграмм и макетов, поиска объектов с координатами, понимания событий в видео и взаимодействия с интерфейсами через визуальные сигналы. Модель использует плотную архитектуру Qwen2.5-VL с примерно 3,1 млрд параметров и поддерживает контекст до 128 000 токенов согласно метаданным. README описывает динамическое разрешение изображений, обработку видео с временной привязкой событий, локализацию объектов в виде рамок или точек и структурированные ответы, например для счетов и форм. Карточка также указывает возможности чата и зрения; для работы заявлена библиотека Transformers. README содержит примеры использования с Transformers и ModelScope. Для видео указана зависимость совместимости URL от сторонних библиотек, а длинный текстовый контекст в README описан через YaRN с базовой конфигурацией 32 768 токенов; при расширении контекста возможна потеря качества пространственной и временной локализации. Лицензия в предоставленных данных не указана.

TeichAI обучила эту плотную языковую модель Qwen3 с 3,7 млрд параметров на примерах ответов Claude Opus 3 из набора NoSlop4U/opus-3-1000x. Модель основана на unsloth/Qwen3-4B-Instruct-2507 и предназначена для генерации текста в диалоговом и инструкционном формате. В карточке указаны сценарии применения: программирование, создание агентов и глубокое исследование. Модель поддерживает контекст до 262 144 токенов и интерфейс вызова инструментов; опубликована в формате safetensors. Обучение выполнялось с Unsloth и библиотекой TRL. Лицензия в предоставленных сведениях не указана. Карточка не приводит оценок качества или подробных ограничений; результаты могут отличаться от ответов Claude Opus 3, на которых основаны обучающие данные.

Jakeatx подготовил GGUF-квантизацию Qwen3.8-27B для запуска через llama.cpp на одной видеокарте RTX 3090 или 3090 Ti с 24 ГБ памяти. Это диалоговая модель для генерации текста; репозиторий содержит один файл размером 13,9 ГиБ с форматом IQ4_XS и смешанным повышением точности отдельных тензоров до Q5_0, Q6_K и Q8_0. В README указано, что квантизация создана на основе BF16 GGUF Qwen3.8-27B с использованием матрицы важности Unsloth. Сборка ориентирована на скорость и длинный контекст: автор измерил окно до 245 760 токенов на RTX 3090 Ti, а для 200 000 токенов рекомендует выделить около 20,9 ГиБ под веса и контекст. По приведённым замерам скорость декодирования составляет примерно 93–108 токенов/с на контексте 16K и 44–72 токена/с на 100K, в зависимости от нагрузки. Автор ожидает качество между Q3_K_XL и Q4_K_M; сопоставительная оценка на Terminal-Bench, SciCode и GDPval ещё не завершена. Модель подходит для диалогов, программирования, поиска по длинному контексту и многошаговых задач. README отмечает, что этот репозиторий является базовой квантизированной моделью-сравнением и не включает более поздние изменения проекта Perian. Модель распространяется по лицензии Apache-2.0. Языки и мультимодальные возможности исходной модели в данных этой карточки конкретно не описаны.