I.1Поиск и навигация по информации

Gemma 3 27B IT — мультимодальная instruction-tuned модель семейства Gemma, разработанная Google DeepMind на основе технологий, использованных при создании Gemini. Данная версия основана на google/gemma-3-27b-it и представлена в формате GGUF, предназначенном для локального запуска совместимыми инструментами. Модель принимает текст и изображения и генерирует текст. Она предназначена для ответов на вопросы, суммаризации документов, рассуждений, генерации и анализа текста, а также понимания изображений и извлечения визуальной информации. Заявлена поддержка более 140 языков. Для версии 27B предусмотрено контекстное окно до 128K токенов, изображения нормализуются до 896×896 и кодируются в 256 токенов, а максимальный объём генерируемого текста составляет 8192 токена. К сильным сторонам относятся мультимодальность, широкий языковой охват, большое контекстное окно и открытые веса, благодаря чему модель можно разворачивать на собственных устройствах или в облачной инфраструктуре. При этом размер 27B означает повышенные требования к памяти и вычислительным ресурсам по сравнению с меньшими вариантами семейства, а качество ответов может зависеть от языка, задачи, используемого квантования и конкретного программного окружения. Модель распространяется по лицензии Gemma; применяются соответствующие условия использования Google.

llmfan46 подготовил Gemma 4 31B IT Uncensored Heretic — дообученную версию мультимодальной Gemma 4 31B IT от Google DeepMind. В README указано изменение компонента attn.o_proj; модель предназначена для диалогов, рассуждений, агентных сценариев, программирования и понимания изображений. Она принимает текст и изображения, поддерживает вызов инструментов и может разбирать документы, графики и интерфейсы, извлекать текст с изображений и отвечать на вопросы по визуальному содержимому. В основе — плотная архитектура Gemma4ForConditionalGeneration с чередованием локального скользящего и глобального внимания. Для исходной модели Gemma 4 31B IT заявлен контекст до 256 тысяч токенов и поддержка более 35 языков; метаданные указывают Transformers и формат safetensors. README также описывает видео и аудио для семейства Gemma 4, однако аудио заявлено только для вариантов E2B и E4B, поэтому здесь эти возможности не приписываются версии 31B. Карточка предупреждает о возможных фактических ошибках, предвзятости и трудностях с неоднозначностью и сложными открытыми задачами. Название «uncensored» указывает на изменённую фильтрацию, но карточка не описывает её конкретный эффект. Лицензия — Apache-2.0.

Gemma 4 E2B it qat mobile ct — мультимодальная модель Google DeepMind с инструкционной настройкой, основанная на Gemma 4 E2B и подготовленная с применением QAT для мобильного исполнения. Репозиторий содержит веса в формате compressed-tensors; модель использует плотную архитектуру Gemma4ForConditionalGeneration и рассчитана на более эффективный вывод при ограниченной памяти. Лицензия — Apache 2.0. Модель принимает текст и изображения, а также поддерживает аудио; выдаёт текст. Она предназначена для диалога, рассуждений, генерации и исправления кода, анализа изображений и документов, распознавания речи и перевода речи в текст. Вариант E2B оптимизирован для локального запуска на мобильных устройствах; для семейства заявлены контекст до 128 тысяч токенов и многоязычная поддержка, но отдельные значения для этого чекпойнта в метаданных не приведены. Среди поддерживаемых сценариев — OCR, разбор PDF, понимание экранов и диаграмм, распознавание рукописного текста, использование инструментов и анализ видеокадров. Качество QAT описано разработчиками как близкое к bfloat16 при меньших требованиях к памяти. Возможности конкретной мобильной версии могут зависеть от среды исполнения и аппаратного обеспечения.

K2-Horizon-MoVA-36B-A4B-oQ4e — это MLX-конверсия и 4-битная смешанно-точная квантизированная версия модели IFM/K2-Horizon-MoVA-36B-A4B, разработанной командой IFM. Модель предназначена для генерации текста, рассуждений, ответов на научные вопросы, программирования, извлечения информации, структурированного вывода и агентских сценариев с вызовом инструментов и использованием терминала. Архитектура модели основана на разреженной Mixture-of-Experts и механизме внимания Mixture-of-Values (MoVA). Всего модель содержит 36 млрд параметров, из которых при обработке активны около 4 млрд. Заявлена поддержка контекста до 512 тысяч токенов. Это reasoning-модель; для наилучших результатов рекомендуется использовать высокий уровень усилий рассуждения. Данные о поддерживаемых языках и мультимодальных возможностях в README не указаны, поэтому модель следует рассматривать как текстовую. Сильными сторонами являются качество рассуждений, структурированный вывод, надёжность вызова инструментов и применение в локальных агентских конвейерах. По приведённым сравнениям модель превосходит Qwen 3.6 35B A3B в большинстве тестов, но уступает ему по скорости генерации: производительность ограничена большим общим размером модели, несмотря на небольшое число активных параметров. Для запуска требуется MLX-совместимая среда; при использовании oMLX необходима версия 0.6.4 или новее с патчем поддержки K2-Horizon. Модель распространяется по лицензии Apache-2.0, как и исходная модель.

Ling-3.0-flash-fp8 — текстовая генеративная модель, разработанная командой inclusionAI. Она предназначена для рассуждений, следования инструкциям, программирования, обобщения знаний, математических задач, понимания длинного контекста и агентских рабочих процессов, включая coding agents, general agents и deep research agents. Модель использует гибридную линейную MoE-архитектуру с чередованием 35 слоёв Kimi Delta Attention и 7 слоёв Gated MLA в соотношении 5:1, двумя плотными слоями, 512 маршрутизируемыми и одним общим экспертом; на каждом токене активируются 8 экспертов. Общий объём составляет 124B параметров, из них активны 5.1B. Размер скрытого состояния — 2560, число attention heads — 32, размер словаря — 157184. Обучение контекста проходило по этапам от 8K до 32K и 256K токенов. Указана модальность text generation; поддерживаемые языки в README не перечислены. К сильным сторонам относятся высокая вычислительная эффективность, поддержка длинного контекста, производительность в задачах программирования и использования инструментов, а также оптимизации для длительных интерактивных сессий через иерархическое кэширование SGLang HiCache и Mooncake. README заявляет о сокращении Time to First Token на 60–80% и более в сценариях с длинным вводом, однако конкретные результаты зависят от инфраструктуры и режима применения. Ограничения по качеству, языкам, аппаратным требованиям и безопасному использованию отдельно не описаны. Модель распространяется по лицензии MIT.

Карточка модели Deepdive404-3/Qwen3.8-2.4T-A95B на Hugging Face совпадает с карточкой Qwen/Qwen3.8-2.4T-A95B, поэтому описание составлено по ней. Qwen3.8-2.4T-A95B — текстовая причинная языковая модель семейства Qwen, разработанная командой Qwen. Модель предназначена для генерации текста, диалогов, программирования, профессиональных и исследовательских задач, а также многошаговой работы агентных систем с использованием обратной связи от среды и инструментов. Архитектура — MoE на основе Qwen3.5 с 2,4 трлн параметров суммарно и 95 млрд активируемых параметров. В модели 92 слоя и 512 экспертов, из которых для токена активируются 10 маршрутизируемых и один общий эксперт. Контекст составляет 262 144 токена нативно и может расширяться примерно до 1,01 млн токенов. Модель принимает только текст, работает в режиме рассуждений, который нельзя отключить, и поддерживает интерфейс вызова инструментов. Репозиторий содержит веса и конфигурацию в формате Transformers; README указывает совместимость с vLLM, SGLang и другими движками. Модель рассчитана на сложную генерацию текста, программирование, исследования и длительные задачи с планированием; глубину рассуждений можно настраивать параметром reasoning_effort. Она не поддерживает мультимодальный ввод. Лицензия обозначена как other, поэтому перед использованием следует проверить условия лицензии в репозитории Hugging Face.

Карточка модели GautamHirawat/Qwen3.8-2.4T-A95B на Hugging Face совпадает с карточкой Qwen/Qwen3.8-2.4T-A95B, поэтому описание составлено по ней. Qwen3.8-2.4T-A95B — текстовая причинная языковая модель семейства Qwen, разработанная командой Qwen. Модель предназначена для генерации текста, диалогов, программирования, профессиональных и исследовательских задач, а также многошаговой работы агентных систем с использованием обратной связи от среды и инструментов. Архитектура — MoE на основе Qwen3.5 с 2,4 трлн параметров суммарно и 95 млрд активируемых параметров. В модели 92 слоя и 512 экспертов, из которых для токена активируются 10 маршрутизируемых и один общий эксперт. Контекст составляет 262 144 токена нативно и может расширяться примерно до 1,01 млн токенов. Модель принимает только текст, работает в режиме рассуждений, который нельзя отключить, и поддерживает интерфейс вызова инструментов. Репозиторий содержит веса и конфигурацию в формате Transformers; README указывает совместимость с vLLM, SGLang и другими движками. Модель рассчитана на сложную генерацию текста, программирование, исследования и длительные задачи с планированием; глубину рассуждений можно настраивать параметром reasoning_effort. Она не поддерживает мультимодальный ввод. Лицензия обозначена как other, поэтому перед использованием следует проверить условия лицензии в репозитории Hugging Face.

Карточка модели Muhammadzain202/Qwen3.8-2.4T-A95B на Hugging Face совпадает с карточкой Qwen/Qwen3.8-2.4T-A95B, поэтому описание составлено по ней. Qwen3.8-2.4T-A95B — текстовая причинная языковая модель семейства Qwen, разработанная командой Qwen. Модель предназначена для генерации текста, диалогов, программирования, профессиональных и исследовательских задач, а также многошаговой работы агентных систем с использованием обратной связи от среды и инструментов. Архитектура — MoE на основе Qwen3.5 с 2,4 трлн параметров суммарно и 95 млрд активируемых параметров. В модели 92 слоя и 512 экспертов, из которых для токена активируются 10 маршрутизируемых и один общий эксперт. Контекст составляет 262 144 токена нативно и может расширяться примерно до 1,01 млн токенов. Модель принимает только текст, работает в режиме рассуждений, который нельзя отключить, и поддерживает интерфейс вызова инструментов. Репозиторий содержит веса и конфигурацию в формате Transformers; README указывает совместимость с vLLM, SGLang и другими движками. Модель рассчитана на сложную генерацию текста, программирование, исследования и длительные задачи с планированием; глубину рассуждений можно настраивать параметром reasoning_effort. Она не поддерживает мультимодальный ввод. Лицензия обозначена как other, поэтому перед использованием следует проверить условия лицензии в репозитории Hugging Face.

Карточка модели RedHatAI/Qwen3.8-2.4T-A95B на Hugging Face совпадает с карточкой Qwen/Qwen3.8-2.4T-A95B, поэтому описание составлено по ней. Qwen3.8-2.4T-A95B — текстовая причинная языковая модель семейства Qwen, разработанная командой Qwen. Модель предназначена для генерации текста, диалогов, программирования, профессиональных и исследовательских задач, а также многошаговой работы агентных систем с использованием обратной связи от среды и инструментов. Архитектура — MoE на основе Qwen3.5 с 2,4 трлн параметров суммарно и 95 млрд активируемых параметров. В модели 92 слоя и 512 экспертов, из которых для токена активируются 10 маршрутизируемых и один общий эксперт. Контекст составляет 262 144 токена нативно и может расширяться примерно до 1,01 млн токенов. Модель принимает только текст, работает в режиме рассуждений, который нельзя отключить, и поддерживает интерфейс вызова инструментов. Репозиторий содержит веса и конфигурацию в формате Transformers; README указывает совместимость с vLLM, SGLang и другими движками. Модель рассчитана на сложную генерацию текста, программирование, исследования и длительные задачи с планированием; глубину рассуждений можно настраивать параметром reasoning_effort. Она не поддерживает мультимодальный ввод. Лицензия обозначена как other, поэтому перед использованием следует проверить условия лицензии в репозитории Hugging Face.

Карточка модели Van7887/Qwen3.8-2.4T-A95B на Hugging Face совпадает с карточкой Qwen/Qwen3.8-2.4T-A95B, поэтому описание составлено по ней. Qwen3.8-2.4T-A95B — текстовая причинная языковая модель семейства Qwen, разработанная командой Qwen. Модель предназначена для генерации текста, диалогов, программирования, профессиональных и исследовательских задач, а также многошаговой работы агентных систем с использованием обратной связи от среды и инструментов. Архитектура — MoE на основе Qwen3.5 с 2,4 трлн параметров суммарно и 95 млрд активируемых параметров. В модели 92 слоя и 512 экспертов, из которых для токена активируются 10 маршрутизируемых и один общий эксперт. Контекст составляет 262 144 токена нативно и может расширяться примерно до 1,01 млн токенов. Модель принимает только текст, работает в режиме рассуждений, который нельзя отключить, и поддерживает интерфейс вызова инструментов. Репозиторий содержит веса и конфигурацию в формате Transformers; README указывает совместимость с vLLM, SGLang и другими движками. Модель рассчитана на сложную генерацию текста, программирование, исследования и длительные задачи с планированием; глубину рассуждений можно настраивать параметром reasoning_effort. Она не поддерживает мультимодальный ввод. Лицензия обозначена как other, поэтому перед использованием следует проверить условия лицензии в репозитории Hugging Face.

Карточка модели ApocalypseParty/G4-31B-SFT-v5-2 на Hugging Face совпадает с карточкой ApocalypseParty/G4-31B-SFT-v6-2, поэтому описание составлено по ней. ApocalypseParty/G4-31B-SFT-v6-2 — дообученная версия мультимодальной Gemma 4 31B от Google DeepMind. Модель принимает текст и изображения и генерирует текст; её можно использовать для диалога, рассуждений, программирования и анализа визуальных данных, включая распознавание текста в документах, понимание диаграмм и интерфейсов. Поддерживаются вызовы инструментов и длинные контексты; для семейства Gemma 4 31B заявлено до 256K токенов. Gemma 4 обучена работать со многими языками, однако конкретные языки и настройки этого дообучения не описаны. Репозиторий содержит веса Safetensors и использует лицензию Apache 2.0. Карточка не приводит отдельных оценок качества или ограничений именно этой версии.

ApocalypseParty/G4-31B-SFT-v6-2 — дообученная версия мультимодальной Gemma 4 31B от Google DeepMind. Модель принимает текст и изображения и генерирует текст; её можно использовать для диалога, рассуждений, программирования и анализа визуальных данных, включая распознавание текста в документах, понимание диаграмм и интерфейсов. Поддерживаются вызовы инструментов и длинные контексты; для семейства Gemma 4 31B заявлено до 256K токенов. Gemma 4 обучена работать со многими языками, однако конкретные языки и настройки этого дообучения не описаны. Репозиторий содержит веса Safetensors и использует лицензию Apache 2.0. Карточка не приводит отдельных оценок качества или ограничений именно этой версии.

Это вариант Gemma 4 26B A4B, подготовленный Unsloth на базе google/gemma-4-26B-A4B и распространяемый в формате safetensors. Модель семейства Gemma 4 использует гибридное внимание: сочетает локальное скользящее окно с глобальным вниманием. Вариант предназначен для мультимодальной работы с изображениями и текстом; заявленное семейство поддерживает контекст до 256 тысяч токенов и многоязычную работу более чем с 35 языками. Модель подходит для диалогов, рассуждений, программирования, вызова инструментов и анализа изображений: например, распознавания текста, разбора документов и PDF, понимания диаграмм и интерфейсов. Карточка также описывает видеоанализ для семейства Gemma 4, но не подтверждает отдельно его поддержку именно этим вариантом. Аудиовозможности указаны только для моделей E2B и E4B и к этому варианту не относятся. Возможны ошибки в фактах, трудности с неоднозначными формулировками и сложными открытыми задачами, а ответы могут отражать смещения обучающих данных. Лицензия — Apache 2.0.

Карточка модели thethticles/gemma-4-31B-itvv на Hugging Face совпадает с карточкой ApocalypseParty/G4-31B-SFT-v6-2, поэтому описание составлено по ней. ApocalypseParty/G4-31B-SFT-v6-2 — дообученная версия мультимодальной Gemma 4 31B от Google DeepMind. Модель принимает текст и изображения и генерирует текст; её можно использовать для диалога, рассуждений, программирования и анализа визуальных данных, включая распознавание текста в документах, понимание диаграмм и интерфейсов. Поддерживаются вызовы инструментов и длинные контексты; для семейства Gemma 4 31B заявлено до 256K токенов. Gemma 4 обучена работать со многими языками, однако конкретные языки и настройки этого дообучения не описаны. Репозиторий содержит веса Safetensors и использует лицензию Apache 2.0. Карточка не приводит отдельных оценок качества или ограничений именно этой версии.

NVIDIA-Nemotron-Nano-9B-v2-NVFP4 — квантованная модель NVIDIA Corporation для диалогов, следования инструкциям и задач с рассуждением. Это вариант NVIDIA-Nemotron-Nano-9B-v2 с NVFP4-квантизацией и восстановлением точности методом дистилляции с учетом квантования. Архитектура Nemotron-Hybrid объединяет слои Mamba-2, MLP и четыре слоя Attention; заявленный контекст — до 128K токенов. Модель принимает текст и генерирует текст. Режим рассуждений можно управлять системным или пользовательским маркером: генерация рассуждений обычно помогает на сложных запросах, а ответ без промежуточных рассуждений может быть менее точным. Модель поддерживает английский, немецкий, испанский, французский, итальянский и японский; README также заявляет поддержку китайского, корейского, португальского и русского, но не описывает её отдельно. Модель предназначена для чат-ботов, AI-агентов, RAG-систем, программирования и общих задач следования инструкциям. Для инференса рекомендуются NVIDIA GPU и поддерживаются Transformers, vLLM и TRT-LLM; в vLLM неверный тип кэша Mamba может снизить точность. В README указано, что модель готова к коммерческому использованию, однако точные условия лицензии в предоставленных данных не раскрыты.

Qwopus3.8-27B-Flash-ATX-IQ4_XS-M-GGUF — это GGUF-квантизированная версия модели Jackrong/Qwopus3.8-27B-Flash, являющейся дообученной моделью на базе Qwen3.8-27B. Рецепт квантизации разработан jakeatx с использованием llama.cpp и собственной importance matrix, рассчитанной для этой модели. Модель предназначена для генерации текста, программирования, агентских сценариев, RAG-анализа и задач с длинным контекстом, включая speculative decoding с MTP-головой. Модель содержит 27,32 млрд параметров и 866 тензоров, использует ту же архитектуру, что и базовая модель, а также включает MTP-слой. Основной формат весов — IQ4_XS с точечными повышениями точности до Q5_0, Q6_K и Q8_0; средний размер составляет 4,60 бита на вес, а файл модели занимает около 14,6 GiB. Рецепт рассчитан на видеокарты RTX 3090 или 3090 Ti с 24 ГБ памяти и позволяет использовать заполненный контекст до 200 тысяч токенов с 8-битным KV-кэшем. В измерениях на RTX 3090 Ti модель показывала преимущество по скорости декодирования над Q4_K_S на контекстах 16–64K, однако на 100K выигрыш был небольшим и зависел от принятия черновых токенов. Сильные стороны модели — эффективная работа на одной видеокарте, поддержка длинного контекста, специализированная оптимизация для короткого рассуждения и агентских циклов, а также ускорение за счёт MTP и speculative decoding. Ограничения включают потери, характерные для 4-битной квантизации, зависимость производительности от acceptance rate черновых токенов и необходимость совместимой сборки llama.cpp с поддержкой используемых ядер и MTP. Модель распространяется по лицензии Apache-2.0.

CiscoKpanse/sp-DNM-4-26B-A4B-it_v0.1 — инструкция-настроенная мультимодальная модель семейства Gemma 4, созданного Google DeepMind. Вариант 26B A4B использует архитектуру Mixture-of-Experts: обрабатывает текст и изображения и генерирует текст; поддерживает диалог и визуальные задачи, включая ответы по изображениям, OCR, разбор документов, диаграмм и экранных интерфейсов. По карточке семейства Gemma 4 также предназначена для рассуждений, программирования, суммаризации и сценариев с вызовом инструментов. Для вариантов 26B A4B заявлено контекстное окно до 256 тысяч токенов и поддержка множества языков. Семейство использует гибридное внимание с локальными и глобальными слоями. Данная копия опубликована в формате safetensors и доступна по лицензии Apache 2.0. Карточка описывает семейство Gemma 4 в целом, поэтому не все заявленные возможности обязательно относятся к этому варианту: обработка аудио указана только для E2B и E4B, а видео — как возможность семейства. Ответы модели могут содержать ошибки; результаты распознавания и извлечения данных из изображений следует проверять.

ERNIE-4.5-300B-A47B-Paddle — текстовая языковая модель семейства ERNIE 4.5, разработанная Baidu и распространяемая с весами для PaddlePaddle. Это модель типа Mixture of Experts: всего 300 млрд параметров, из которых для каждого токена активируется около 47 млрд; архитектура включает 54 слоя и 64 текстовых эксперта, из которых активируются 8. Модель предназначена для диалогов, понимания текста и генерации ответов; контекстное окно составляет 131 072 токена. В карточке также описаны мультимодальное обучение ERNIE 4.5 и визуальные варианты семейства, однако данный чекпойнт обозначен как текстовая модель. Для запуска и дообучения предусмотрены инструменты PaddlePaddle и ERNIEKit. Модель распространяется по лицензии Apache-2.0.

Карточка модели arolstar52/gemma-4-31B-it на Hugging Face совпадает с карточкой ApocalypseParty/G4-31B-SFT-v6-2, поэтому описание составлено по ней. ApocalypseParty/G4-31B-SFT-v6-2 — дообученная версия мультимодальной Gemma 4 31B от Google DeepMind. Модель принимает текст и изображения и генерирует текст; её можно использовать для диалога, рассуждений, программирования и анализа визуальных данных, включая распознавание текста в документах, понимание диаграмм и интерфейсов. Поддерживаются вызовы инструментов и длинные контексты; для семейства Gemma 4 31B заявлено до 256K токенов. Gemma 4 обучена работать со многими языками, однако конкретные языки и настройки этого дообучения не описаны. Репозиторий содержит веса Safetensors и использует лицензию Apache 2.0. Карточка не приводит отдельных оценок качества или ограничений именно этой версии.

Карточка модели eyentsign/gemma-4-31B-it-uncensored-heretic на Hugging Face совпадает с карточкой llmfan46/gemma-4-31B-it-uncensored-heretic, поэтому описание составлено по ней. llmfan46 подготовил Gemma 4 31B IT Uncensored Heretic — дообученную версию мультимодальной Gemma 4 31B IT от Google DeepMind. В README указано изменение компонента attn.o_proj; модель предназначена для диалогов, рассуждений, агентных сценариев, программирования и понимания изображений. Она принимает текст и изображения, поддерживает вызов инструментов и может разбирать документы, графики и интерфейсы, извлекать текст с изображений и отвечать на вопросы по визуальному содержимому. В основе — плотная архитектура Gemma4ForConditionalGeneration с чередованием локального скользящего и глобального внимания. Для исходной модели Gemma 4 31B IT заявлен контекст до 256 тысяч токенов и поддержка более 35 языков; метаданные указывают Transformers и формат safetensors. README также описывает видео и аудио для семейства Gemma 4, однако аудио заявлено только для вариантов E2B и E4B, поэтому здесь эти возможности не приписываются версии 31B. Карточка предупреждает о возможных фактических ошибках, предвзятости и трудностях с неоднозначностью и сложными открытыми задачами. Название «uncensored» указывает на изменённую фильтрацию, но карточка не описывает её конкретный эффект. Лицензия — Apache-2.0.

AMAImedia/Kimi-K3-MXFP-GGUF — размещённая AMAImedia квантованная GGUF-сборка модели Kimi K3, представленной Moonshot AI. В карточке указаны архитектура MoE на основе Kimi Delta Attention и Attention Residuals, 2,8 трлн параметров и контекст до 1 млн токенов. Модель принимает текст и изображения; семейство также поддерживает видео. Заявлена поддержка множества языков, включая русский, английский, китайский, вьетнамский и японский. Модель предназначена для генерации текста и мультимодальных диалогов, в том числе для программирования, рассуждений и агентной работы с длинным контекстом. Автор карточки сообщает о квантизации GGUF UD-IQ1_S; такой вариант ориентирован на локальный запуск, но требует значительных ресурсов, а производительность и качество могут зависеть от оборудования и квантизации. В карточке приведена лицензия Apache-2.0; README упоминает лицензию Kimi K3, поэтому условия для этой конкретной сборки следует сверять с файлами лицензии репозитория.

unsloth/Phi-3.5-mini-instruct — инструктивная языковая модель, представленная Unsloth как вариант Microsoft Phi-3.5-mini-instruct. Это плотная авторегрессионная модель с архитектурой LlamaForCausalLM и 3,7 млрд параметров; репозиторий содержит веса Safetensors и поддерживает Transformers. Модель рассчитана на диалоги, генерацию текста и использование в приложениях с ограничениями по памяти или задержке. Модель подходит для ответов на вопросы, многоязычных диалогов, суммаризации длинных документов, извлечения сведений из текста, а также задач на код, математику и логику. В карточке базовой модели заявлена поддержка контекста до 128 тысяч токенов, однако метаданные этого репозитория указывают нативный контекст 4096 токенов, поэтому для данного варианта следует ориентироваться на значение из метаданных. README описывает семейство как многоязычное, но не перечисляет конкретные языки. Модель дообучена на основе microsoft/Phi-3.5-mini-instruct; README отмечает улучшения многоязычных диалогов, следования инструкциям и рассуждений, но предупреждает о возможных ошибках и уязвимости к многошаговым обходам защит. Лицензия репозитория — MIT; перед применением в критичных сценариях необходимо оценить точность и безопасность ответов.

AEON-7/Qwen3.6-35B-A3B-heretic-NVFP4 — мультимодальная NVFP4-квантизированная версия модели tvall43/Qwen3.6-35B-A3B-heretic, подготовленная AEON-7. Модель предназначена для диалогов, рассуждений, программирования, агентских сценариев, function calling и обработки изображений с текстовыми запросами. Заявлена поддержка английского языка, vision-language задач и контекста до 1 млн токенов. Модель использует гибридную архитектуру Qwen3_5MoeForConditionalGeneration с Mixture-of-Experts: 35 млрд параметров всего и около 3 млрд активных параметров. В составе присутствуют разреженные MoE-слои, линейное внимание Mamba/GDN, 27-блочный ViT-энкодер, сохранённый в BF16, и экспертные веса в формате NVFP4. Поддерживаются multimodal image-text-to-text, tool calling, speculative decoding, prefix caching и FP8 KV-cache при использовании совместимой конфигурации vLLM. К сильным сторонам относятся высокая плотность модели при небольшом числе активных параметров, длинный контекст, мультимодальность и стабильная работа текста в заявленном стеке vLLM. В README указана проверка обработки изображений после исправления размещения тензоров vision tower, а также масштабирование до 64 одновременных запросов и примерно 740 токенов в секунду суммарно при использовании DFlash, однако эти характеристики зависят от оборудования и конфигурации. Модель ориентирована прежде всего на DGX Spark и совместимые GPU Blackwell/GB10 с образом AEON vLLM; для других сред совместимость не гарантируется. Это abliterated/decensored-вариант с существенно сниженным уровнем отказов, поэтому стандартные ограничения безопасности могут быть ослаблены. Лицензия — Apache-2.0.

Карточка модели vll1addd/Qwen3.8-2.4T-A95B на Hugging Face совпадает с карточкой Qwen/Qwen3.8-2.4T-A95B, поэтому описание составлено по ней. Qwen3.8-2.4T-A95B — текстовая причинная языковая модель семейства Qwen, разработанная командой Qwen. Модель предназначена для генерации текста, диалогов, программирования, профессиональных и исследовательских задач, а также многошаговой работы агентных систем с использованием обратной связи от среды и инструментов. Архитектура — MoE на основе Qwen3.5 с 2,4 трлн параметров суммарно и 95 млрд активируемых параметров. В модели 92 слоя и 512 экспертов, из которых для токена активируются 10 маршрутизируемых и один общий эксперт. Контекст составляет 262 144 токена нативно и может расширяться примерно до 1,01 млн токенов. Модель принимает только текст, работает в режиме рассуждений, который нельзя отключить, и поддерживает интерфейс вызова инструментов. Репозиторий содержит веса и конфигурацию в формате Transformers; README указывает совместимость с vLLM, SGLang и другими движками. Модель рассчитана на сложную генерацию текста, программирование, исследования и длительные задачи с планированием; глубину рассуждений можно настраивать параметром reasoning_effort. Она не поддерживает мультимодальный ввод. Лицензия обозначена как other, поэтому перед использованием следует проверить условия лицензии в репозитории Hugging Face.

Qwen3.8-27B-GPTQ-INT4-FP8KV — квантованная версия мультимодальной модели Qwen3.8-27B, опубликованная пользователем abhishekchohan на базе Qwen/Qwen3.8-27B. Модель предназначена для диалогов, рассуждений, решения математических и научных задач, программирования, следования инструкциям, работы с длинным контекстом и анализа изображений. Поддерживаемые языки в README не указаны. Используется 4-битное GPTQ-квантование весов в формате W4A16 с асимметричными группами размера 32, а также FP8 E4M3 KV-кэш с откалиброванными масштабами. Размер модели — 27B параметров; текстовая часть включает 64 гибридных слоя attention и DeltaNet, а визуальная часть основана на замороженном ViT-энкодере. Сохраняется нативный контекст до 262 144 токенов, с расширением YaRN до 524 288 токенов на GPU с 48 ГБ и до 1 млн токенов на 96 ГБ, однако поиск за пределами 262 144 токенов не валидировался. Контрольная точка занимает около 20 ГБ и рассчитана на запуск через vLLM, включая speculative decoding. Главные преимущества — существенно сниженное потребление памяти, возможность обслуживания нативного длинного контекста на одной 48-ГБ GPU и результаты бенчмарков, сопоставимые с BF16-версией: средний показатель на заявленном наборе тестов составил 70,29 против 70,04 у базовой модели, а извлечение информации из контекста прошло без деградации на 262 144 токенах. Ограничения включают возможную зависимость результатов генерации от GPU и конфигурации, а также неизбежные риски квантования; отдельные тесты показали небольшое снижение качества. Модель распространяется по лицензии Apache-2.0.

heretic-org/Qwen3.8-27B-heretic-ara — мультимодальная модель для диалогов, изменённая на основе Qwen/Qwen3.8-27B. Это плотная модель на 27 млрд параметров с причинной языковой моделью и визуальным энкодером; она принимает текст, изображения и видео и предназначена для диалогов, анализа визуальных материалов, программирования и многошаговых задач. Контекст модели составляет 262 144 токена с возможностью расширения до 1 000 000 токенов. В README описана abliteration: изменение слоёв 26–56 с целью сократить отказы. В приведённом тесте модель отказала в 0 из 100 случаев, тогда как исходная модель — в 99 из 100; это указывает на ослабление отказного поведения и требует учитывать результат при выборе сценариев применения. Модель распространяется в формате Safetensors, совместима с Transformers и рядом движков инференса. Лицензия — Apache-2.0.

BinxNet/gemma-4-26B-A4B-it-heretic — мультимодальная разговорная модель BinxNet на базе Google Gemma 4 26B A4B. Это дообученная версия с изменениями, обозначенными автором как heretic, uncensored и decensored; подробности этих изменений в карточке не описаны. Модель принимает текст и изображения и предназначена для диалогов, рассуждений, генерации и исправления кода, а также визуального анализа. Архитектура Gemma 4 использует чередование локального скользящего и глобального внимания. Для исходной Gemma 4 26B A4B заявлен контекст до 256K токенов; отдельное значение для этой версии в карточке не приведено. Семейство Gemma 4 поддерживает более 35 языков, но карточка этой производной версии не уточняет языковое покрытие отдельно. Визуальные сценарии включают распознавание текста, разбор документов, понимание диаграмм и интерфейсов, а также анализ последовательностей видеокадров. Карточка указывает формат safetensors и библиотеку Transformers. Возможны фактические ошибки, предвзятость, трудности с языковыми нюансами и сложными открытыми задачами. Лицензия — Apache-2.0.

NVIDIA GLM-5.3 NVFP4 — квантизированная версия авторегрессионной языковой модели ZAI GLM-5.3, подготовленная с использованием NVIDIA Model Optimizer. Модель предназначена для рассуждений, программирования и агентских сценариев, включая AI-агентов, чат-ботов, RAG-системы и другие приложения на базе ИИ. Модель построена на архитектуре Transformer с сетью GLM-5.3 (GlmMoeDsaForCausalLM) и использует разреженное внимание с индексатором IndexShare для работы с длинным контекстом. Общий объём составляет 753 млрд параметров, из которых активируется 40 млрд. Она принимает и генерирует текстовые последовательности, поддерживает контекст длиной до 1 млн токенов. Модель рассчитана на запуск на GPU NVIDIA с архитектурой Blackwell, интеграцию через SGLang и работу в Linux. К сильным сторонам относятся большой контекст, MoE-архитектура с разреженной активацией, поддержка задач рассуждения и программирования, а также предварительная квантизация NVFP4 для развёртывания на совместимом оборудовании. Ограничения включают текстовую модальность, зависимость от NVIDIA GPU архитектуры Blackwell и необходимость дополнительного тестирования на данных конкретного сценария. Обучающие данные не раскрыты; для калибровки использовались cnn_dailymail и Nemotron-Post-Training-Dataset-v2, а оценка проводилась на наборах MMLU Pro, GPQA Diamond, LiveCodeBench V6, SciCode, AIME 2025, AA-LCR и IFBench. Модель доступна для коммерческого и некоммерческого использования. Применяются NVIDIA Open Model Agreement и условия лицензии исходной модели GLM-5.3; тип лицензии указан как NVIDIA Proprietary. Модель не разработана NVIDIA: она основана на сторонней модели ZAI GLM-5.3.

Kimi K3 — открытая мультимодальная модель AMAImedia, выпущенная в составе платформы автоматизации профессионального дубляжа NOESIS. В карточке заявлены архитектура Kimi Delta Attention с Attention Residuals, размер 2,8 трлн параметров и контекст до 1 млн токенов; метаданные указывают класс KimiK3ForConditionalGeneration и формат safetensors. Модель принимает текст и изображения, а README также заявляет поддержку видео; её назначение включает диалог, рассуждения, длительные задачи программирования и агентную работу с инструментами. Модель рассчитана на анализ больших репозиториев и документов, помощь в разработке, исследовательские задачи и мультимодальную работу с изображениями и видео. README сообщает, что режим размышления включён постоянно и ответ может содержать reasoning_content; усилие рассуждения настраивается параметром reasoning_effort. Указанная в карточке лицензия — other, а README называет её Kimi K3 License, поэтому конкретные условия следует проверять в тексте лицензии репозитория. Метаданные классифицируют модель как image-text-to-text, при этом каталог дополнительно относит её к text-generation.

mattbucci/Qwen3.8-27B-AWQ — квантованная версия модели Qwen3.8-27B, разработанной Qwen и опубликованной mattbucci. Модель предназначена для задач генерации текста, рассуждений, вызова инструментов, анализа изображений и понимания видео, прежде всего в сценариях серверного инференса через SGLang. Она рассчитана на однопользовательскую работу с длинным контекстом до 262 144 токенов при конфигурации с двумя видеокартами RTX 3090. Модель использует 4-битное квантование AWQ/GPTQ в формате W4A16 с размером группы 128 и симметричными весами INT4. Веса занимают около 18,7 ГБ; архитектура включает 64 слоя, из которых 48 используют Gated DeltaNet, а 16 — полное внимание. Башня обработки изображений, lm_head и отдельные параметры Gated DeltaNet сохранены в BF16. Проверены текстовые, математические, программные, визуальные и видео-сценарии; в указанных тестах модель показала высокие результаты на MMLU и HumanEval, а также успешно работала с контекстом свыше 250 тысяч токенов. Сильные стороны модели — поддержка нескольких модальностей, длинного контекста, рассуждений и инструментов при существенно меньшем объёме памяти по сравнению с полноразмерной моделью. Ограничения включают отсутствие MTP и недоступность MTP-ускоренного speculative decoding, снижение доступного контекста при параллельной обработке нескольких запросов, а также относительно низкий результат LAB-Bench, поэтому модель следует отдельно проверять для научных задач и специализированного протокольного QA. Квантование и валидация выполнялись на архитектуре Ampere с AWQ_Marlin; другие GPU не тестировались разработчиком. Лицензия — Apache-2.0, унаследованная от базовой модели.