I.2Синтез, понимание и проверка знаний

topk-embed-v1-xsmall — компактная мультимодальная модель извлечения признаков с поздним взаимодействием, дообученная на базе Qwen/Qwen3.5-0.8B. Она предназначена для поиска по текстовым документам и изображениям страниц, например сканированных страниц, отчётов и слайдов, по текстовому запросу. Модель сохраняет несколько векторов для токенов текста или участков изображения и использует оценку MaxSim: сопоставляет каждый вектор запроса с наиболее похожим вектором документа и суммирует оценки. Репозиторий использует SentenceTransformers и формат safetensors; модель имеет размер 0,8 млрд параметров. В карточке приведены результаты поиска по восьми наборам ViDoRe v3, включая запросы на нескольких языках и поиск как по изображениям страниц, так и по соответствующему тексту Markdown. Метаданные указывают поддержку английского, русского, французского, нидерландского, немецкого, испанского, итальянского, португальского, датского, норвежского, шведского, китайского, японского и корейского языков. Лицензия — Apache-2.0. Для запуска через SentenceTransformers README требует CUDA GPU с поддержкой bfloat16 (Ampere или новее).

Qwen3.6-27B with MTP — это плотная мультимодальная модель на базе Qwen/Qwen3.6-27B, представленная пользователем froggeric в формате GGUF для llama.cpp. Модель предназначена для диалога, программирования, отладки, анализа, перевода, работы с изображениями, рассуждений и использования инструментов. Заявлена поддержка английского, китайского и других языков. Модель содержит 27 млрд параметров, поддерживает текстовый и графический ввод через отдельный vision-проектор, а также контекст до 262 144 токенов при подходящей конфигурации памяти. Встроенные MTP-головы обеспечивают self-speculative decoding: llama.cpp может предсказывать несколько токенов за шаг и затем проверять их, что особенно эффективно для кода и других предсказуемых задач. Доступны варианты квантования от F16 до IQ2_M, что позволяет выбирать между качеством, скоростью и требованиями к памяти. К сильным сторонам относятся мультимодальность, большой контекст, поддержка reasoning и tool use, встроенное ускорение генерации без дополнительной draft-модели и исправленный шаблон чата для корректной работы в C++-рантаймах. Ограничения включают зависимость от версии llama.cpp b9180 или новее, необходимость отдельного mmproj-файла для изображений, а также неодинаковую эффективность MTP: ускорение обычно выше при программировании и ниже при аналитических и творческих задачах, особенно на сильных вариантах квантования. Модель распространяется по лицензии Apache-2.0.

Mistral Large 2407 — флагманская языковая модель Mistral AI, выпущенная в июле 2024 года. Это модель с доступными весами, но проприетарными условиями использования. Модель предназначена для диалога, рассуждений, работы с кодом и генерации JSON и может использоваться как универсальный помощник для этих задач. В карточке указано, что модель хорошо справляется с перечисленными сценариями, однако подробности об архитектуре, размере и контексте здесь не приведены. Лицензия и конкретные условия использования в доступном описании не раскрыты; перед применением следует свериться с условиями Mistral AI.

Muse Glimmer-30B — каузальная языковая модель примерно на 29,6 млрд параметров, разработанная Meta Superintelligence Lab и представленная в версии unsloth компанией Unsloth. Модель основана на плотном каузальном Transformer с выделенным энкодером восприятия и предназначена для локального запуска на пользовательском оборудовании без облачной инфраструктуры и сетевого доступа. Данная версия использует 4-битную квантизацию и базовую модель meta-models/Muse-Glimmer-30B. Модель ориентирована на автономные агентные сценарии: многошаговое рассуждение, выполнение задач от начала до конца, вызов инструментов, написание и отладку кода, работу в многоходовых диалогах и восстановление после ошибок инструментов. Она принимает текст и изображения, поэтому может анализировать скриншоты, графики и документы, а генерирует текст. Поддерживаются различные уровни усилий рассуждения, совместимость с агентскими оркестраторами и более 100 языков. Архитектура включает 52 слоя, скрытое измерение 6656, механизм GQA с 32 головами запросов и 2 KV-головами, SwiGLU, локально-глобальный шаблон внимания и контекст длиной от 131 072 токенов. Энкодер восприятия — ViT-G/14 примерно на 1,8 млрд параметров; на одно изображение допускается до 4096 визуальных токенов. Дата отсечения знаний — 4 января 2026 года. Сильные стороны модели — сочетание мультимодального понимания, инструментального использования, длительного планирования и восстановления после сбоев, а также возможность запуска на потребительском оборудовании. Квантизация позволяет разместить языковую часть менее чем в 20 ГБ и ориентироваться на конфигурации с 24 или 32 ГБ памяти, однако для полноценной работы также необходимы память под KV-кэш, энкодер восприятия и speculative decoding drafter. Версия распространяется по лицензии Apache 2.0.

Claude Sonnet 5 — модель семейства Sonnet от Anthropic. В карточке она описана как наиболее мощная модель Sonnet и предназначена для программирования, работы агентных систем и профессиональных задач. Каталог классифицирует её как image-text-to-text. Карточка упоминает адаптивное рассуждение с настраиваемыми уровнями усилий от низкого до максимального. Доступные сведения не раскрывают размер модели, поддерживаемые языки, контекстное окно, лицензию или подробности обработки изображений.

llmfan46 подготовил дообученную версию инструкционной Gemma 4 12B от Google DeepMind с изменениями компонента attn.o_proj. Это мультимодальная плотная модель для диалога, рассуждений, генерации и исправления кода, анализа изображений, видео и аудио, а также работы с инструментами. Архитектура Gemma4Unified поддерживает гибридное внимание и контекст до 256K токенов; модель рассчитана на многоязычное применение. README указывает поддержку более 35 языков на практике и предварительное обучение более чем на 140 языках. Модель подходит для ответов на вопросы по изображениям и документам, распознавания текста и рукописного ввода, понимания диаграмм и интерфейсов, анализа видеокадров, транскрибации речи и перевода речи в текст. Аудиовозможности заявлены для варианта 12B. Указаны встроенный режим рассуждений и поддержка вызова функций. Производная помечена как uncensored/abliterated; это может влиять на поведение защитных механизмов. По условиям Apache-2.0 разрешено использование согласно лицензии. Как и другие генеративные модели, она может выдавать фактические ошибки, отражать смещения данных и испытывать трудности с неоднозначными или сложными запросами.

Карточка модели exolabs/Step-3.7-Flash-IQ4_XS-dequant-bf16-vllm на Hugging Face совпадает с карточкой stepfun-ai/Step-3.7-Flash, поэтому описание составлено по ней. StepFun разработала Step 3.7 Flash — мультимодальную модель со смесью экспертов (MoE), предназначенную для высоконагруженных рабочих процессов. Она содержит 198 млрд параметров, из которых около 11 млрд активируются на каждом токене; включает языковую часть на 196 млрд параметров и визуальный энкодер на 1,8 млрд. Модель принимает изображения и текст, поддерживает контекст до 256 тыс. токенов и три уровня рассуждений: низкий, средний и высокий. Модель предназначена для понимания изображений, анализа больших документов, многошагового поиска и проверки фактов, оркестрации инструментов и API, а также для задач разработки ПО — например, поиска ошибок в репозиториях и подготовки исправлений. Заявленная скорость генерации достигает 400 токенов в секунду. Карточка описывает её как модель для производственных нагрузок; доступны варианты развёртывания через облачные платформы и локальные средства инференса. Репозиторий использует библиотеку Transformers и формат Safetensors. Лицензия — Apache-2.0. В метаданных указан английский язык; README не подтверждает поддержку других естественных языков.

Synthia-4-27B — мультимодальная диалоговая модель и персональный ИИ-ассистент, созданный Migtissera на основе Qwen/Qwen3.8-27B. Это плотная модель с 27 млрд параметров, дообученная на длинных агентных сессиях: обучение охватывало ответы ассистента и вызовы инструментов. Она рассчитана на продолжительные диалоги, работу с инструментами и многошаговые задачи — от планирования, исследований и творческой работы до программирования, отладки и анализа изображений. Поддерживает ввод изображений и видео, контекстное окно до 262 144 токенов и многошаговое предсказание токенов (MTP); дообучение проводилось на последовательностях длиной до 65 536 токенов. Для неё заявлены сохранение контекста и устойчивого стиля в длинных сессиях, а также переход между беседой и выполнением задач. Эти качества проверялись в агентной среде, но постоянную память между сессиями должен предоставлять хост-runtime. Опубликован объединённый чекпойнт BF16 в формате Safetensors для Transformers; лицензия — Apache-2.0.

coder3101/gemma-4-12B-it-heretic — мультимодальная инструкционная модель на базе Google Gemma 4 12B IT. Это дообученная версия с маркировками heretic, uncensored и decensored; автор README описывает семейство Gemma 4 как модель для рассуждений, диалога, агентных сценариев, программирования и анализа мультимодальных данных. Архитектура — плотная Gemma4UnifiedForConditionalGeneration с гибридным вниманием: локальные скользящие окна чередуются с глобальным вниманием. Модель принимает текст, изображения, видео и аудио и генерирует текст. Для семейства заявлены распознавание объектов, OCR, извлечение данных из документов, понимание интерфейсов и графиков, анализ видеокадров, распознавание речи и перевод речи в текст; также поддерживаются вызовы инструментов. README указывает поддержку более 35 языков на уровне модели семейства, но не перечисляет их по отдельности. Для версии 12B заявлен контекст до 256 тысяч токенов. Модель подходит для диалоговых помощников, программирования, анализа документов и изображений, транскрибации речи и мультимодальных агентных сценариев. Возможны фактические ошибки, трудности с неоднозначностью и сложными открытыми задачами, а также смещения из обучающих данных; маркировка uncensored указывает на ослабление ограничений безопасности, но конкретные изменения и оценки в README не описаны. Лицензия — Apache-2.0.

RadixArk/GLM-5.3-NVFP4 — текстовая языковая модель, представляющая собой квантованную производную GLM-5.3-BF16 от Z.ai. Квантование выполнено RadixArk с использованием NVIDIA Model Optimizer; RadixArk не обучала и не дообучала модель. Модель предназначена для агентной разработки, программирования, длительного использования инструментов и задач рассуждения. Архитектура — Transformer со Sparse Mixture-of-Experts и разреженным вниманием: 78 декодерных слоёв, включая 3 плотных MLP и 75 MoE-слоёв, 753 млрд параметров всего и около 40 млрд активируемых на токен. В MoE-слоях используется 256 маршрутизируемых экспертов с выбором 8 экспертов и один общий эксперт. Модель принимает и генерирует текст, поддерживает английский и китайский языки, а длина контекста достигает 1 048 576 токенов. Ключевое преимущество — существенное уменьшение размера checkpoint с 1 507 до 465 ГБ за счёт NVFP4 W4A4-квантования части параметров при сохранении ряда компонентов в BF16. Указаны высокие результаты на GSM8K, AIME 2026, Terminal-Bench 2.1 и DeepSWE, однако базовая модель может выдавать неточные, неполные, нерелевантные или нежелательные ответы, поэтому необходимы проверка результатов и защитные меры. Checkpoint рассчитан на запуск через SGLang на Linux и совместим прежде всего с GPU NVIDIA Blackwell; конфигурация проверена на B300. Условия использования определяются лицензией Z.AI Model License, указанной как MIT-style.

Hermes-4.3-36B-GGUF — языковая модель для генерации текста, разработанная Nous Research на основе ByteDance-Seed/Seed-OSS-36B-Base. Она предназначена для диалогов, рассуждений, решения математических и логических задач, программирования, STEM-сценариев, творческого письма, ролевого общения, вызова функций и работы со структурированными ответами. Модель имеет размер 36 млрд параметров и поддерживает гибридный режим с рассуждением: при необходимости она формирует сегменты <think>...</think>, а также может работать без явного рассуждения. В обучении использовался посттренировочный корпус примерно из 5 млн примеров и 60 млрд токенов. Hermes 4.3 ориентирована на соблюдение схем JSON, исправление некорректных структурированных объектов, управляемость и широкий спектр форматов вывода. В README заявлен английский язык; размер контекстного окна и полный перечень поддерживаемых языков не указаны. К сильным сторонам относятся улучшенные результаты в математике, коде, логике, STEM и следовании инструкциям, а также поддержка function calling, tool use и structured outputs. Ограничения модели включают отсутствие в представленном README сведений о конкретной GGUF-квантизации, требованиях к оборудованию и размере контекста. Результаты на SimpleQA заметно ниже других приведённых показателей, поэтому фактические ответы следует проверять. Модель распространяется по лицензии Apache-2.0.

GPT-5 — модель OpenAI для сложных задач, требующих рассуждений, точного выполнения инструкций и генерации качественного кода. В карточке модели отмечены улучшения в рассуждениях, качестве кода и удобстве взаимодействия. Модель предназначена для решения сложных задач и следования инструкциям. Каталог классифицирует её как image-text-to-text, однако README не описывает работу с изображениями или другие модальности, поэтому это назначение подтверждается только метаданными.

Muse-Glimmer-30B-AWQ-INT4 — квантованная примерно до 4-битной точности версия Muse Glimmer-30B, разработанной Meta Superintelligence Lab и дистиллированной из Muse Spark. Это причинно-следственная языковая модель с отдельным энкодером восприятия, предназначенная для локального запуска на потребительском оборудовании без облачной инфраструктуры и доступа к сети. Модель ориентирована на автономные агентские задачи: многошаговое рассуждение, вызов инструментов, написание и отладку кода, выполнение многоэтапных запросов и восстановление после ошибок инструментов. Архитектура включает плотный causal Transformer примерно на 29,6 млрд параметров и perception encoder примерно на 1,8 млрд параметров. Используются 52 слоя, чередование локального и глобального внимания, GQA, SwiGLU и RoPE; контекст составляет 131 072 токена или более. Модель принимает текст и изображения, а генерирует текст, поддерживая анализ скриншотов, графиков и документов. Заявлена работа более чем со 100 языками; среди явно перечисленных — английский, китайский, хинди, арабский, русский, японский, корейский, нидерландский, французский и испанский. Заявленный размер файла — 24,02 ГБ. К сильным сторонам относятся мультимодальность, длительное поддержание планов, точное использование инструментов, совместимость с агентскими оркестраторами и настраиваемая интенсивность рассуждений. К ограничениям относятся необходимость значительных аппаратных ресурсов и возможные потери качества из-за квантования, хотя для близких 4-битных конфигураций заявлено минимальное снижение результатов на агентских задачах. Модель распространяется по лицензии Apache 2.0.

Dolphin 2.9.3 Mistral 7B 32k — разговорная языковая модель, дообученная Eric Hartford и командой Cognitive Computations на базе mistralai/Mistral-7B-v0.3. Она предназначена для диалогов, следования инструкциям, помощи с программированием и вызова функций в агентных сценариях. Модель использует плотную архитектуру MistralForCausalLM с 7,1 млрд параметров и поддерживает контекст до 32 768 токенов; при дообучении применялась длина последовательности 8192 токена. Для общения используется шаблон ChatML. Модель обучалась на смесях диалоговых, инструкционных, кодовых и математических данных, включая Dolphin-2.9, OpenHermes-2.5, Dolphin Coder и Orca Math. Разработчики характеризуют её как uncensored и предупреждают, что перед предоставлением сервиса следует самостоятельно настроить слой выравнивания и меры контроля ответов. Лицензия Apache 2.0 разрешает коммерческое использование.

Muse-Glimmer-30B-GGUF — набор GGUF-квантованных сборок модели Muse Glimmer-30B, разработанной Meta Superintelligence Lab и опубликованной пользователем NANI-Nithin. Это плотный причинно-следственный трансформер примерно на 30 млрд параметров с отдельным модулем восприятия для обработки изображений и текста; модель генерирует текст и предназначена для запуска через llama.cpp на локальном оборудовании. Репозиторий содержит варианты от BF16/F16 до экспериментальных низкобитных квантов, включая рекомендуемый Q4_K_M размером 15,77 ГБ, а также отдельный vision projector для работы с изображениями. Модель ориентирована на агентские сценарии: выполнение многошаговых задач, написание и отладку кода, работу с инструментами через схемные вызовы функций, планирование, восстановление после ошибок и длительные многоходовые взаимодействия. Она принимает интерливированные текст и изображения, включая скриншоты, графики и документы, с поддержкой до 4096 визуальных токенов на изображение. Заявлена поддержка более 100 языков и управляемого уровня рассуждений low, medium, high и xhigh. Среди сильных сторон — мультимодальность, агентские возможности и развитое многошаговое рассуждение; качество зависит от выбранного уровня квантования, а экстремальные варианты могут заметно снижать точность. DFlash-декодер для ускорения генерации в этот репозиторий не входит, а GGUF-сборки предназначены для llama.cpp и не загружаются стандартным способом через vLLM, SGLang или transformers. Модель и сборки распространяются по лицензии Apache-2.0. Для обработки изображений требуется отдельно скачать и подключить файл vision projector; объём памяти и дискового пространства зависит от выбранной версии квантования.

FreedomAISVR/Qwable-v1-MXFP4-MOE-GGUF — квантованная GGUF-сборка модели Qwable-v1, подготовленная FreedomAISVR. В основе — Qwen3.6-35B-A3B, дистиллированная с рассуждениями Opus 4.7 и дообученная на агентном использовании инструментов Fable-5. Это MoE-архитектура семейства Qwen3.5 с 256 экспертами, из которых активны 8 на токен; активная часть содержит около 3 млрд параметров. Контекст — 262 144 токена. Модель предназначена для генерации текста, написания кода и агентных сценариев с использованием инструментов. Она принимает текст и изображения: для зрения предусмотрены энкодер SigLIP ViT и отдельный проектор. В GGUF-файле веса экспертов квантованы в MXFP4, большинство остальных весов — в Q8_0, роутер — в F32; компоненты зрения сохранены в F16. Для структурированного использования инструментов требуется агентный системный промпт. Распространяется по лицензии AGPL-3.0.

Qwen2.5-VL-72B-Instruct — мультимодальная instruction-tuned модель семейства Qwen, разработанная командой Qwen; репозиторий unsloth содержит вариант модели в формате GGUF. Модель предназначена для обработки изображений, текста и видео, включая визуальные вопросы и ответы, распознавание текста, анализ документов, таблиц, графиков и макетов, а также извлечение структурированных данных из счетов, форм и сканов. Модель содержит 72 миллиарда параметров и основана на Qwen2.5-VL. Она использует vision-language архитектуру с оптимизированным vision encoder на базе ViT, оконным вниманием, SwiGLU и RMSNorm. Для видео применяются динамические разрешение и частота кадров, что позволяет анализировать длительные ролики продолжительностью более часа и находить релевантные временные сегменты. Модель также поддерживает визуальную локализацию объектов с помощью bounding boxes или точек, стабильный JSON-вывод координат и атрибутов, а также сценарии компьютерного и мобильного управления. В метаданных указан английский язык; поддержка китайского также отражена в результатах OCRBench-V2. К сильным сторонам относятся анализ сложных визуальных материалов, OCR, понимание документов и графиков, обработка длинных видео, локализация объектов и формирование структурированных ответов. Ограничениями являются большой размер модели и, как следствие, высокие требования к вычислительным ресурсам; конкретные требования к памяти и производительности в README не указаны. Модель распространяется по лицензии Qwen; точные условия следует уточнять в файле лицензии по указанной ссылке.

JACK-POTTSSON/Qwen3.8-27B-OBLITERATEDpintus — текстовая generative-модель на базе Qwen/Qwen3.8-27B, распространяемая под лицензией Apache-2.0. В README она представлена как модифицированная версия Qwen с удалёнными или ослабленными механизмами отказа от ответов; описанный подход сочетает методы SVD и LEACE. Модель предназначена для генерации текста и кода, следования инструкциям, отладки, проектирования систем, извлечения данных по JSON-схеме, агентских сценариев и исследований AI safety и red teaming. Заявлены варианты в форматах GGUF, Safetensors и MLX, а также поддержка thinking mode. Для рекомендуемого режима указаны температура 0, repetition_penalty 1.15, max_new_tokens не менее 2048 и отсутствие системного промпта. README сообщает о результатах MMLU около 83,7% для V3 и 84,32% для V2, а также о семи успешных тестах из восьми на расширенных прикладных задачах; при этом эти показатели относятся к указанным в README версиям и не обязательно полностью подтверждают именно данный идентификатор. К сильным сторонам относятся близкая к исходной производительность, генерация кода и сниженная частота отказов. Ограничения включают возможную деградацию качества при sampling и repetition_penalty ниже рекомендуемого, риск циклической генерации без штрафа повторов, неполные сведения о точной архитектуре, размере контекста и поддерживаемых языках, а также потенциальную нестабильность поведения thinking mode. Отсутствие защитных отказов повышает риски небезопасного применения, поэтому модель особенно требует контроля при использовании в продуктивных и агентских системах.

Apodex-1.1-mini-GGUF — набор GGUF-квантизаций модели Apodex-1.1-mini, опубликованный организацией apodex; в README результаты оценки исходной модели связываются с Apodex AI. Это 35,95-миллиардная MoE-модель семейства Qwen3.5, предназначенная для исследовательской работы, анализа данных и файлов, программирования и задач с использованием инструментов. Поддерживаются английский и китайский языки, генерация текста и мультимодальный ввод изображений через отдельный vision projector. Модель сохраняет исходную MTP/NextN head, что позволяет использовать speculative decoding в llama.cpp. Доступны варианты квантизации от IQ1_M размером 8,82 ГБ до Q8_0 размером 37,8 ГБ; рекомендуемым вариантом по умолчанию указан Q4_K_M размером 21,7 ГБ. Для работы с изображениями требуется F16-проектор размером 899 МБ. README не указывает полный размер контекста, поэтому его характеристики нельзя определить по представленным данным. Модель ориентирована на локальный запуск через актуальную сборку llama.cpp и поддерживает агентские сценарии, код, работу с данными и изображениями. Сильными сторонами являются широкий выбор уровней квантизации, поддержка MoE, мультимодальности и MTP. Ограничения включают зависимость от совместимых компонентов llama.cpp и необходимость отдельного проектора для изображений; качество и производительность зависят от выбранной квантизации и доступной памяти. Лицензия — Apache-2.0.

Dolphin 2.9.1 Qwen 110B — языковая модель, подготовленная Эриком Хартфордом, Лукасом Аткинсом, Фернандо Фернандесом и командой Cognitive Computations на базе Qwen1.5-110B. Модель с плотной архитектурой Qwen2 содержит 110 млрд параметров; её дообучили полным обновлением весов в формате ChatML. Базовая модель поддерживает контекст до 32 768 токенов, а дообучение проводилось с длиной последовательности 8 000 токенов. Модель предназначена для диалогов и выполнения инструкций, генерации кода, решения математических задач, вызова функций и сценариев с агентными возможностями. В карточке указана лицензия Tongyi Qianwen; коммерческое использование разрешено в рамках её условий. Модель описана авторами как uncensored и может охотно выполнять небезопасные запросы, поэтому перед предоставлением пользователям её следует дополнить собственным слоем фильтрации и контроля.

dolphinllamaseekv1 — объединённая модель генерации текста на архитектуре Llama, созданная сообществом mergekit-community методом SLERP из cognitivecomputations/Dolphin3.0-Llama3.1-8B и deepseek-ai/DeepSeek-R1-Distill-Llama-8B. В репозитории указаны 7,5 млрд параметров и контекст до 131 072 токенов; веса доступны в формате safetensors, модель рассчитана на запуск через Transformers. Модель предназначена для диалоговой генерации текста и задач, в которых полезны возможности исходных моделей Dolphin и DeepSeek R1 Distill, включая рассуждения и программирование. Метаданные также отмечают интерфейс вызова инструментов. Объединение может сочетать свойства двух моделей, но README не приводит оценок качества или подробных результатов тестирования. Лицензия в предоставленных данных не указана.

INTELLECT-3-REAP-50-heretic — текстовая чат-модель jtl11, созданная на основе PrimeIntellect/INTELLECT-3. Это версия INTELLECT-3 с удалением 50% экспертов методом REAP (Router-weighted Expert Activation Pruning) и изменением поведения отказов с помощью abliteration. Модель сохраняет архитектуру GLM-4 MoE; в репозитории указано 8,5 млрд параметров и контекст до 131 072 токенов. Модель предназначена для генерации текста в диалоге, включая ответы на запросы, код и сложные многошаговые задачи. Калибровка REAP использовала примеры генерации кода, вызова функций и многоходовых сценариев для агентов. В сравнении с исходной моделью в README указано 3 отказа из 100 запросов против 60 из 100; измеренная KL-дивергенция составляет 0,0413. Модель доступна в формате safetensors по лицензии Apache-2.0.

Muse Glimmer-30B — мультимодальная модель Meta Superintelligence Lab с плотным причинным трансформером и отдельным энкодером восприятия; версия Unsloth дообучена на базе meta-models/Muse-Glimmer-30B. Модель содержит около 29,6 млрд параметров и предназначена для локального запуска, в том числе на потребительском оборудовании. Лицензия — Apache 2.0. Модель рассчитана на агентные сценарии: многошаговое планирование, вызов инструментов, восстановление после ошибок и длительное выполнение задач. Она принимает изображения вместе с текстом и подходит для анализа скриншотов, графиков и документов, а также для программирования, генерации синтетических данных и оценки ответов других моделей. Аудио не поддерживается; видео отдельно не оптимизировано и обрабатывается покадрово. Языковое покрытие неоднородно: качество может снижаться для языков, на которых модель недостаточно оценивали. Модель может ошибаться в многошаговых рассуждениях, особенно в новых сценариях, и выдавать предвзятые или нежелательные ответы. Для агентных применений разработчикам рекомендуется проводить проверки безопасности и добавлять защитные механизмы, включая подтверждение необратимых действий.

Nereus-7B — языковая модель на 7,1 млрд параметров от автора репозитория saucam. Это объединение моделей cognitivecomputations/dolphin-2.8-mistral-7b-v02 и NousResearch/Hermes-2-Pro-Mistral-7B методом mergekit DARE-TIES; архитектура — плотная Mistral с causal language modeling. Модель предназначена для диалогов, генерации кода и формирования структурированных ответов в JSON. Модель принимает текст и генерирует текст. В метаданных указан контекст до 32 768 токенов и лицензия Apache-2.0. README приводит результаты нескольких бенчмарков, однако они не дают гарантии качества для конкретного сценария. Языки модели и её специальные предметные области в доступных данных не определены.

Verkiki/Qwen3.8-27b-Fable5-Distill-Abliterated-GGUF — производная модель, созданная на основе Blackfrost-AI Qwen3.8-27B-ABLITERATED-BF16 с применением нативного LoRA-адаптера TeichAI Qwen3.8-27B-Fable-Distill-LoRA. Модель относится к архитектуре qwen3_5, имеет класс размера 27B и распространяется в формате GGUF с квантизацией IQ4_XS и importance matrix, рассчитанной после объединения компонентов. Она предназначена для локального использования в задачах планирования, программирования, многошагового рассуждения, технического анализа и агентских рабочих процессов, включая работу с инструментами и многофайловыми проектами. Fable5-Distill ориентирован на декомпозицию задач, удержание инструкций, последовательное планирование и более агентное поведение. Для родительской Fable-модели TeichAI заявлены улучшения на ARC Challenge, ARC Challenge Easy и BoolQ, однако эти результаты не являются измерениями именно финальной квантизированной сборки. Поддерживаются режимы thinking с параметрами reasoning_effort low, medium и xhigh; шаблон по умолчанию использует xhigh. Сочетание с аблитерированной базой должно снижать склонность к отказам, но итоговые поведение и качество следует оценивать отдельно. К ограничениям относятся отсутствие в предоставленных данных точного размера контекстного окна, перечня поддерживаемых языков и подтверждения мультимодальных возможностей, несмотря на соответствующие метки. IQ4_XS уменьшает требования к памяти по сравнению с BF16 и Q8, но может снижать точность относительно исходных весов. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-35B-A3B-NVFP4-MTP-GGUF — производная сборка модели Qwen3.6-35B-A3B, подготовленная Nilay Parikh для запуска через llama.cpp на NVIDIA DGX Spark. Это мультимодальная модель с архитектурой MoE: всего 35 млрд параметров, из которых около 3,5 млрд активны на токен. Основные веса квантизованы в NVFP4, голова MTP сохранена в BF16 для спекулятивного декодирования, а мультимодальный проектор для изображений поставляется отдельным файлом BF16 GGUF. Модель предназначена для генерации кода и текста, анализа длинных репозиториев и документов, а также рассуждений по скриншотам интерфейсов и диаграммам. В README заявлен контекст до 256 тысяч токенов с масштабированием YaRN от базовых 128 тысяч; для обработки изображений требуется подключить отдельный mmproj. Карточка ориентирована на английский язык. Лицензия — Apache-2.0. В README указана скорость около 30 токенов/с при коротком контексте и настроенной спекулятивной генерации на DGX Spark; эти показатели зависят от оборудования и конфигурации.

JASouth/Qwen3.8-27B-IQ-Hybrid — экспериментальный набор низкобитных GGUF-квантизаций базовой модели Qwen/Qwen3.8-27B, подготовленный автором JASouth. Модель ориентирована на локальный запуск с ограниченным объёмом видеопамяти, включая потребительские GPU с 8 ГБ VRAM, и предназначена для генерации текста, программного кода, задач с длинным контекстом, многошагового рассуждения и агентских рабочих процессов. В метаданных указана категория image-text-to-text, однако подробности о поддерживаемых модальностях, языках и размере контекстного окна не приведены. Доступны варианты с разной степенью сжатия. IQ2_E_S имеет около 2,40 BPW и требует примерно 7,51 GiB памяти, благодаря чему помещается в бюджет 8 ГБ, но заметно теряет качество на сложной логике, длинной генерации и функциональном кодировании. IQ2_E_S_V2 лучше подходит для кода и агентских сценариев, включая задачи с длинным контекстом, но может зацикливаться в обычном диалоге. IQ3_E_S_V2 считается наиболее сбалансированным вариантом по качеству и размеру, демонстрируя хорошие результаты в программировании и сложном рассуждении, хотя возможны отдельные ошибки внимания и галлюцинации. Для Intel Arc вариант IQ2_E_S не рекомендуется использовать с SYCL из-за риска некорректной генерации, NaN и сбоев; требуется backend Vulkan. Модель распространяется по лицензии Apache-2.0.

Qwen3-VL-30B-A3B-Thinking — мультимодальная модель семейства Qwen3-VL, разработанная командой Qwen. Это версия с визуальным анализом и режимом Thinking для рассуждений; репозиторий содержит веса в формате Safetensors и предназначен для использования с Transformers. Архитектура указана как Qwen3 VL MoE; название модели обозначает класс 30B-A3B. Модель принимает текст и изображения, а также предназначена для понимания видео и пространственных сцен. Она поддерживает диалог, визуальный анализ, OCR, рассуждения по STEM-задачам, извлечение информации из длинных документов и взаимодействие с инструментами; заявлены сценарии управления графическими интерфейсами и генерации кода интерфейсов по изображениям и видео. В README указан контекст 256K с возможностью расширения до 1M токенов и OCR на 32 языках. Сильные стороны — объединённое текстовое и визуальное понимание, анализ временной структуры видео, распознавание текста в сложных условиях и пространственные рассуждения. Точные результаты зависят от сценария; README не содержит численных результатов тестирования. Лицензия — Apache-2.0.

Caelum-G4-38B-A12.5B — экспериментальная общественная модель сообщества EryriLabs на архитектуре Gemma 4 Unified. Это разреженная MoE-модель с 38,01 млрд параметров, из которых на каждом токене активируется около 12,53 млрд; маршрутизатор top-1 выбирает одного из четырёх специализированных экспертов. Эксперты ориентированы на общие инструкции, агентные и кодовые задачи, системное администрирование и DevOps, а также научные и медицинские сценарии. В README также заявлена языковая архитектура из 48 слоёв и предел контекста 262 тыс. токенов, но практичность и качество на такой длине не проверялись. Модель предназначена для генерации текста, рассуждений, написания кода, планирования действий агента и структурированного использования инструментов. Веса и мультимодальный тракт унаследованы от Gemma 4 Unified, однако этот выпуск проверен только для генерации текста; работа с изображениями, видео и аудио не валидирована. Внутренний тест на 28 случаях дал обнадёживающий результат, но этого недостаточно для широких выводов о качестве. Модель требует совместимой версии Transformers и содержит пользовательский код; перед включением trust_remote_code следует изучить код репозитория. Лицензия — Apache-2.0.

Llama-3.1-Nemotron-Nano-8B-v1 — языковая модель NVIDIA, опубликованная в репозитории Unsloth в формате Safetensors. Это плотный декодерный Transformer на архитектуре Llama 3.1, дообученный для рассуждений, диалогов, следования инструкциям, математики, программирования, RAG и вызова инструментов. В метаданных указано 7,5 млрд параметров, а контекстное окно составляет до 131 072 токенов. Модель принимает и генерирует текст. Она рассчитана прежде всего на английский язык и также поддерживает немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Режим рассуждений включается системным промптом; для локального запуска карточка указывает, что модель помещается на одну RTX GPU. Поддерживаются диалоговый режим и интерфейс вызова инструментов. Модель предназначена для чат-ботов, агентных систем, RAG-приложений и типовых задач по инструкциям. README заявляет коммерческую готовность, однако метаданные указывают лицензию «other» без конкретных условий в предоставленных сведениях; перед использованием следует сверить лицензионные условия исходной карточки. Результаты оценки зависят от режима рассуждений и формата промпта, а русская поддержка не заявлена.