II.2Создание и понимание программного кода

Qwen3.8-27B-NVFP4-RTX5090 — оптимизированная для видеокарт GeForce RTX 5090 версия модели Qwen/Qwen3.8-27B. Сборка опубликована в gittensor-model-hub и квантизована с помощью NVIDIA Model Optimizer в формате NVFP4. Модель предназначена для развёртывания через SparkInfer, SGLang и vLLM на архитектуре NVIDIA Blackwell; Hopper может загрузить файлы, но не поддерживает выполнение NVFP4. Модель поддерживает работу с текстом, изображениями и видео через OpenAI-совместимый API. Она рассчитана на контекст до 262 144 токенов и помещается на одной RTX 5090 с 32 ГБ памяти; размер чекпойнта составляет около 17,92 ГБ в двух шардах. В сборке квантизирован также lm_head, а неиспользуемая MTP head удалена. Для ускорения генерации может использоваться спекулятивное декодирование с drafter DSpark v2. Сильные стороны модели — большой контекст, мультимодальный ввод, низкие требования к памяти и высокая скорость инференса на RTX 5090, особенно в связке SparkInfer и DSpark v2. Ограничения включают зависимость от Blackwell для полноценного выполнения NVFP4, необходимость специализированных движков и отдельные ограничения текущего API SparkInfer: видео поддерживается фактически, но не всегда корректно отражается в поле input_modalities. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-NVFP4-vllm — квантованная версия модели Qwen3.8-27B, разработанной командой Qwen и опубликованной пользователем kekzle. Модель предназначена для запуска в vLLM и imp; поддерживает текстовые и визуальные входы, при этом в карточке указан английский язык. Это гибридная архитектура с компонентами GDN, vision tower и MTP draft head, однако подробные сведения о точной архитектуре и максимальном контексте не приведены. Линейные веса внимания, MLP и GDN-проекций сжаты в NVFP4 с группами размера 16 по схеме W4A16, а embeddings, lm_head, нормализации, vision tower и MTP draft head сохранены в исходной точности BF16. Размер весов уменьшен примерно с 51,75 до 19,2 ГиБ, что позволяет разместить модель на видеокарте с 32 ГиБ памяти. По приведённым измерениям на RTX 5090 модель достигла perplexity 4,6158, скорости декодирования до 87,4 токена в секунду и результата 45/45 в тестовом наборе качества. Сильные стороны модели — существенная экономия памяти, поддержка работы с текстом и изображениями, совместимость с vLLM и imp, а также возможность запуска на потребительских видеокартах Blackwell sm_120, где опубликованные варианты с FP8 attention могут не работать. Ограничения связаны с экспериментальным характером квантования без калибровки активаций, меньшей производительностью vLLM на sm_120 из-за fallback на Marlin и необходимостью настраивать число последовательностей и параметры памяти. Для многошаговых диалогов рекомендуется выделять не менее примерно 400 токенов на ответ, поскольку бюджет включает внутреннее рассуждение. Модель распространяется по лицензии Apache-2.0. Квантованная версия создана из официального релиза BF16 с помощью экспериментального квантовщика imp.

Qwen3.8-27B-Uncensored-Q4_K_M-GGUF — это квантованная в формате GGUF версия базовой модели Qwen/Qwen3.8-27B, опубликованная пользователем qaqab и предназначенная для запуска через llama.cpp и совместимые среды. Модель ориентирована на генерацию текста, включая диалоги, написание и анализ текстов, а также другие сценарии применения многоцелевой языковой модели. В README указаны поддержка английского и китайского языков и наличие vision-возможностей у базовой архитектуры, однако для обработки изображений требуется соответствующий vision-файл. Модель использует архитектуру Qwen3_5ForConditionalGeneration с 64 слоями, словарём из 248 320 токенов, одним MTP-слоем и контекстом до 262 144 токенов. Файл Q4_K_M имеет размер около 16,8 ГБ и сохраняет MTP-компонент для speculative decoding; также опубликована версия без MTP. Квантование выполнено с использованием importance matrix. По измерениям perplexity на wikitext-2 показатель для Q4_K_M составляет 7,1814, но этот тест не оценивает напрямую рассуждения, программирование, мультиязычность или поведение отказов. Вариант Uncensored создан с существенным снижением склонности к отказам с помощью Heretic без дополнительного обучения и новых данных; это поведение не устранено полностью. Возможное снижение acceptance rate черновой MTP-модели может немного повлиять на ускорение speculative decoding, но не должно ухудшать качество проверяемого целевой моделью вывода. Модель распространяется по лицензии Apache-2.0.

aquaduck/Qwen3.8-Flash-Next-GGUF — это квантизированная версия каузальной языковой модели Qwen3.8-Flash-Next, разработанной командой Qwen и Alibaba Cloud. Репозиторий поддерживается Aquaduck и содержит GGUF-представление UD-Q3_K_XL, а также пакеты слоёв для поэтапной или многонодовой загрузки. Это не дообученная модель и не новый запуск обучения, а упаковка и квантизация исходных весов. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через совместимые инструменты, в частности llama.cpp, а также staged loading через экосистему Aquaduck Arc. Заявлены мультиязычная поддержка, контекст до 262 144 токенов и около 180 млрд параметров. Архитектура включает 48 слоёв, GQA с 24 Q- и 2 KV-головами и скрытое измерение 2560. К преимуществам относятся большой контекст, мультиязычность, возможность локального запуска в формате GGUF и поддержка поэтапной загрузки для распределённых конфигураций. Ограничения связаны с крупным размером модели и снижением качества по сравнению с более точными версиями из-за квантизации UD-Q3_K_XL. Отдельные shard-файлы не являются полноценной моделью и не предназначены для прямого запуска в стандартном llama.cpp. Лицензия указана как other и наследуется от базовой модели; необходимо соблюдать условия лицензии и рекомендации исходной карточки модели.

ZuzeTt/Qwen3-VL-4B-Thinking-heretic-imatrix-GGUF — мультимодальная модель для понимания и генерации текста по изображениям и текстовым запросам. Она создана на основе Qwen/Qwen3-VL-4B-Thinking и представляет собой её декензурированную версию, полученную с помощью Heretic 1.1.0. В README указано, что исходная модель относится к семейству Qwen; отдельный разработчик этой модификации не назван. Модель предназначена для визуального анализа, рассуждений по изображениям, решения STEM- и математических задач, распознавания текста, понимания пространственных отношений, анализа видео, визуального программирования и взаимодействия с графическими интерфейсами через инструменты. Заявлены поддержка длинного контекста до 256K токенов с возможным расширением до 1M, понимание длительных видео, OCR на 32 языках и мультимодальное рассуждение. Архитектурные особенности базовой модели включают Dense-архитектуру, режим Thinking, Interleaved-MRoPE, DeepStack и выравнивание текста с временными метками; размер модели — 4B параметров. Ключевая особенность модификации — существенное снижение количества отказов: в приведённом тесте она отказала в 3 из 100 случаев против 97 из 100 у исходной модели, при KL divergence 0,0259. Это может быть преимуществом для исследовательских и прикладных сценариев, где требуется менее ограниченное поведение, но одновременно повышает риск небезопасных или нежелательных ответов. В README не приведены результаты независимой оценки качества, полный перечень поддерживаемых языков генерации, точные характеристики GGUF-квантизации или требования к аппаратному обеспечению. Модель распространяется по лицензии Apache-2.0.

QwenQwen2.5-7B-IT-Dare — объединённая диалоговая языковая модель на архитектуре Qwen2, созданная с помощью mergekit методом DARE TIES на основе Qwen/Qwen2.5-7B-Instruct. В карточке перечислена только эта базовая модель, поэтому объединение фактически описано как слияние её весов с коэффициентами 1 и плотностью 1. Модель содержит 7,1 млрд параметров, принимает текст и генерирует текст; заявленная длина контекста — 32 768 токенов. Она подходит для диалогов и генерации текста, а интерфейс также поддерживает вызов инструментов. Репозиторий использует библиотеку Transformers и формат safetensors. Лицензия в предоставленных данных не указана. Как и у базовой модели, качество ответов может зависеть от запроса; карточка не приводит результатов оценки или специальных ограничений применения.

Rombos-Qwen2.5-32B-lorablated — объединённая текстовая модель на 32 млрд параметров, созданная с помощью mergekit из rombodawg/Rombos-LLM-V2.5-Qwen-32b и nbeerbower/Qwen2.5-32B-abliterated-LORA. Это плотная авторегрессионная архитектура Qwen2, предназначенная для диалогов и генерации текста; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов. Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0. Карточка описывает объединение методом task arithmetic, однако не приводит оценок качества или подробных сведений о языках. Как и другие крупные генеративные модели, она может выдавать неточные или вымышленные ответы; практические возможности вызова инструментов зависят от используемого интерфейса.

Schematron-3B — специализированная модель Inference.net для извлечения структурированных данных из HTML. Это дообученная плотная авторегрессионная модель семейства Llama на 3,2 млрд параметров, доступная в формате safetensors и работающая через Transformers. Она принимает HTML-страницу и JSON Schema и генерирует JSON, соответствующий заданной схеме; заявленное контекстное окно — до 131 072 токенов. Модель предназначена для веб-скрейпинга, загрузки данных и преобразования содержимого страниц в структурированные записи, а также может использоваться как этап конвейера поиска и синтеза ответов. Разработчик рекомендует очищать HTML от скриптов и стилей, задавать явные описания неоднозначных полей и проверять результат по схеме. Модель обрабатывает статический HTML: динамический контент следует предварительно отрендерить, а очень большие страницы могут потребовать усечения. Лицензия — Llama 3.2; применяйте её на условиях этой лицензии.

DoubleBagel-57B-v1.0 — объединённая языковая модель семейства Llama, созданная с помощью mergekit из предварительно обученной модели jondurbin_bagel-34b-v0.2. Модель содержит 56,2 млрд параметров, использует архитектуру LlamaForCausalLM и рассчитана на генерацию текста и диалоговое взаимодействие с контекстом до 200 000 токенов. Модель можно применять для диалогов и генерации текста с длинным контекстом. Веса опубликованы в формате safetensors, библиотека для работы — Transformers. Лицензия — Apache-2.0.

FineLlama-3.1-8B-fiftycore-V1 — языковая модель компании fiftycore, созданная дообучением unsloth/Meta-Llama-3.1-8B-Instruct-bnb-4bit с помощью Unsloth и библиотеки Hugging Face TRL. Модель семейства Llama с плотной архитектурой LlamaForCausalLM содержит 7,5 млрд параметров и предназначена для генерации текста и диалогового взаимодействия; также заявлен интерфейс вызова инструментов. Модель принимает текст и генерирует текст. Для неё указано контекстное окно до 131 072 токенов, а среди языковых меток карточки указан английский. Репозиторий содержит веса PyTorch. Лицензия — Apache-2.0.

GPT-5.6 Sol Pro — вариант модели GPT-5.6 Sol, разработанный OpenAI и предоставляемый с режимом рассуждений `pro`. Он предназначен для получения более качественных ответов на сложные задачи. Карточка не приводит сведений об архитектуре, размере, модальностях, языках, длине контекста или лицензии, поэтому эти характеристики здесь не описываются.

Карточка модели OpenPipe/Hermes-2-Theta-Llama-3-8B-32k на Hugging Face совпадает с карточкой NousResearch/Hermes-2-Theta-Llama-3-8B, поэтому описание составлено по ней. Hermes-2 Θ (Theta) — экспериментальная объединённая и дополнительно обученная модель Nous Research, созданная совместно с Charles Goddard из Arcee. В основе лежит Hermes-2-Pro-Llama-3-8B: веса объединены с Meta Llama 3 Instruct, после чего модель дополнительно обучали с помощью RLHF. Это плотная причинно-языковая модель семейства Llama с 7,5 млрд параметров и контекстом 8192 токена. Модель предназначена для диалогов и выполнения инструкций на английском языке. Она поддерживает формат ChatML, многоходовое общение, вызов функций и генерацию структурированных ответов в JSON. Репозиторий содержит веса safetensors; для запуска описан пример с Transformers. В карточке приведены результаты оценок на нескольких наборах тестов, но они не гарантируют качество в конкретных сценариях. Модель распространяется по лицензии Apache-2.0. Практические ограничения: карточка называет её экспериментальной; вызовы инструментов нужно самостоятельно разбирать и исполнять в коде приложения. Указанная в README рекомендация LM Studio относится к квантованным версиям и не обещает поддержку вызова функций в этом интерфейсе.

Jan-v1-4B — разговорная языковая модель семейства Jan от Jan, предназначенная для агентного рассуждения, решения задач и интеграции с приложением Jan. Она основана на Qwen3-4B-Thinking-2507 и дообучена для улучшения рассуждений и работы с инструментами. Модель имеет плотную архитектуру Qwen3ForCausalLM и 3,7 млрд параметров. Она генерирует текст, поддерживает диалог и рассчитана на контекст до 262 144 токенов. В карточке заявлен результат 91,1% на SimpleQA; он зависит от условий оценки и шаблона диалога. Для воспроизведения результата README рекомендует использовать встроенный системный промпт в chat template; также доступен вариант шаблона без него. Модель можно запускать локально через vLLM и интегрировать в Jan App; README описывает поддержку выбора инструментов и парсера Hermes. Доступна под лицензией Apache-2.0.

Mungert/Jan-v1-4B-GGUF — это GGUF-квантизированная версия Jan-v1, небольшой агентной языковой модели, разработанной Jan/Jan AI и основанной на Qwen3-4B-Thinking-2507. Конкретный репозиторий содержит сборки, созданные с использованием llama.cpp; автор применяет собственный подход к квантизации с повышением точности отдельных важных слоёв. В метаданных указан английский язык, размер базовой модели — 4B параметров, модальность — текстовая генерация. Модель предназначена для агентного рассуждения, решения сложных задач, ответов на вопросы, диалогового взаимодействия и использования инструментов, включая сценарии интеграции с Jan App. В исходной карточке заявлены 91,1% точности на SimpleQA и улучшенные возможности рассуждения и tool use, однако приведённые результаты относятся к Jan-v1 в целом и могут не полностью отражать поведение конкретной GGUF-квантизации. Поддерживаются локальный запуск через llama.cpp и интеграция с инструментами, совместимыми с форматом модели. Сильными сторонами являются компактный размер, ориентация на агентные задачи и потенциально более высокая точность при заданном уровне квантизации благодаря повышению точности отдельных слоёв. Ограничения включают зависимость качества от выбранного GGUF-варианта и параметров квантизации, а также отсутствие в карточке точного размера контекста, перечня доступных квантизаций, детальных сравнительных результатов и описания дополнительных языков. Лицензия модели — Apache 2.0.

amd/Llama-3.1-8B-Instruct-FP8-KV — это FP8-квантизированная версия Meta-Llama-3.1-8B-Instruct, созданная компанией Advanced Micro Devices (AMD) с использованием инструмента Quark и калибровочных образцов из набора данных Pile. Модель предназначена для задач генерации текста и диалоговых сценариев, поддерживаемых исходной инструкционной моделью Llama 3.1, а также для эффективного развёртывания через backend vLLM. Квантизации подвергнуты все линейные слои, кроме lm_head. Веса, активации и KV-кэш представлены в формате FP8 с симметричным масштабированием на тензор. Экспорт выполняется в формате Quark safetensors, совместимом с vLLM. Для оценки потери точности использовалась perplexity на Wikitext-2: 7,2169 у исходной модели и 7,2752 у данной версии; результаты получены в режиме псевдоквантизации и могут отличаться от показателей фактического инференса. Размер модели, контекстное окно, список языков и другие архитектурные характеристики в README не указаны. Модель ориентирована на снижение требований к памяти и повышение эффективности инференса на совместимом оборудовании, однако FP8-квантизация может незначительно ухудшать качество по сравнению с исходной моделью. Для использования требуется Quark; заявлена возможность развёртывания с помощью vLLM. Лицензия указана как llama3.1, с условиями Meta для Llama 3.1 и дополнительными модификациями, защищёнными авторским правом AMD.

Llama-3.1-Nemotron-70B-Instruct-HF-GGUF — это квантизированные GGUF-версии инструкционной языковой модели Llama-3.1-Nemotron-70B-Instruct-HF, разработанной NVIDIA. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix; доступны варианты с разными уровнями сжатия и размером файлов примерно от 26 до 75 ГБ. Модель предназначена для генерации текста и диалоговых сценариев, включая работу через llama.cpp и LM Studio. В README указан английский язык, а также набор данных NVIDIA HelpSteer2, использованный для исходной модели. Архитектура описана как Llama 3.1 Nemotron с размером 70B параметров; поддерживаемые модальности ограничены текстом. Контекстное окно в представленном описании не указано. Сильная сторона семейства — возможность выбрать баланс между качеством и требованиями к памяти: варианты Q6_K и Q5 считаются близкими к исходному качеству, а более компактные Q3 и Q2 подходят для систем с ограниченным объёмом RAM, но заметно уступают по качеству. Q4_K_M обозначен как вариант стандартного размера. Квантизации предназначены для локального запуска, однако даже компактные версии требуют значительных ресурсов. Модель распространяется по лицензии llama3.1.

Meta-Llama-3.1-8B-Instruct-GGUF — квантизированная версия инструкционной языковой модели Meta-Llama-3.1-8B-Instruct, разработанной Meta Llama и подготовленной для распространения компанией Second State Inc. Модель предназначена для генерации текста и диалоговых сценариев, включая выполнение инструкций и работу в приложениях на базе GaiaNet. Для взаимодействия используется шаблон llama-3-chat, а запуск поддерживается llama.cpp. Модель основана на архитектуре Llama и содержит 8 миллиардов параметров. Она работает в текстовой модальности, поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Заявленный размер контекста составляет 128 000 токенов. Квантизация выполнена с использованием llama.cpp b4466, что делает модель более подходящей для запуска в средах с ограниченными ресурсами, однако README не уточняет конкретный формат квантизации, требования к оборудованию и возможные компромиссы между скоростью, качеством и потреблением памяти. Модель распространяется по лицензии llama3.1. README не содержит подробностей о дополнительных ограничениях лицензии и не приводит результаты оценки качества, поэтому её преимущества и ограничения можно описать только на общем уровне: это компактная инструкционная модель с широкой поддержкой языков и большим контекстом, но без подтвержденных характеристик производительности для отдельных задач.

Карточка модели PIXMELT/Mistral-7B-Instruct-v0.2 на Hugging Face совпадает с карточкой Sacralet/mistral-7B, поэтому описание составлено по ней. Sacralet/mistral-7B — диалоговая instruction-модель на базе Mistral-7B, представленная как улучшенная instruct-версия Mistral-7B-Instruct-v0.1. Архитектура — плотный трансформер MistralForCausalLM с Grouped-Query Attention и Sliding-Window Attention; размер составляет 7,1 млрд параметров, контекст — до 32 768 токенов. Для инструкций используется формат [INST]…[/INST], доступный также через шаблон чата Transformers. Модель предназначена для диалогов и генерации ответов на инструкции. В карточке указана лицензия Apache-2.0. README описывает её как демонстрацию возможностей дообучения базовой модели и отмечает отсутствие механизмов модерации. Языковая поддержка отдельно не перечислена.

Mistral-7B-Instruct-v0.2-expanded — разговорная языковая модель, созданная Arcee AI на основе mistralai/Mistral-7B-Instruct-v0.2. Авторы расширили блоки модели с помощью метода passthrough из mergekit: после каждого пятого слоя добавлен новый слой, в котором параметры o_proj и down_proj инициализированы нулями по подходу LLaMA Pro. Модель имеет плотную архитектуру MistralForCausalLM, содержит 8,9 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации текста и диалоговых сценариев. Репозиторий содержит веса в формате safetensors; использовать модель можно через библиотеку Transformers. Лицензия в предоставленных данных не указана.

RedHatAI/Mixtral-8x7B-Instruct-v0.1 — разговорная instruct-модель, опубликованная Red Hat AI на основе Mistral AI Mixtral-8x7B-Instruct-v0.1. Она предназначена для диалога и генерации текста по запросам, например для ответов на вопросы и объяснения понятий. Модель использует архитектуру Mixtral с разреженной экспертной маршрутизацией (MoE), содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель принимает текст и генерирует текст; в карточке заявлены английский, французский, итальянский, немецкий и испанский языки. README описывает развёртывание с vLLM, Red Hat Enterprise Linux AI и OpenShift AI. Модель распространяется по лицензии Apache-2.0. В README указано, что у неё нет встроенных механизмов модерации, поэтому сгенерированные ответы могут требовать отдельной фильтрации.

MaziyarPanahi выпустил эту диалоговую модель как слияние Mistral-7B-Instruct-v0.2 и OpenHermes-2.5-neural-chat-7b-v3-1-7B методом SLERP. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, рассчитанная на диалог и генерацию текста по инструкциям; заявленная длина контекста — до 32 768 токенов. Модель подходит для чат-ботов, ответов на вопросы и создания текстов по запросу. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. Карточка не сообщает о специализированной предметной области или ограничениях качества.

Adept Persimmon-8B-Chat — чат-модель семейства Persimmon, разработанная Adept и дообученная для диалогов на собственной базовой модели, обученной с нуля. Она предназначена для генерации ответов на текстовые запросы и использования в чат-сценариях, в том числе как языковая основа для взаимодействия с компьютером. Модель имеет плотную архитектуру PersimmonForCausalLM и 10,7 млрд параметров. Контекстное окно составляет 16 384 токена. Репозиторий содержит веса PyTorch; лицензия — Apache-2.0. README представляет модель как ранний результат программы масштабирования Adept, а не как отдельный готовый продукт. Карточка не приводит оценок качества или подробных ограничений; результаты следует проверять для конкретных задач.

coder3101/Qwen3.5-27B-heretic — производная мультимодальная модель на основе Qwen/Qwen3.5-27B, опубликованная в формате Transformers. В карточке представлены параметры abliteration и сравнение с исходной моделью: доля отказов в приведённом тесте снизилась с 94 до 14 из 100, а KL-дивергенция составила 0,0653. Модель сохраняет архитектуру Qwen3.5 с языковой моделью и энкодером изображений; заявленный размер — 27 млрд параметров. Модель предназначена для диалогов, рассуждений, анализа изображений и сценариев с вызовом инструментов. Базовая Qwen3.5 поддерживает 201 язык и диалект, имеет контекст 262 144 токена с возможностью расширения до 1 010 000 токенов; карточка не приводит отдельных измерений этих характеристик для данной производной модели. Уменьшение числа отказов может быть полезно там, где нужна менее ограниченная генерация, но приведённая оценка не описывает полноту качества или безопасность ответов. Лицензия — Apache-2.0.

FreedomAISVR публикует GGUF-квантизацию модели Qwen3.6-35B-A3B-Claude-4.7-Opus-Reasoning-Distilled — разговорной модели рассуждения, дистиллированной из Claude 4.7 Opus. В основе лежит архитектура Qwen3.5 MoE с 35 млрд параметров, около 3 млрд из которых активны при генерации; в модели 256 экспертов, из них 8 активируются на токен, а также 40 слоёв и MTP-голова. Контекст составляет 262 144 токена. Модель предназначена для генерации текста и диалогов с многошаговыми рассуждениями. Это текстовая версия без поддержки изображений. Веса сохранены в формате GGUF и квантизированы в NVFP4 примерно до 4 бит; файл модели занимает около 18,81 ГБ. Apache 2.0 указана как лицензия исходной модели.

bowmanslayer/Qwen3.8-27B-Uncensored-W4A16-vision-mtp — квантованная версия мультимодальной модели Qwen3.8-27B-Uncensored, разработанная bowmanslayer на базе Qwen/Qwen3.8-27B. Исходная модель была адаптирована JonathanColetti с помощью abliteration через Heretic, а в этом репозитории выполнены 4-битное квантование W4A16 и перепаковка vision tower. Модель предназначена для генерации текста, рассуждений и обработки изображений, а также может использовать видеовход через vLLM. Заявлены языки English и Chinese. Текстовая часть использует квантование с group size 128, формат GPTQ/AutoRound и kernels Marlin; vision tower сохранён в формате bf16. Размер модели составляет около 19 ГБ, включая MTP head объёмом 849 МБ. Поддерживается контекст до 256K токенов. Разработчик проверил запуск на двух NVIDIA RTX 3090 с tensor parallelism; для инференса рекомендован vLLM. Доступны reasoning и tool calling через соответствующие парсеры vLLM, а MTP head предназначен для экспериментов со speculative decoding. Сильными сторонами являются сочетание мультимодальности, большого контекстного окна и существенной экономии памяти благодаря W4A16-квантованию, при сохранении vision tower в bf16. Ограничения включают зависимость от совместимого окружения vLLM и необходимости корректно задавать параметры обработки изображений; квантование может влиять на качество относительно исходной модели. Оценки в README приведены при включённом режиме thinking и не должны напрямую сравниваться с результатами, полученными при отключённом reasoning. Лицензия — Apache 2.0.

synapticstudio/rxcortix-qwen3-14b-merged — дообученная языковая модель synapticstudio на архитектуре Qwen3 с плотной причинной языковой моделью Qwen3ForCausalLM. Она предназначена для генерации текста и диалогового взаимодействия; метаданные также отмечают интерфейс вызова инструментов. Модель содержит 14 млрд параметров и рассчитана на контекст до 40 960 токенов. В карточке указано, что обучение выполнялось с Unsloth и библиотекой TRL от Hugging Face. Базовая модель — unsloth/qwen3-14b-unsloth-bnb-4bit. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Карточка не описывает специализацию по предметным областям или отдельные результаты оценки качества.

UltraHermes-Merge — объединённая диалоговая языковая модель, созданная Cas-Warehouse с помощью mergekit. В основе слияния — mlabonne/NeuralHermes-2.5-Mistral-7B; также объединены argilla/CapybaraHermes-2.5-Mistral-7B, joey00072/ToxicHermes-2.5-Mistral-7B и openaccess-ai-collective/DPOpenHermes-7B-v2. Использован метод TIES. Модель построена на плотной архитектуре MistralForCausalLM, содержит 7,1 млрд параметров и имеет контекстное окно до 32 768 токенов. Она предназначена для диалога, ответов на инструкции и генерации текста. Доступна в формате safetensors и использует библиотеку Transformers. В карточке не приведены сведения о лицензии и конкретном перечне поддерживаемых языков. Как и другие генеративные языковые модели, она может выдавать неточные или нежелательные ответы; пригодность результатов следует проверять для целевого применения.

YamshadowInex12_NeuralsirkrishnaShadow — слитая текстовая модель MaziyarPanahi на архитектуре Mistral. Она объединяет модели automerger/YamshadowInex12-7B и automerger/NeuralsirkrishnaShadow-7B и предназначена для генерации текста. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Доступна в формате safetensors по лицензии Apache-2.0.

Карточка модели PS4Research/005Kq3yTVMadlDXH на Hugging Face совпадает с карточкой PS4Research/IKn8jwlNamPNIS15, поэтому описание составлено по ней. Модель PS4Research/IKn8jwlNamPNIS15 — дообученная PS4Research языковая модель семейства Granite на базе ibm-granite/granite-4.2-30b. Она предназначена для генерации текста и диалогового взаимодействия; интерфейс также поддерживает вызов инструментов. Модель содержит 28,9 млрд параметров, использует плотную архитектуру GraniteForCausalLM и принимает контекст длиной до 131 072 токенов. В метаданных указан английский язык. Базовая модель IBM описана как многоязычная и предназначенная для рассуждений, диалога, программирования и вызова инструментов, однако README не уточняет, какие именно навыки были предметом дообучения этой версии. Модель распространяется в формате safetensors по лицензии Apache-2.0; для ускорения обучения использовались Unsloth и библиотека TRL.

Карточка модели InternScience/Agents-A1-4B-F16-GGUF на Hugging Face совпадает с карточкой InternScience/Agents-A1-4B, поэтому описание составлено по ней. Agents-A1-4B — плотная языковая модель на 4 млрд параметров от InternScience, созданная для автономного выполнения многошаговых задач. Она основана на архитектуре Qwen3.5 и дообучена для агентных сценариев: поиска, инженерной работы, научных исследований, следования инструкциям и вызова инструментов. Модель поддерживает диалог и интерфейс вызова функций; веса доступны в формате safetensors и совместимы с Transformers, vLLM и SGLang. В README заявлена длина контекста до 262 144 токенов при указанной конфигурации SGLang. Модель предназначена для разложения сложных запросов на шаги, планирования, использования внешних инструментов и ответов на научные и профессиональные вопросы. В README приведены высокие результаты на тестах поиска, агентных задач и следования инструкциям, однако это заявления разработчика, и они не гарантируют качество в конкретном приложении. Лицензия Apache-2.0.