I.11Классификация, ранжирование и сопоставление

AI21 Jamba 1.5 Large — большая инструкционная языковая модель компании AI21 с гибридной архитектурой Jamba, объединяющей блоки Transformer и Mamba/SSM. В карточке указаны 94 млрд активных параметров и 398 млрд параметров всего; модель принимает текст и генерирует текст, поддерживает диалоговый режим и контекст до 256 тысяч токенов. Модель предназначена для следования инструкциям и деловых сценариев: генерации ответов на основе документов, работы с длинными материалами, вызова инструментов и выдачи структурированных результатов, включая JSON. Авторы заявляют о высокой скорости вывода и качестве на тестах, однако показатели приведены в карточке разработчика и не гарантируют результат на конкретных данных. Поддерживаются английский, испанский, французский, португальский, итальянский, нидерландский, немецкий, арабский и иврит. Модель доступна по Jamba Open Model License, которая допускает исследовательское и коммерческое использование на её условиях. Для запуска требуются значительные вычислительные ресурсы; README рекомендует CUDA и описывает запуск на узле с восемью GPU по 80 ГБ, а для Transformers — 8-битную квантизацию с оговоркой о блоках Mamba.

AI21 Jamba Mini 1.6 — разработанная AI21 гибридная инструкционная модель семейства Jamba, сочетающая архитектуры State Space Model (Mamba) и Transformer. В модели 12 млрд активных параметров и 52 млрд параметров всего; она принимает текст и предназначена для генерации текста в диалоге, следования инструкциям, вызова функций, структурированного вывода JSON и генерации ответов с опорой на заданные источники. Контекстное окно составляет 256 тыс. токенов. Модель рассчитана на длинные контексты и деловые сценарии; для запуска README рекомендует CUDA и vLLM версии 0.6.5 или выше. Поддерживаются английский, испанский, французский, португальский, итальянский, нидерландский, немецкий, арабский и иврит. Заявленные разработчиком преимущества — скорость инференса и качество обработки длинного контекста. Модель распространяется по Jamba Open Model License, допускающей исследования и коммерческое использование на её условиях.

Atharvs_Model — дообученная мультимодальная модель на базе Google Gemma 4 E4B, опубликованная под лицензией Apache 2.0. Она использует архитектуру Gemma4ForConditionalGeneration и формат safetensors, принимает текст и изображения и формирует текстовые ответы. Семейство Gemma 4 поддерживает контекст до 128 тысяч токенов для малых моделей, включая E4B, и многоязычную работу; карточка этой конкретной модели не уточняет языки дообучения. Модель подходит для диалога, генерации и суммаризации текста, программирования, рассуждений, а также анализа изображений и документов, включая OCR. В README Gemma 4 также заявлены видеопонимание и аудиозадачи для E2B и E4B, однако метаданные конкретного репозитория не подтверждают эти возможности отдельно. Возможности исходной модели не обязательно полностью сохранены или улучшены после дообучения; перед использованием ответы следует проверять.

casperhansen/deepseek-r1-distill-qwen-32b-awq — это распространённая пользователем casperhansen версия DeepSeek-R1-Distill-Qwen-32B с 4-битным квантованием AWQ. Исходную модель разработала DeepSeek на базе Qwen2.5-32B от команды Qwen компании Alibaba Cloud; она дообучена на 800 тысячах образцов, отобранных с использованием DeepSeek-R1, и предназначена для генерации текста и задач, требующих рассуждений, включая математику, программирование и научные вопросы. Модель является текстовой autoregressive language model с архитектурой Qwen2ForCausalLM и примерно 32 млрд параметров. В конфигурации указаны 64 слоя, 40 attention heads, 8 key-value heads, размер скрытого состояния 5120 и максимальная длина контекста 131072 токена. Репозиторий содержит веса Safetensors в формате AWQ с 4-битными группами размера 128 и типом вычислений bfloat16. Квантование существенно уменьшает требования к памяти и подходит для локального запуска, но может снижать точность по сравнению с исходной полноразмерной моделью; конкретные результаты тестирования этой AWQ-сборки в карточке модели не приведены. Для модели casperhansen указана лицензия MIT. В карточке также отмечается, что исходная DeepSeek-R1-Distill-Qwen-32B поддерживает коммерческое использование, модификацию и создание производных работ, однако при практическом применении следует учитывать условия лицензий исходных компонентов и выбранного программного окружения.

Dolphin 2.7 Mixtral 8X7B AWQ — квантизированная 4-битная версия языковой модели Dolphin 2.7 Mixtral 8X7B, разработанной Cognitive Computations и подготовленной TheBloke. Модель основана на архитектуре Mixtral и предназначена для генерации текста, выполнения инструкций, диалоговых сценариев и задач программирования. При обучении использовались наборы данных Dolphin, Airoboros, Dolphin Coder, OpenHermes, Magicoder, Capybara и другие. Основной язык модели — английский. Модель использует квантизацию AWQ с параметрами 4 бит, group size 128 и форматом GEMM. Максимальная заявленная длина последовательности составляет 8192 токена, размер файлов модели — около 24,65 ГБ. Предусмотрен шаблон запросов ChatML с отдельными ролями system, user и assistant. Квантизация уменьшает требования к памяти и ускоряет инференс при сохранении качества, однако может незначительно влиять на точность по сравнению с исходной версией в формате FP16. Для запуска поддерживаются AutoAWQ, vLLM, Transformers и text-generation-webui; для Mixtral AWQ подтверждена работа vLLM версии 0.2.6. AWQ-версии рассчитаны преимущественно на Linux и Windows с GPU NVIDIA, поэтому на macOS рекомендуется использовать формат GGUF. В README указано, что модель распространяется по лицензии Apache-2.0.

Dolphin 2.9.1 Yi 1.5 34B — диалоговая языковая модель, подготовленная Эриком Хартфордом, Лукасом Аткинсом, Фернандо Фернандесом и командой Cognitive Computations. Это полновесное дообучение базовой модели 01-ai/Yi-1.5-34B с архитектурой семейства Llama и 33,9 млрд параметров. Модель принимает текст и генерирует текст; для диалога используется шаблон ChatML. Контекст при обучении составлял 8 192 токена. Модель предназначена для инструктивных диалогов, написания и анализа кода, решения математических задач, вызова функций и начальных агентных сценариев. В карточке заявлена высокая податливость к запросам: авторы описывают Dolphin как uncensored и рекомендуют добавлять собственный слой выравнивания перед предоставлением модели пользователям. Модель обучалась в том числе на данных, сгенерированных GPT-4. Лицензия Apache 2.0 разрешает коммерческое использование. Модель может выдавать нежелательный или небезопасный контент; качество и безопасность результатов следует оценивать с учётом конкретного применения.

QuantFactory/dolphin-2.9.2-qwen2-7b-GGUF — это квантизированная версия языковой модели Dolphin 2.9.2 Qwen2 7B, созданная с использованием llama.cpp. Модель разработана и обучена Eric Hartford, Lucas Atkins, Fernando Fernandes и командой Cognitive Computations на базе Qwen2-7B. В обучении использовались наборы данных для инструкций, диалогов, программирования, математических задач, function calling и агентных сценариев, включая Dolphin-2.9, OpenHermes-2.5, CodeFeedback-Filtered-Instruction и другие источники. Модель предназначена для генерации текста, выполнения инструкций, ведения диалогов, помощи в программировании, решения математических задач, начальных агентных сценариев и function calling. Она поддерживает контекст до 128k токенов, при этом полновесное дообучение выполнялось с длиной последовательности 16k. Модель является текстовой и рассчитана на использование в формате ChatML; другие модальности в README не заявлены. Языки явно не указаны. К сильным сторонам относятся широкий набор инструкционных, разговорных и кодинговых навыков, поддержка длинного контекста, локальный запуск в формате GGUF и возможность коммерческого использования в рамках условий лицензии Qwen. Модель описана как uncensored: из обучающих данных удалялись alignment и bias, поэтому она может быть более податливой, включая потенциально небезопасные запросы. Разработчики рекомендуют самостоятельно добавить слой выравнивания и фильтрации перед предоставлением модели пользователям; ответственность за создаваемый контент несёт применяющая сторона. Лицензия указана как tongyi-qianwen license, с разрешением на использование, включая коммерческое, при соблюдении её условий.

Dolphin-2.9.3-Mistral-7B-32k-GGUF — это квантизированная версия языковой модели Dolphin-2.9.3-Mistral-7B-32k, созданной Cognitive Computations на базе Mistral-7B-v0.3 от Mistral AI. Репозиторий GGUF подготовлен и квантизирован bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста в диалоговом формате, выполнения инструкций, программирования, решения математических задач, function calling и агентских сценариев. Модель содержит около 7 млрд параметров, работает с текстовой модальностью и поддерживает контекст до 32 000 токенов. Для обучения или дообучения использовались наборы Dolphin-2.9, OpenHermes-2.5, CodeFeedback-Filtered-Instruction, dolphin-coder, samantha-data, Orca Math, Locutusque/function-calling-chatml и Agent-FLAN. README не указывает полный перечень поддерживаемых языков, поэтому языковые возможности нельзя надежно уточнить. Главное преимущество репозитория — широкий выбор GGUF-квантизаций с разным компромиссом между качеством и потреблением памяти: от высококачественных Q8_0 и Q6_K до более компактных вариантов Q4, Q3 и IQ3. Более низкие уровни квантизации экономят память, но могут заметно снижать качество ответов; некоторые варианты отмечены как экспериментальные. Для работы требуется совместимый inference-движок, например llama.cpp. Лицензия — Apache-2.0.

Карточка модели ApocalypseParty/G4-31B-SFT-v6-3 на Hugging Face совпадает с карточкой ApocalypseParty/G4-31B-SFT-v6-2, поэтому описание составлено по ней. ApocalypseParty/G4-31B-SFT-v6-2 — дообученная версия мультимодальной Gemma 4 31B от Google DeepMind. Модель принимает текст и изображения и генерирует текст; её можно использовать для диалога, рассуждений, программирования и анализа визуальных данных, включая распознавание текста в документах, понимание диаграмм и интерфейсов. Поддерживаются вызовы инструментов и длинные контексты; для семейства Gemma 4 31B заявлено до 256K токенов. Gemma 4 обучена работать со многими языками, однако конкретные языки и настройки этого дообучения не описаны. Репозиторий содержит веса Safetensors и использует лицензию Apache 2.0. Карточка не приводит отдельных оценок качества или ограничений именно этой версии.

Карточка модели ArchiveStudio/gemma-4-26B-A4B на Hugging Face совпадает с карточкой vmo247/vmo-gemma-4-26b-a4b-ft, поэтому описание составлено по ней. vmo247/vmo-gemma-4-26b-a4b-ft — мультимодальная модель, дообученная на базе Google Gemma 4 26B A4B. Она построена на архитектуре Gemma 4 для генерации текста по текстовым и графическим запросам и поддерживает диалоговый режим и анализ изображений. Вариант 26B A4B относится к MoE-моделям семейства; для Gemma 4 этого размера заявлено контекстное окно до 256K токенов и поддержка более 140 языков на уровне семейства. Модель подходит для ответов на вопросы по изображениям и документам, распознавания текста на изображениях, анализа графиков и интерфейсов, а также для диалогов, рассуждений, написания и исправления кода. В карточке этой производной модели не приведены отдельные результаты оценки качества; возможности видео и аудио, упомянутые для семейства Gemma 4, не подтверждены для данного 26B-варианта. Распространяется по лицензии Apache 2.0.

Карточка модели Iambackup/gemma-4-26B-A4B на Hugging Face совпадает с карточкой vmo247/vmo-gemma-4-26b-a4b-ft, поэтому описание составлено по ней. vmo247/vmo-gemma-4-26b-a4b-ft — мультимодальная модель, дообученная на базе Google Gemma 4 26B A4B. Она построена на архитектуре Gemma 4 для генерации текста по текстовым и графическим запросам и поддерживает диалоговый режим и анализ изображений. Вариант 26B A4B относится к MoE-моделям семейства; для Gemma 4 этого размера заявлено контекстное окно до 256K токенов и поддержка более 140 языков на уровне семейства. Модель подходит для ответов на вопросы по изображениям и документам, распознавания текста на изображениях, анализа графиков и интерфейсов, а также для диалогов, рассуждений, написания и исправления кода. В карточке этой производной модели не приведены отдельные результаты оценки качества; возможности видео и аудио, упомянутые для семейства Gemma 4, не подтверждены для данного 26B-варианта. Распространяется по лицензии Apache 2.0.

mewse/gemma-4-26B-A4B-it-qat-q4_0-unquantized-heretic-ara — текстово-визуальная чат-модель на основе Google Gemma 4 26B A4B IT, изменённая автором репозитория как uncensored/abliterated вариант. Она принимает текст и изображения и генерирует текст; подходит для диалогов, анализа изображений и документов, распознавания текста на изображениях, программирования, суммаризации и задач с вызовом инструментов. Базовая Gemma 4 использует гибридное внимание с локальными скользящими окнами и глобальными слоями; для варианта 26B A4B README указывает контекст до 256K токенов и поддержку более 35 языков. Заявленные для семейства возможности аудио относятся к E2B, E4B и 12B, поэтому не приписываются этой модели. Возможны фактические ошибки, предвзятость и трудности с неоднозначными запросами; uncensored/abliterated-модификация может ослаблять встроенные ограничения безопасности. Лицензия — Apache-2.0.

GigaChat 3 Ultra Preview — флагманская instruct-модель семейства GigaChat, представленная в карточке как разработка команды GigaChat. Это большая языковая модель для диалогов и генерации текста, включая задачи по коду и математике. В README описана MoE-архитектура с 702 млрд общих и 36 млрд активных параметров, механизмами Multi-head Latent Attention (MLA) и Multi-Token Prediction (MTP). Метаданные каталога указывают архитектуру DeepSeek-V3 и 39,4 млрд параметров; эти сведения расходятся с описанием архитектуры и размера в README. Заявлены обучение на данных десяти языков, включая китайский, арабский, узбекский и казахский, а также русские и английские теги карточки. Контекст составляет 131 072 токена. Модель ориентирована на кластерное и on-prem-развёртывание; README указывает поддержку BF16 и отдельную FP8-сборку, а также движков vLLM, SGLang, LMDeploy и TensorRT-LLM. MLA предназначен для снижения затрат на KV-кэш, MTP — для ускорения генерации. Лицензия — MIT. Это preview-версия; для развёртывания требуются значительные вычислительные ресурсы.

unsloth/GLM-4-32B-0414-GGUF — это квантизированная GGUF-версия языковой модели GLM-4-32B-0414, разработанной командой THUDM и подготовленной Unsloth для локального запуска. Модель относится к классу text-generation и предназначена для диалогов, следования инструкциям, генерации инженерного кода, создания интерактивных артефактов, function calling, поиска по документам и подготовки отчётов. Модель содержит 32 миллиарда параметров и обучалась на 15 триллионах единиц высококачественных данных, включая синтетические материалы для задач рассуждения. На этапе дообучения применялись выравнивание по человеческим предпочтениям, rejection sampling и reinforcement learning, что улучшило следование инструкциям, программирование и работу с агентскими сценариями. Заявлена поддержка китайского и английского языков. Мультимодальность и размер контекстного окна в карточке не указаны. Сильными сторонами модели являются развитые способности к генерации кода, function calling, ответам на вопросы с использованием поиска и созданию отчётов; авторы также заявляют сопоставимую с более крупными моделями производительность на отдельных тестах. GGUF ориентирован на удобное локальное развёртывание, в частности через llama.cpp; для корректной обработки системного промпта рекомендуется использовать параметр --jinja. Лицензия — MIT. Конкретный уровень квантизации, требования к аппаратным ресурсам и ограничения качества для отдельных сценариев в README не указаны.

HauhauCS-Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive — модифицированная версия Qwen3.6-35B-A3B, разработанная HauhauCS. Модель предназначена для диалогов, генерации текста, рассуждений, программирования и мультимодальных сценариев с обработкой текста, изображений и видео. Ключевая особенность Aggressive-варианта — удаление отказов при сохранении заявленных возможностей исходной модели; по данным README, модель не отказывает в ответах, хотя иногда может добавлять короткие дисклеймеры. Модель использует гибридную MoE-архитектуру: 35 млрд общих параметров, около 3 млрд активных параметров на один проход, 256 экспертов и 8 маршрутизируемых экспертов на токен. Архитектура включает линейное и полное softmax-внимание в соотношении 3:1, 40 слоёв и нативный контекст до 262 тысяч токенов. Заявлена поддержка английского, китайского и других многоязычных сценариев. Доступны GGUF-квантизации Q2–Q8, включая пользовательские K_P-варианты, оптимизированные с помощью importance matrix; размер файлов составляет примерно от 11 до 44 ГБ. Для работы с изображениями требуется отдельный файл mmproj. Сильными сторонами являются большой контекст, низкое число активных параметров для MoE-модели, мультимодальность, широкий выбор квантизаций и отсутствие встроенных отказов. Ограничения включают высокие требования к памяти, возможное появление дисклеймеров, зависимость качества от выбранной квантизации и необходимость корректной настройки runtime; для llama.cpp рекомендуется использовать флаг --jinja и не менее 128 тысяч токенов контекста для сохранения возможностей рассуждения. Модель распространяется по лицензии Apache-2.0.

Hermes 3 405B — большая языковая модель общего назначения от Nous Research, созданная полным дообучением Meta-Llama-3.1-405B. Она рассчитана на диалог с ассистентом, следование инструкциям, рассуждения, ролевые сценарии, генерацию кода и работу с инструментами. Модель поддерживает многошаговые беседы и контекст до 131 072 токенов; для диалога используется формат ChatML, также предусмотрены вызовы функций и структурированный вывод JSON. Модель содержит около 403,7 млрд параметров, использует плотную архитектуру Llama и распространяется в формате Safetensors. Для запуска полной версии в FP16 требуется более 800 ГБ видеопамяти; в README также упоминается отдельная FP8-квантизация NeuralMagic для VLLM, требующая около 430 ГБ. Лицензия — Llama 3.1 Community License (llama3). Карточка позиционирует Hermes 3 как модель общего назначения с улучшенными агентными возможностями, управляемостью и генерацией кода.

Карточка модели stapspop/Hermes-3-Llama-3.1-405B на Hugging Face совпадает с карточкой NousResearch/Hermes-3-Llama-3.1-405B, поэтому описание составлено по ней. Hermes 3 405B — большая языковая модель общего назначения от Nous Research, созданная полным дообучением Meta-Llama-3.1-405B. Она рассчитана на диалог с ассистентом, следование инструкциям, рассуждения, ролевые сценарии, генерацию кода и работу с инструментами. Модель поддерживает многошаговые беседы и контекст до 131 072 токенов; для диалога используется формат ChatML, также предусмотрены вызовы функций и структурированный вывод JSON. Модель содержит около 403,7 млрд параметров, использует плотную архитектуру Llama и распространяется в формате Safetensors. Для запуска полной версии в FP16 требуется более 800 ГБ видеопамяти; в README также упоминается отдельная FP8-квантизация NeuralMagic для VLLM, требующая около 430 ГБ. Лицензия — Llama 3.1 Community License (llama3). Карточка позиционирует Hermes 3 как модель общего назначения с улучшенными агентными возможностями, управляемостью и генерацией кода.

NVIDIA Muse-Glimmer-30B NVFP4 — квантизированная версия модели Muse-Glimmer-30B, разработанной Meta Superintelligence Lab. NVIDIA подготовила квантизацию с помощью Model Optimizer; сама NVIDIA указывает, что не владеет и не разрабатывала исходную модель. Это плотный авторегрессионный causal Transformer с выделенным perception encoder для обработки чередующихся текстовых и графических входов. Модель предназначена для локальных агентных сценариев: многошагового рассуждения и планирования, coding agents, автономных систем, использования инструментов, восстановления после ошибок и мультимодального анализа. Она принимает текст и RGB-изображения, поддерживает контекст до 131K токенов и до 4 096 визуальных токенов на изображение. Модель может интерпретировать скриншоты, графики и документы в контексте диалога, генерируя текстовые ответы. Доступны уровни интенсивности рассуждения low, medium, high и xhigh, позволяющие выбирать баланс между качеством и скоростью. Модель содержит около 29,6 млрд параметров с учётом vision encoder и использует формат квантизации NVFP4 1.0, выполненной с помощью nvidia-modelopt v0.46.0. Поддерживаются vLLM и SGLang, а целевыми платформами являются NVIDIA Blackwell B200, B300 и DGX Spark под Linux. Видео не оптимизировано напрямую и обрабатывается как последовательность отдельных кадров; сведения о языках, исходных обучающих данных и их объёме не раскрыты. Для коммерческого и некоммерческого использования указана лицензия Apache 2.0, однако перед развёртыванием требуется дополнительное тестирование на данных конкретного сценария.

Nexa-AI-4x4B-Instruct — мультиязычная инструктивная языковая модель, совместно разработанная Neura Tech AI и Lumina AI на архитектурной основе Qwen3. Это модель семейства Qwen3 с разреженной архитектурой Mixture of Experts; в README описаны четыре эксперта примерно по 4 млрд параметров и около 4 млрд активных параметров на токен, тогда как метаданные указывают 3,7 млрд параметров в репозитории. Контекст составляет до 262 144 токенов. Модель предназначена для диалогов и следования инструкциям, рассуждений, математики, помощи в программировании, работы с длинными документами и вызова инструментов во внешних агентных сценариях. В карточке заявлена поддержка английского, хинди, китайского, урду и других языков; метаданные также содержат теги санскрита, каннада и маратхи. Доступна под лицензией Apache-2.0. Заявления о производительности приведены в README; независимые результаты здесь не подтверждены.

ibrahimkettaneh/Qwen2.5-72B-Instruct-abliterated-AWQ — производная версия Qwen2.5-72B-Instruct, опубликованная пользователем Ibrahim Kettaneh на Hugging Face. Исходную модель разработала команда Qwen компании Alibaba Cloud. Репозиторий содержит веса в формате Safetensors, квантизированные методом AWQ до 4 бит, и предназначен для локального запуска текстовой генерации и диалоговых приложений на совместимом оборудовании. Отдельная карточка модели для этого производного репозитория отсутствует, поэтому сведения о специфических изменениях, внесённых в вариант «abliterated», не задокументированы надёжно. Архитектурно это causal language model семейства Qwen2.5 с примерно 72,7 млрд параметров, 80 слоями, RoPE, SwiGLU, RMSNorm и grouped-query attention: 64 головы для Q и 8 для KV. Исходная instruction-tuned модель поддерживает генерацию текста, следование инструкциям, программирование, математику, структурированные данные и JSON; заявлена поддержка более 29 языков, включая русский. Полный контекст составляет до 131 072 токенов, а рекомендуемая длина генерации — до 8192 токенов; для очень длинного контекста требуется настройка YaRN. К сильным сторонам относятся большой масштаб, развитые способности к рассуждению, коду и обработке длинного контекста, а 4-битная AWQ-квантизация уменьшает требования к памяти по сравнению с полноразмерными весами. Ограничения — высокая вычислительная требовательность даже после квантизации, возможное снижение качества из-за квантизации и отсутствие надёжно опубликованных оценок именно этого варианта. На странице производного репозитория отдельная лицензия не указана; у исходной Qwen2.5-72B-Instruct указана лицензия Qwen, поэтому условия использования следует проверять по лицензии исходной модели и файлам конкретного репозитория.

Qwen3-30B-A3B-FP8-block — квантизированная версия языковой модели Qwen3-30B-A3B, разработанная Red Hat. Это текстовая модель для генерации текста, диалоговых сценариев, решения задач общего характера и программирования. Модель построена на архитектуре Qwen3MoeForCausalLM и работает с текстом на входе и выходе; сведения о поддерживаемых языках и максимальной длине контекста в карточке не указаны. В модели применена FP8-квантизация весов и активаций линейных операторов внутри трансформерных блоков с пок блочной квантизацией весов и динамической токен-ориентированной квантизацией активаций. Квантизация снижает представление параметров с 16 до 8 бит и примерно на 50% уменьшает размер модели на диске и требования к видеопамяти. Исходная модель имеет обозначение 30B-A3B; более подробные сведения о числе активных параметров и конфигурации MoE в README не приведены. По результатам оценки на OpenLLM и наборах для генерации кода FP8-версия сохраняет близкую к исходной точность: средний результат OpenLLM V1 составил 73,52 против 73,75 у исходной модели. Основные преимущества — снижение требований к памяти и возможность развертывания через vLLM, включая использование tensor parallelism. Ограничения — возможная потеря точности из-за квантизации, отсутствие данных о языковом покрытии и контексте, а также необходимость совместимой инфраструктуры для эффективного запуска. Модель распространяется по лицензии Apache-2.0.

Qwen3-30B-A3B-Thinking-2507-FP8 — языковая модель семейства Qwen, разработанная командой Qwen. Это FP8-версия причинной языковой модели с обучением на этапах pretraining и post-training, предназначенная для генерации текста и решения сложных задач, требующих рассуждений. Модель ориентирована на логическое и математическое рассуждение, научные и академические задачи, программирование, следование инструкциям, использование инструментов и работу с длинным контекстом. Она поддерживает только thinking mode, поэтому рассчитана прежде всего на сложные запросы с увеличенной длиной рассуждений. README не указывает точный список поддерживаемых языков и не заявляет о мультимодальных возможностях, поэтому модель следует считать текстовой. Архитектура — Mixture-of-Experts с 30,5 млрд параметров всего и 3,3 млрд активируемых параметров; модель содержит 48 слоёв, 128 экспертов, из которых активируются 8, и использует Grouped-Query Attention с 32 головами Q и 4 головами KV. Нативная длина контекста составляет 262 144 токена. К сильным сторонам относятся улучшенные результаты в рассуждениях, математике, кодировании, агентных сценариях и обработке длинного контекста. Ограничения включают режим работы только с рассуждениями, высокие требования к вычислительным ресурсам и необходимость актуальной версии Transformers; конкретные аппаратные требования в README не приведены. Модель распространяется по лицензии Apache 2.0.

Qwen3.8-27B-NVFP4 — это квантизированная версия модели Qwen3.8-27B, разработанной командой Qwen. Квантизацию выполнила A2Genesis с использованием NVIDIA TensorRT Model Optimizer 0.45 и рецепта для семейства qwen3_5. Модель предназначена для генерации текста, рассуждений, программирования, работы с инструментами и сценариев image-text-to-text, включая обработку изображений при наличии соответствующей инфраструктуры. Модель использует смешанную точность: проекции MLP и lm_head представлены в NVFP4 с форматом W4A16, проекции внимания — в FP8, KV-кэш — в FP8, а vision tower, MTP head и отдельные свёрточные и gating-слои сохранены в BF16. Размер контрольной точки составляет около 21 ГБ вместо примерно 55 ГБ у BF16-версии. Доступен контекст до 262144 токенов при обслуживании через vLLM, а сохранение MTP-тензоров позволяет применять speculative decoding. Языки в README не указаны. Сильные стороны модели — существенно меньший размер, поддержка высокопроизводительного инференса на GPU Blackwell, совместимость с vLLM, инструментальными вызовами и сохранение мультимодальных компонентов. Ограничения связаны с потерями и возможными особенностями качества, характерными для посттренировочной квантизации; на видеокартах более ранних архитектур NVFP4 загружается через поддержку ModelOpt, но преимущества производительности могут быть ниже. Это общественная квантизация от A2Genesis, не связанная с официальной поддержкой Qwen или NVIDIA. Модель распространяется по лицензии Apache 2.0, унаследованной от базовой модели Qwen3.8-27B.

hamishivi/Qwen3-8B — дообученная версия Qwen3-8B-Base с изменённым шаблоном чата, который сохраняет промежуточные рассуждения. Это плотная авторегрессионная языковая модель семейства Qwen3 на 7,6 млрд параметров, рассчитанная на генерацию текста и диалог; репозиторий использует Transformers и формат safetensors. Модель подходит для ответов на инструкции, многошаговых рассуждений, решения математических задач, генерации кода, перевода и многоязычного диалога. Она поддерживает переключение режимов рассуждения и обычного ответа, а интерфейс чата допускает интеграцию с инструментами. Метаданные указывают контекст до 40 960 токенов; README описывает 32 768 токенов штатно и до 131 072 с YaRN. В README заявлена поддержка более 100 языков и диалектов. Ограниченный объём карточки не содержит отдельной оценки качества именно этой модификации шаблона. Модель распространяется по лицензии Apache-2.0.

Ternary-Bonsai-2-27B-mlx-2bit — производная от Qwen/Qwen3.8-27B модель Prism ML для генерации текста, диалогов и рассуждений. Это плотная гибридная трансформерная архитектура с 27,36 млрд параметров: языковая часть использует линейное и полное внимание, SwiGLU, RoPE и RMSNorm; в комплект также входит башня зрения. Весы языковой модели представлены значениями −1, 0 и +1 с групповым масштабированием и вращением Адамара, тогда как башня зрения не квантизирована. Репозиторий весит 8,60 ГБ и предназначен для запуска через MLX на устройствах Apple, включая локальные сценарии без сети; заявленная длина контекста — 262 тысячи токенов. Модель рассчитана на локальных диалоговых и агентных помощников, анализ длинных документов и репозиториев кода, математические рассуждения и вызов инструментов. Разработчик сообщает о сохранении 98,2% среднего результата FP16 на 14 тестах и скорости около 47 токенов в секунду на ноутбуке с Apple M5 Max; показатели производительности зависят от оборудования и runtime. Основное ограничение — небольшая потеря качества по сравнению с полной точностью, а низкобитные ядра могут работать медленнее на некоторых GPU. Лицензия — Apache-2.0.

Apollo-1-8B — инструкция-дообученная языковая модель, разработанная Noema Research на базе Qwen3-8B. Это плотный decoder-only трансформер примерно на 7,6 млрд параметров для генерации текста, диалога, рассуждений, выполнения инструкций и написания кода; модель поддерживает интерфейс вызова инструментов. Заявленная длина контекста — до 40 960 токенов по метаданным Hugging Face. Модель предназначена для многошагового решения задач, разговорных помощников, обучения и помощи в разработке программного обеспечения. В карточке заявлена поддержка множества языков, включая английский, русский и другие европейские и азиатские языки. Репозиторий содержит веса в формате Safetensors. В README указана лицензия anvdl-1.0, тогда как метаданные классифицируют лицензию как other. Карточка сообщает об улучшенном следовании инструкциям и рассуждениях относительно Apollo-1-4B, но полный отчет о тестировании ещё не опубликован. Модель может ошибаться, особенно в специализированных областях, чувствительна к формулировке запроса и уступает более крупным моделям на особенно сложных задачах. Для критически важных решений требуется проверка человеком.

jondurbin/bagel-dpo-34b-v0.5 — диалоговая языковая модель, созданная дообучением Yi-34B-200K с помощью supervised fine-tuning и Direct Preference Optimization (DPO). Это плотная авторегрессионная модель семейства Llama с 33,9 млрд параметров и контекстным окном до 200 000 токенов. Модель предназначена для чата и широкого круга текстовых инструкций. Модель обучалась на данных для вопросов и ответов, рассуждений, программирования, математики, естественных наук, суммаризации, ролевого диалога и вызова функций. В карточке заявлены наборы данных для английских и многоязычных задач, однако основной язык модели отдельно не обозначен. Поддерживаются несколько форматов запросов: Vicuna, Llama 2, Alpaca и модифицированный ChatML; шаблон по умолчанию — Llama 2. DPO-настройка направлена на улучшение предпочтительности ответов, а дополнительные данные охватывают творческое письмо, следование контексту, код и правдивость. Среди обучающих данных также есть примеры токсичного контента и offensive cybersecurity. Это может отражаться на генерируемых ответах; модель может ошибаться и не гарантирует достоверность или безопасность. Лицензия указана как other, поэтому условия использования следует уточнить на странице модели.

cyberneurova-gemma-4-26B-A4B-GGUF — квантизированная GGUF-версия модели cyberneurova-gemma-4-26B-A4B, разработанная CyberNeurova на базе google/gemma-4-26B-A4B. Модель предназначена для локального и self-hosted развертывания, генерации текста, диалоговых сценариев, программирования, tool calling, агентных приложений и задач, где требуется режим рассуждений. Она также поддерживает обработку изображений и относится к мультимодальным моделям. Архитектура модели — Gemma-4 MoE (mixture-of-experts): всего 26 млрд параметров, из которых при обработке активны 4 млрд. Доступны варианты квантизации от 2 до 8 бит, включая специализированный MXFP4_MOE; рекомендуемым универсальным вариантом указан Q4_K_M. Файлы рассчитаны на использование с llama.cpp и Ollama. В README приведён пример контекста 32 768 токенов, однако не уточняется, является ли это максимальным размером контекста модели. Ключевая особенность сборки — abliteration, то есть удаление из весов направления, связанного с типичным отказным поведением. Поэтому у модели снижены встроенные ограничения безопасности, и она может отвечать на запросы, которые стандартная Gemma-4 отклоняет. Это может быть полезно для red teaming, исследований безопасности, разработки управляемых агентов и контролируемых локальных ассистентов, но повышает риск вредоносных или небезопасных результатов; для публичного доступа рекомендуется прикладная модерация. Указан английский язык. Распространение осуществляется по Gemma Terms of Use; ответственность за соблюдение законодательства и условий лицензии несёт оператор.

DeepSeek-R1-Distill-Llama-70B — плотная авторегрессионная языковая модель семейства Llama, разработанная DeepSeek и дообученная на примерах рассуждений, сгенерированных DeepSeek-R1. Она предназначена для диалогов и задач, требующих многошагового анализа: решения математических задач, программирования и ответов на сложные вопросы. Модель содержит 69,5 млрд параметров и поддерживает контекст до 131 072 токенов. Модель принимает текст и генерирует текст; в метаданных также заявлен интерфейс для вызова инструментов. Карточка сообщает о результатах серии дистиллированных моделей на математических, кодовых и научных тестах, но не приводит отдельные показатели именно для версии Llama-70B. Репозиторий распространяется по лицензии MIT. README отмечает, что настройки токенизатора и конфигурации были изменены, и рекомендует использовать настройки DeepSeek для запуска.

winterthurquants/DeepSeek-V4-Pro-DSpark — это вариант чекпойнта DeepSeek-V4-Pro с подключённым модулем спекулятивного декодирования DSpark; README уточняет, что это не новая модель. Семейство разработано DeepSeek и предназначено для генерации текста, диалога, рассуждений, программирования, планирования и агентных сценариев. Каталог указывает 44,9 млрд параметров, плотную архитектуру DeepseekV4ForCausalLM и формат safetensors FP8; README описывает для семейства гибридное внимание CSA/HCA и контекст до 1 048 576 токенов. Модель поддерживает режимы ответа без рассуждений и с повышенным усилием рассуждения. DSpark предназначен для ускорения вывода посредством спекулятивного декодирования; README приводит пример запуска через vLLM. В карточке не перечислены языки, поэтому языковой охват конкретного чекпойнта не уточняется. Лицензия — MIT. README описывает существенно более крупную MoE-версию DeepSeek-V4-Pro с 1,6 трлн параметров, что расходится с каталоговыми метаданными данного репозитория; характеристики размера и архитектуры в описании приведены по метаданным каталога.