I.1Поиск и навигация по информации

Qwen35B-Agent-R2-i1-GGUF — квантизированная GGUF-версия модели Qwen35B-Agent-R2, подготовленная mradermacher. Базовая модель разработана автором или организацией hotdogs; точная информация о разработчике в README не указана. Модель предназначена для генерации текста, диалоговых сценариев, reasoning, агентских задач, использования инструментов и tool calling. Обучение или дообучение связано с датасетами для рассуждений, агентскими траекториями и conversational-задачами. Модель относится к архитектуре Mixture-of-Experts и имеет заявленный размер 35B, поддерживает текстовый ввод и вывод. В метаданных указаны английский и тайский языки. Модель распространяется в виде набора квантизаций GGUF с разным компромиссом между размером, скоростью и качеством: от IQ1_S размером 7,6 ГБ до Q6_K размером 28,6 ГБ. Варианты IQ-квантизации могут быть предпочтительнее сопоставимых обычных вариантов по размеру, но низкобитные версии заметно ограничены по качеству. Оптимальными по соотношению размера, скорости и качества README называет i1-Q4_K_S, а i1-Q4_K_M — быстрой и рекомендуемой. В README не указаны размер контекстного окна, точные параметры архитектуры, мультимодальные возможности и результаты бенчмарков, поэтому нельзя сделать выводы об этих характеристиках. Лицензия модели — AGPL-3.0; условия использования производных квантизированных файлов следует учитывать вместе с лицензией базовой модели.

philbert440/Qwen3.6-40B-DeckardUncensored-OpusDistilled-HermesCalibrated-W4A16-AWQ — мультимодальная vision-language модель семейства Qwen3.6, разработанная philbert440. Она предназначена для генерации текста по текстовым и визуальным входным данным, а также для сценариев с использованием инструментов и function calling. Модель относится к коллекции Deckard-40B Uncensored и прошла Hermes-калибровку для задач работы с инструментами. Модель имеет размер 40B параметров и использует 4-битное квантование весов W4A16-AWQ с FP16-активациями и форматом compressed-tensors. Указана совместимость с 1Cat-vLLM на Tesla V100 с архитектурой SM70, включая режим TurboMind, а также со стандартным vLLM на GPU Ampere и новее. README не содержит сведений о поддерживаемых языках и максимальной длине контекста. К сильным сторонам относятся мультимодальность, поддержка tool use и function calling, а также возможность запуска крупной модели в квантованном формате на ограниченных GPU-ресурсах. Модель позиционируется как abliterated, то есть из неё удалены отказы, связанные с механизмами безопасности; это может расширять диапазон ответов, но повышает риски небезопасного или неправомерного использования и требует самостоятельного контроля со стороны пользователя. Модель распространяется по лицензии Apache-2.0.

YFC-112358 создал эту плотную модель семейства Qwen объёмом 27 млрд параметров с помощью трёхэтапного слияния весов. В рецепте DELLA и линейная арифметика задач объединяют несколько моделей на базе Qwen3.6, после чего полученное изменение весов переносится на Cold-Fusion-GAIN-V1.1 на базе Qwen3.8. Репозиторий содержит веса safetensors и использует библиотеку Transformers; модель лицензирована по Apache-2.0. Модель предназначена для диалоговой генерации текста и может использоваться как ассистент для ответов и многошаговых запросов. В метаданных также заявлен интерфейс для вызова инструментов. Несмотря на мультимодальную архитектуру Qwen и наличие визуальной башни у базового семейства, README этой версии описывает прежде всего слияние весов и не подтверждает отдельно качество обработки изображений или видео. Главное ограничение — перенос прироста весов между поколениями Qwen3.6 и Qwen3.8: автор отмечает, что архитектуры совпадают по размерам, но это не гарантирует совместимость представлений, и модель может работать хуже без явной ошибки. Автор приводит значение cold_amp 0,1217 и считает его совместимым с продолжением обучения на общей базе, однако предупреждает, что базовые веса Cold-Fusion могли измениться, что затрудняет точное воспроизведение.

Это репозиторий весов unsloth для мультимодальной модели Qwen3-VL-4B-Thinking, разработанной на основе Qwen3-VL компанией Qwen и представленной Unsloth с исправлениями шаблона чата. Модель сочетает обработку текста и изображений и предназначена для диалога, визуального анализа и рассуждений; заявлены также понимание видео, OCR и взаимодействие с инструментами. Архитектура — плотная Qwen3-VL для условной генерации, веса сохранены в safetensors и используются через Transformers. В README заявлены контекст длиной 256 тысяч токенов с возможностью расширения до миллиона, визуальное рассуждение, распознавание элементов интерфейса и разбор документов; также указана поддержка OCR на 32 языках. Модель может быть полезна для вопросов по изображениям и видео, извлечения текста из документов и визуально обусловленного диалога. Репозиторий распространяется по лицензии Apache-2.0. Заявления README о сравнительном качестве и характеристиках являются описанием разработчика; независимые результаты измерений в карточке не приведены.

Qwen-SEA-LION-v4-32B-IT — инструктивная языковая модель AI Singapore, разработанная командой AI Products Pillar при финансировании NRF Сингапура. Это плотная авторегрессионная модель семейства Qwen3 с 29,7 млрд параметров, дообученная на базе Qwen/Qwen3-32B. После продолженного предобучения примерно на 100 млрд токенов из корпуса SEA-Pile v2 модель прошла постобучение на примерно 8 млн пар вопросов и ответов. Модель предназначена для диалога и выполнения инструкций, включая ответы на вопросы, суммаризацию, перевод, анализ тональности и рассуждения. Она ориентирована на языки Юго-Восточной Азии и также поддерживает английский и китайский. Метаданные указывают контекст до 40 960 токенов; README приводит нативный контекст 32 768 токенов. Модель распространяется под лицензией MIT. В README описаны оценки на наборах SEA-HELM, SEA-IFEval и SEA-MTBench для языковых задач, следования инструкциям и многоходового диалога. Модель может галлюцинировать и выдавать нерелевантные или непоследовательные ответы; она не настроена на безопасность и не проверялась на устойчивость к состязательным запросам. Для прикладного использования следует самостоятельно оценить качество и настроить защитные меры.

Shisa V2 405B — универсальная чат-модель Shisa.AI, дообученная на основе Meta Llama 3.1 405B Instruct. Это плотная авторегрессионная языковая модель на 403,7 млрд параметров с контекстом до 131 072 токенов; она принимает текст и генерирует текст, поддерживает чат и интерфейс вызова инструментов. Основной упор сделан на японский язык при сохранении сильных возможностей на английском; в обучающие данные также включены примеры на корейском и традиционном китайском. Модель предназначена для диалога, выполнения инструкций, генерации текста и перевода, в том числе для японских задач. Разработчик сообщает об улучшении японских результатов относительно базовой модели и приводит сравнительные оценки на нескольких бенчмарках; результаты зависят от методики оценки. Для запуска проверены vLLM и SGLang, а веса опубликованы в формате Safetensors. Модель распространяется по лицензии Llama 3.1. Она требует значительных вычислительных ресурсов из-за размера в 405 млрд параметров; заявленные результаты бенчмарков не гарантируют качество на конкретных задачах, а основной акцент обучения сделан на японском и английском языках.

T5 Version 1.1 Large — Google разработала эту предварительно обученную языковую модель архитектуры T5 с 385,2 млн параметров. Она преобразует текст в текст и предназначена для последующей настройки под конкретные задачи обработки естественного языка, например суммаризацию, ответы на вопросы и классификацию текста. В версии 1.1 используется активация GEGLU вместо ReLU, отключён dropout при предварительном обучении, а слой эмбеддингов не разделяет параметры с классификатором. Модель предварительно обучена только на корпусе C4 без обучения на размеченных задачах; перед применением её нужно дообучить. Доступны веса в форматах PyTorch, TensorFlow и Flax. Указанный язык — английский. Модель распространяется по лицензии Apache-2.0. README не приводит отдельных оценок качества для этого размера модели; результаты зависят от последующего дообучения на целевой задаче.

Модель see-k/unsloth_finetune — дообученная see-k версия DeepSeek-OCR, обученная с использованием Unsloth и библиотеки TRL от Hugging Face. Это мультимодальная модель семейства DeepseekOCR с архитектурой DeepseekOCRForCausalLM и примерно 559,7 млн параметров. Она предназначена для работы с изображениями и текстом в сценариях распознавания текста и извлечения содержимого из изображений документов; также поддерживает диалоговый режим. Указанная длина контекста — 8192 токена. Репозиторий содержит веса в форматах safetensors и GGUF F16. Лицензия — Apache-2.0.

Zelensky — экспериментальная командная модель V1, созданная автором nisten на основе семейства Qwen2.5. По карточке, модель обучали один проход с низкой скоростью обучения и многократно объединяли с тремя другими моделями; метаданные также указывают связь merge с Qwen/Qwen2.5-72B-Instruct и другими вариантами Qwen2.5 и ChatWaifu. Это плотная причинно-языковая архитектура Qwen2 с 76,7 млрд параметров и контекстом до 98 304 токенов. Модель предназначена для диалогов и генерации текста; каталог также отмечает интерфейс вызова инструментов. В карточке упоминаются прогоны GPQA Diamond Zero-shot на LM Eval Harness, но результаты оценки не приведены. Указана лицензия MIT, а автор отдельно отмечает, что продолжает действовать лицензия Qwen.

AtlasCloud/DeepSeek-V4-Flash-Vision-Exp-FP8-DSpark — экспериментальная мультимодальная модель семейства DeepSeek-V4, разработанная на базе DeepSeek-V4-Flash-Vision-Exp. Репозиторий содержит преобразованную версию официальных весов с FP4 для маршрутизируемых экспертов в формат FP8 e4m3 с блоковым масштабированием 128×128 ue8m0; плотные слои, общие эксперты, токенизатор и конфигурации DSpark и зрения сохранены без изменений. Модель распространяется как готовый checkpoint для Hugging Face и предназначена для запуска через SGLang или встроенную эталонную реализацию. Модель поддерживает обработку текста и изображений и ориентирована на мультимодальное понимание, агентские сценарии, работу с инструментами, графиками и визуальными данными, сохраняя сопоставимую производительность в текстовых агентских задачах. В README указано использование архитектурных компонентов vision encoder, aligner, DFlash attention, MoE, Hyper-Connections и DSpark forward path. Точный размер модели, окно контекста и перечень поддерживаемых языков не указаны. Ключевое свойство этой версии — lossless-преобразование экспертных весов в FP8 без дополнительного этапа конвертации при развертывании. Для запуска требуется совместимая конфигурация SGLang и отключение FP4-пути экспертов; конкретные требования к оборудованию не приведены. Модель распространяется по лицензии MIT.

ERNIE-4.5-21B-A3B-PT — текстовая MoE-модель Baidu для генерации и понимания языка в диалоговом режиме. Суффикс PT обозначает веса для PyTorch и Transformers; модель также можно запускать через vLLM. В README указаны 21 млрд параметров всего и около 3 млрд активных параметров на токен, а метаданные каталога содержат оценку 3,3 млрд параметров. Модель использует архитектуру ERNIE 4.5 MoE и поддерживает контекст до 131 072 токенов. Модель предназначена для генерации ответов и ведения диалога на китайском и английском языках. Семейство ERNIE 4.5 обучалось на текстовых и визуальных данных, однако этот вариант в README обозначен как текстовый и не заявлен как модель для обработки изображений. Репозиторий содержит веса safetensors и использует библиотеку Transformers. Лицензия — Apache-2.0. README указывает требования к версиям Transformers и vLLM для запуска; конкретные ограничения качества или известные слабые стороны этой версии не описаны.

Experiment26Neuralsirkrishna_Experiment26Strangemerges_30 — объединённая автором репозитория модель на архитектуре Mistral с 7,1 млрд параметров. Веса объединены из automerger/Experiment26Neuralsirkrishna-7B и automerger/Experiment26Strangemerges_30-7B. Модель предназначена для генерации текста и диалогов. Она принимает текст и может обрабатывать контекст длиной до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

pytorch/gemma-3-27b-it-FP8 — модель, разработанная PyTorch и полученная квантованием google/gemma-3-27b-it. Это instruction-tuned модель для генерации текста в формате диалога, ответов на вопросы и общего языкового взаимодействия. README также указывает возможность мультимодальной оценки на задаче ChartQA, однако подробные сведения о поддерживаемых типах входных данных не приведены. Модель использует квантование FP8 с динамическими активациями и весами FP8; размер базовой модели составляет 27B параметров. Указан английский язык. Доступны режимы с рассуждением и без него, а для запуска предусмотрена интеграция с vLLM и Transformers. В приведённых проверках версия FP8 показала близкие к исходной модели результаты: 76,20 против 76,48 на MMLU и 51,32 против 51,80 на мультимодальном ChartQA. Для работы требуются актуальные версии vLLM, torchao или Transformers, а также GPU-окружение; README отмечает необходимость отключения compile cache в vLLM из-за проблем совместимости. Модель распространяется по лицензии Apache-2.0.

mkurman/GLM-4.7-Flash-SynthLabs — дообученная и объединённая с базовой моделью версия GLM-4.7-Flash, опубликованная mkurman. Модель семейства glm4_moe_lite предназначена для диалоговой генерации текста; в метаданных также заявлен интерфейс вызова инструментов. Она содержит 4,1 млрд параметров, поддерживает контекст до 202 752 токенов и распространяется в формате Safetensors. Карточка сообщает, что модель обучалась с использованием Unsloth и библиотеки TRL от Hugging Face. Указанная в метаданных лицензия — MIT; README при этом указывает Apache-2.0, поэтому условия лицензирования требуют уточнения. Язык карточки — английский, а базовая GLM-4.7-Flash описана как модель для рассуждений и программирования, но конкретная специализация этой версии не раскрыта.

InternVL-Chat-V1-2 — мультимодальная большая языковая модель от OpenGVLab для диалога по изображениям и тексту. Она объединяет vision-энкодер InternViT-6B-448px-V1-2, MLP-проектор и языковую модель Nous-Hermes-2-Yi-34B; общее число параметров — 40 млрд. Модель опубликована в формате safetensors и предназначена для запуска через Transformers с поддержкой пользовательского кода модели. Модель отвечает на вопросы об изображениях, описывает их и обрабатывает визуальные инструкции. В обучающие данные включены примеры OCR, диаграмм, графиков, документов и научных иллюстраций; также поддерживается обычный текстовый диалог. Изображения обрабатываются с размером 448 × 448 пикселей и представляются 256 визуальными токенами. Карточка характеризует языковую часть как многоязычную, но не перечисляет конкретные языки. В README приведены сравнительные результаты на наборах тестов для визуальных вопросов и понимания изображений. Для запуска нужны значительные вычислительные ресурсы, соответствующие модели на 40 млрд параметров. В README отдельно предупреждают, что 4-битная квантизация BNB может привести к потере понимания изображений и бессмысленным ответам. Лицензия модели — MIT.

Carnice-V3-GGUF — это квантизированная GGUF-версия модели Carnice-V3, разработанной kai-os и подготовленной bartowski с использованием llama.cpp. Модель рассчитана на задачи генерации текста, агентские сценарии и взаимодействие с инструментами; в метаданных также указана поддержка image-text-to-text и тегов tool-use и agent. Модель содержит 28 млрд параметров и принимает текст, а также изображения при использовании специального mmproj-файла. Поддерживается английский язык. Доступны speculative decoding через MTP и квантизация с imatrix. Представлено множество вариантов квантизации от BF16 и Q8_0 до более компактных Q2/Q3/Q4/Q5/Q6, что позволяет выбирать баланс между качеством, размером файла и требованиями к памяти. Для большинства сценариев автор рекомендует Q4_K_M как сбалансированный вариант, а Q6_K и Q6_K_L — для более высокого качества. К сильным сторонам относятся большой размер, мультимодальный ввод, поддержка агентских задач и инструментов, а также широкий выбор квантизаций. Ограничениями являются значительный объём файлов, необходимость совместимого ПО на базе llama.cpp и mmproj-файла для обработки изображений; качество также зависит от выбранного уровня квантизации. Модель распространяется по лицензии Apache-2.0.

KeefeBuild/Keefe-Discere-v3.1 — дообученная KeefeBuild языковая модель семейства Qwen2 с плотной архитектурой Qwen2ForCausalLM и 7,1 млрд параметров. Она предназначена для генерации текста и диалогов; метаданные также указывают интерфейс вызова инструментов. Модель принимает текст и выдаёт текст, поддерживает английский язык и контекст до 32 768 токенов. Веса сохранены в формате safetensors. По карточке, модель обучали с использованием Unsloth и библиотеки TRL от Hugging Face. Она дообучена от KeefeBuild/Keefe-Discere-v3.0-Final и распространяется по лицензии Apache-2.0.

KR-X-AI/krx-qwen2.5-7b-instruct-v2-m-e — дообученная авторами KR-X-AI разговорная языковая модель семейства Qwen2.5. Это плотная авторегрессионная модель с 7,1 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия; среди заявленных возможностей также есть интерфейс вызова инструментов. Модель принимает текст и формирует текстовые ответы, поддерживает контекст до 32 768 токенов. В карточке указано, что обучение выполнялось с использованием Unsloth и библиотеки TRL. Модель распространяется в формате safetensors по лицензии Apache-2.0. Данных о специализированных предметных областях или отдельных ограничениях качества в карточке нет.

LFM2-1.2B-Extract-GGUF — модель Liquid AI для извлечения важной информации из неструктурированных документов и преобразования её в структурированный вид. Она предназначена для обработки статей, расшифровок, отчётов, электронных писем, нормативных документов и обращений в службу поддержки с формированием результатов в форматах JSON, XML или YAML. Модель основана на LFM2-1.2B и имеет размер около 1,2 млрд параметров. Распространяется в формате GGUF и относится к задачам генерации текста; в README приведён пример запуска с llama.cpp. Заявлена поддержка английского, арабского, китайского, французского, немецкого, японского, корейского и испанского языков. Возможные сценарии включают извлечение реквизитов счетов, подготовку данных для систем комплаенса и аналитики, а также пополнение графов знаний сущностями и атрибутами. К сильным сторонам относятся специализация на структурированном извлечении и возможность локального использования через совместимые инструменты. README не содержит сведений о точной архитектуре, размере контекста, результатах сравнительных тестов, требованиях к оборудованию или ограничениях качества, поэтому эти характеристики нельзя оценить по предоставленным данным. Модель распространяется по лицензии lfm1.0; условия лицензии указаны в файле LICENSE.

Это объединённая модель генерации текста семейства Llama 3.1, созданная с помощью mergekit путём линейного слияния unsloth/Meta-Llama-3.1-8B и unsloth/Meta-Llama-3.1-8B-Instruct. В модели около 7,5 млрд параметров; она построена на архитектуре LlamaForCausalLM и распространяется в формате safetensors для библиотеки Transformers. Модель предназначена для генерации текста и диалогового взаимодействия. Контекстное окно составляет до 131 072 токенов; в метаданных также отмечен интерфейс вызова инструментов. Карточка не уточняет языковой охват и отдельные области применения, поэтому модель следует рассматривать как универсальную. Лицензия в предоставленных данных не указана. Качество слияния и сравнительные результаты не описаны; возможности вызова инструментов обозначают наличие интерфейса и не гарантируют надёжность выполнения каждого вызова.

unsloth/Llama-3.2-1B-Instruct-bnb-4bit — 4-битная версия instruction-tuned языковой модели Llama 3.2-1B-Instruct, распространяемая Unsloth на основе модели Meta. Это авторегрессионная модель с оптимизированной архитектурой Transformer и Grouped-Query Attention (GQA), предназначенная для генерации текста и диалоговых сценариев. Модель ориентирована на мультиязычный диалог, включая задачи суммаризации и agentic retrieval. Официально поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Модель работает только с текстом: принимает текстовые входные данные и генерирует текст. Размер составляет 1 млрд параметров; README не содержит данных о размере контекстного окна. Instruction-tuned версия обучалась с применением supervised fine-tuning (SFT) и reinforcement learning with human feedback (RLHF) для повышения полезности и безопасности. Ключевое преимущество варианта — 4-битное квантование, снижающее требования к памяти и подходящее для более экономичного запуска и дообучения. Ограничения включают меньший размер и, потенциально, более узкие возможности по сравнению с крупными моделями семейства, а также зависимость качества от поддерживаемого языка и сценария. Модель статична и обучена на офлайн-датасете, поэтому не обладает актуальными знаниями без внешних источников. Использование регулируется пользовательской лицензией Llama 3.2 Community License, являющейся специальной коммерческой лицензией Meta.

lumikabrabehemoth195b — объединённая языковая модель, созданная schnapper79 с помощью mergekit из двух предварительно обученных моделей: schnapper79/lumikabra-123B_v0.3 и TheDrummer/Behemoth-123B-v1. Использован метод passthrough: в итоговую модель последовательно включены диапазоны слоёв обеих моделей. Модель построена на плотной архитектуре MistralForCausalLM и содержит 194,2 млрд параметров. Она предназначена для генерации текста и диалогового взаимодействия; контекстное окно составляет 131 072 токена. Метаданные также отмечают интерфейс вызова инструментов. Карточка не описывает отдельные специализированные области применения или поддерживаемые языки. В репозитории представлены веса Safetensors, а в конфигурации слияния указан тип данных bfloat16. Лицензия в предоставленных сведениях не указана.

Карточка модели Abu-Dju/Marco-Mini-Instruct на Hugging Face совпадает с карточкой ATH-MaaS/Marco-Mini-Instruct, поэтому описание составлено по ней. Marco-Mini-Instruct — мультиязычная языковая модель с настройкой на выполнение инструкций от Alibaba International Digital Commerce, принадлежащая к семейству Marco-MoE. Это декодерный Transformer с разреженными слоями Mixture-of-Experts, созданный на основе Qwen3-0.6B-Base методом upcycling и затем дообученный на инструкциях и методом on-policy distillation. Всего модель содержит 17,3 млрд параметров, но активирует около 0,86 млрд на токен; метаданные Hugging Face указывают 507,9 млн параметров. Эти оценки размера расходятся, поэтому их следует трактовать с учётом источника. Модель предназначена для диалогов, следования инструкциям, ответов на общие и специализированные вопросы, рассуждений, структурированного вывода и перевода. Она поддерживает 29 языков, включая русский, английский и китайский, и имеет контекст длиной 32 768 токенов. В карточке приведены результаты сравнительных тестов, где модель показывает сильные результаты на англоязычных и мультиязычных бенчмарках; они не гарантируют качество для каждого языка или прикладной задачи. Для развёртывания README рекомендует vLLM; для SGLang требуется специальная сборка из-за ограничений поддержки MoE с tied embeddings. Лицензия — Apache-2.0.

MiniCPM5-2B-Claude-Fable5-heretic — языковая модель для генерации текста и агентских сценариев, созданная RACER IS OP на основе SauravMahalik/MiniCPM5-2B-Claude-Fable5. Родительская модель получена дообучением openbmb/MiniCPM5-2B на агентских трассах, дистиллированных из Claude Fable-5 и других передовых моделей, а затем в этой версии поведение отказов было подавлено методом Heretic v1.4.0 посредством направленного редактирования весов, без дополнительного дообучения. Модель предназначена для многошагового следования инструкциям, диалогов, вызова функций и инструментов, а также разработки локальных и автономных агентов. Она поддерживает английский и китайский языки, имеет архитектуру Llama и около 2,57 млрд параметров. Доступны версии Safetensors и GGUF различных уровней квантования, благодаря чему модель рассчитана на запуск на потребительских GPU, CPU, Apple Silicon и небольших устройствах через llama.cpp, Ollama, LM Studio или Jan. Размер контекста в README не указан. К сильным сторонам относятся компактный размер, сохранение заявленных способностей к использованию инструментов и агентскому диалогу, а также значительно сниженное количество отказов по сравнению с родительской моделью: 3 из 100 против 89 из 100 в приведённом авторами тесте. При этом модель является uncensored-вариантом без исходных защитных ограничителей, поэтому её ответы требуют дополнительной проверки и мер безопасности. Приведённые показатели основаны на тестах авторов и не являются независимой оценкой; влияние абляции и квантования на качество может различаться. Модель распространяется по лицензии Apache-2.0.

ressl/MiniMax-M3-uncensored-NVFP4 — это квантизированная версия модели ressl/MiniMax-M3-uncensored, основанной на MiniMax-M3. Релиз подготовлен ressl с использованием NVIDIA ModelOpt NVFP4 и предназначен для локального запуска генерации текста и мультимодальных запросов на системах с GPU NVIDIA Blackwell. Модель имеет MoE-архитектуру с 428 млрд параметров в общей сложности и примерно 23 млрд активных параметров на токен. В модели сохранены возможности рассуждения, разбора рассуждений, вызова инструментов и обработки изображений. В карточке указаны английский и немецкий языки. Экспортированный вариант занимает около 260,4 ГБ вместо 854,2 ГБ у BF16-версии: NVFP4 применён к весам маршрутизируемых экспертов, тогда как внимание, маршрутизатор, общие эксперты, эмбеддинги, языковая голова, vision tower и проекторы сохранены в BF16. Проверенный контекст составляет 32 768 токенов; на отдельном тесте модель корректно обработала запрос длиной 20 212 токенов. Модель ориентирована на локальное инференс-обслуживание, исследование безопасности, red teaming, анализ вредоносного ПО и эксплойтов, обнаружение угроз, автоматизацию через tool calls и мультимодальные сценарии. На четырёх NVIDIA RTX PRO 6000 Blackwell 96 ГБ с SGLang зафиксирована скорость около 88,5 токена в секунду для прогретого одиночного запроса, однако это не результат полного академического бенчмарка. Для запуска требуется конфигурация из четырёх GPU Blackwell и SGLang с указанными в README настройками; совместимость с vLLM не подтверждена. Модель намеренно uncensored и может отвечать на запросы, которые стандартная версия отклоняет, поэтому её применение требует соблюдения законодательства и мер безопасности. Лицензия указана как other.

Mistral-Instruct-Ukrainian-SFT — языковая модель Radu Chivereanu, полученная supervised fine-tuning модели Mistral-7B-Instruct-v0.2 на украиноязычных наборах данных. Она предназначена для диалогов и выполнения инструкций на украинском языке, включая ответы на вопросы, задания по чтению и пониманию текста, а также вопросы и ответы по тематике программирования. Модель содержит 7,1 млрд параметров; её архитектура — плотный трансформер MistralForCausalLM с Grouped-Query Attention и Sliding-Window Attention. Контекст составляет до 32 768 токенов. Для запросов используется формат инструкций с токенами [INST] и [/INST], также доступен chat template Transformers. Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0. README приводит результаты нескольких бенчмарков, но они не гарантируют качество на других задачах и данных.

Mixtral_7Bx2_MoE — языковая модель семейства Mixtral, опубликованная cloudyu. Это объединённая модель (MoE) на основе NurtureAI/neural-chat-7b-v3-16k и mncai/mistral-7b-dpo-v6; в метаданных указано 7,1 млрд параметров и контекст до 32 768 токенов. Модель предназначена для генерации текста и может использоваться для диалога, ответов на вопросы и текстовых задач общего назначения. В карточке приведены результаты Open LLM Leaderboard: средняя оценка 73,43, ARC — 71,25 и HellaSwag — 87,45. Модель распространяется в формате safetensors по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование. Языки, на которых модель специально оценивалась или оптимизирована, в предоставленных данных не обозначены.

Nanbeige4-3B-Thinking — компактная языковая модель с 3,5 млрд параметров из четвёртого поколения семейства Nanbeige, разработанная командой Nanbeige. Это плотная авторегрессионная модель архитектуры Llama, предназначенная для генерации текста в диалогах и решения задач, требующих рассуждений. Модель обучали на корпусе из текстов, книг, кода и научных публикаций, а затем дообучали на примерах с длинными цепочками рассуждений, дистиллировали от флагманской модели Nanbeige и совершенствовали с помощью многоэтапного обучения с подкреплением. В README заявлены применения в математике, науке, творческом письме и использовании инструментов. Поддерживается контекст до 65 536 токенов; метаданные указывают английский и китайский языки. Модель опубликована в формате PyTorch и распространяется по лицензии Apache-2.0. Сильные стороны — акцент на рассуждениях при сравнительно небольшом размере и обучение на проверяемых задачах и данных с длинными цепочками рассуждений. Модель может выдавать предвзятые или дискриминационные и другие неожиданные ответы; результаты требуют проверки, особенно при использовании инструментов или в чувствительных сценариях.

ProCreations_grug-27b-GGUF — это GGUF-квантизация модели grug-27b, разработанной ProCreations. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix; базовая модель связана с датасетами ProCreations/grug-think-v3-10k и ProCreations/grug-think. Модель ориентирована на задачи рассуждений, экономного использования токенов, агентских сценариев и работы с инструментами. В карточке также указана модальность image-text-to-text и поддержка английского языка. Модель содержит 27 миллиардов параметров. Доступны варианты от BF16 до различных уровней квантизации, включая Q8_0, Q6_K, Q5_K_M, Q4_K_M и более компактные форматы. Высококачественные варианты обеспечивают близкое к исходной модели качество, а менее точные требуют меньше оперативной памяти и подходят для локального запуска на ограниченных ресурсах. Файлы предназначены для использования с llama.cpp, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другими совместимыми инструментами. В README не указаны архитектура исходной модели, размер контекстного окна, точные мультимодальные возможности и результаты бенчмарков, поэтому их нельзя оценить по имеющимся данным. Для работы требуется приложение с поддержкой соответствующей модели и формата prompt; в качестве лицензии указана Apache-2.0.

Qwen2.5-VL-7B-Instruct-GGUF — мультимодальная instruction-tuned модель семейства Qwen2.5-VL, разработанная командой Qwen. Представленная версия распространяется в формате GGUF и квантизирована bartowski на базе llama.cpp. Размер модели — 7B параметров, лицензия — Apache 2.0. Модель предназначена для задач image-text-to-text: анализа изображений и текста, ответов на вопросы по визуальному содержимому, распознавания объектов, работы с текстами, таблицами, диаграммами, иконками, графикой и макетами. Она также рассчитана на сценарии визуального агента, включая рассуждение и динамическое управление инструментами, компьютером или телефоном, а также на генерацию структурированных данных и стабильных JSON-ответов. Заявлена поддержка нескольких языков, однако их точный перечень в README не указан. Ключевая характеристика модели — контекст длиной до 128 тысяч токенов. Сильными сторонами являются мультимодальный анализ сложных визуальных материалов, работа со структурированным выводом и применение в агентских сценариях. README не содержит результатов benchmark-тестов, подробностей архитектуры, информации о конкретном варианте квантизации, системных требованиях и количественной оценке ограничений, поэтому фактическое качество и требования к ресурсам следует проверять отдельно.