II.8Инженерия данных и аналитика

Карточка модели Gensyn/Qwen2.5-7B-Instruct на Hugging Face совпадает с карточкой unsloth/Qwen2.5-7B-Instruct, поэтому описание составлено по ней. unsloth/Qwen2.5-7B-Instruct — инструктивная языковая модель семейства Qwen2.5, опубликованная Unsloth как производная от Qwen/Qwen2.5-7B-Instruct. Это плотная авторегрессионная модель с 7,1 млрд параметров; карточка указывает архитектуру Qwen2 и поддержку Transformers, а README описывает 28 слоёв, RoPE, SwiGLU, RMSNorm и механизм группового внимания GQA. Метаданные указывают контекст 32 768 токенов. Модель предназначена для диалогов и генерации текста по инструкциям. Она подходит для ответов на вопросы, написания и анализа кода, математических задач, создания длинных текстов и выдачи структурированных ответов, включая JSON. Поддерживает английский, русский, китайский и ряд других языков; заявлена поддержка более 29 языков. Метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст. README описывает возможность работы с более длинным контекстом через YaRN, но отмечает, что статическое масштабирование может ухудшить качество или производительность на коротких запросах. Модель выпущена под лицензией Apache-2.0.

Карточка модели sana17041996/Qwen2.5-7B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-7B-Instruct, поэтому описание составлено по ней. Qwen2.5-7B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Это плотная авторегрессионная модель на 7,1 млрд параметров для диалога и генерации текста; репозиторий использует библиотеку Transformers и формат safetensors. Архитектура включает RoPE, SwiGLU, RMSNorm и смещение в проекциях QKV внимания. Модель предназначена для чат-ботов и ассистентов, следования инструкциям, генерации длинных текстов, работы с таблицами и структурированными ответами, включая JSON. Также подходит для задач программирования и математики. Поддерживает более 29 языков, включая русский и английский. Контекст репозитория настроен на 32 768 токенов; в README указано расширение до 131 072 токенов с YaRN, а максимальная длина генерации — 8 192 токена. Модель предлагает широкую многоязычную поддержку и улучшенные возможности следования инструкциям, однако качество зависит от задачи и языка, а длинный контекст с YaRN может повлиять на производительность при коротких запросах. Лицензия — Apache-2.0.

Qwen2-7B-Instruct-AWQ — инструкционная языковая модель из серии Qwen, разработанная командой Qwen. Это текстовая модель для генерации ответов в диалогах, следования инструкциям, понимания и создания текста, а также задач программирования, математики, рассуждений и многоязычной обработки. Модель предназначена для локального развертывания и интеграции в приложения через Transformers или vLLM. Модель содержит около 7 миллиардов параметров и основана на decoder-only архитектуре Transformer с активацией SwiGLU, смещениями в QKV-проекциях и Grouped Query Attention. Она прошла предварительное обучение, supervised fine-tuning и Direct Preference Optimization. Вариант AWQ использует квантованные веса для снижения требований к памяти и ускорения инференса. Модель работает с текстом, поддерживает английский язык, а токенизатор адаптирован также к нескольким естественным языкам и языкам программирования. Заявлена длина контекста до 131 072 токенов; для обработки очень длинных входов применяется метод YARN. Сильными сторонами модели являются большой контекст, инструкционное выравнивание, поддержка многоязычных и технических сценариев, а также более экономичное развертывание благодаря квантованию. Модель не является мультимодальной и ориентирована на текстовую генерацию. При использовании YARN в vLLM статический коэффициент масштабирования может отрицательно влиять на качество или производительность на коротких текстах, поэтому его рекомендуется включать только при необходимости длинного контекста. Модель распространяется по лицензии Apache-2.0.

Blossom-V7.1-35B-A3B-GGUF — открытая мультимодальная модель общего назначения из семейства Blossom-V7.1, разработанная командой Azure99. Это GGUF-вариант модели Blossom-V7.1-35B-A3B на базе Qwen3.6-35B-A3B, предназначенный прежде всего для локального запуска и совместимый с llama.cpp и другими поддерживающими GGUF инструментами. Модель рассчитана на повседневный диалог, работу с общими знаниями, математические задачи и рассуждения, программирование, веб-разработку, визуализацию данных и агентские сценарии с использованием инструментов. Она принимает текст и изображения, поддерживает английский и китайский языки, использует два режима рассуждений — medium и max — и допускает интерливинг рассуждений с вызовами инструментов. Максимальная длина контекста составляет 262 144 токена, при этом для лучших результатов рекомендуется использовать до 131 072 токенов. Также поддерживается ускорение инференса с помощью Multi-Token Prediction. К сильным сторонам относятся мультимодальное понимание изображений, длинный контекст, ориентированность на агентские рабочие процессы и возможность локального развертывания. Вариант 35B-A3B позиционируется как компромисс между качеством и скоростью для CPU или гибридной CPU/GPU-инференции, включая частичную выгрузку на CPU. Для корректной работы необходимо использовать встроенный пользовательский chat template, а в многошаговых диалогах сохранять полное предыдущее сообщение ассистента вместе с данными о рассуждениях и вызовах инструментов. Лицензия — Apache-2.0.

Claude Sonnet 5 — модель семейства Sonnet от Anthropic. В карточке она описана как наиболее мощная модель Sonnet и предназначена для программирования, работы агентных систем и профессиональных задач. Каталог классифицирует её как image-text-to-text. Карточка упоминает адаптивное рассуждение с настраиваемыми уровнями усилий от низкого до максимального. Доступные сведения не раскрывают размер модели, поддерживаемые языки, контекстное окно, лицензию или подробности обработки изображений.

Gemma 4 26B A4B IT от Google DeepMind — мультимодальная диалоговая модель семейства Gemma 4, представленная в репозитории Unsloth. Это производная версия google/gemma-4-26B-A4B-it; веса опубликованы в формате safetensors, лицензия — Apache-2.0. Модель принимает текст и изображения и генерирует текст, поддерживает диалог и интерфейс вызова инструментов. Модель подходит для ответов на вопросы по изображениям и документам, распознавания текста на изображениях, понимания графиков и интерфейсов, генерации и исправления кода, суммаризации и агентных сценариев с инструментами. В семействе Gemma 4 заявлено контекстное окно до 256K токенов для вариантов 26B A4B и 31B; модель использует гибридное локальное и глобальное внимание. README указывает поддержку более 35 языков и предварительное обучение более чем на 140 языках, но не перечисляет языки по отдельности. Ограничения включают возможные фактические ошибки, смещения обучающих данных и трудности с неоднозначными формулировками или сложными открытыми задачами. Аудиовозможности из README относятся только к вариантам E2B и E4B и здесь не заявлены.

GLM-5.2-FP8 — языковая модель для генерации текста, разработанная организацией Z.ai. Она предназначена для задач с длинным горизонтом планирования, включая рассуждения, программирование, работу с инструментами и агентские сценарии. Модель поддерживает английский и китайский языки и рассчитана на текстовые задачи. Ключевая характеристика модели — контекстное окно объёмом до 1 млн токенов, предназначенное для стабильной работы с большими объёмами информации. В архитектуре используется IndexShare: один индексатор переиспользуется в каждой группе из четырёх слоёв разреженного внимания, что, по данным разработчика, снижает вычисления на токен в 2,9 раза при контексте в 1 млн токенов. Улучшенный слой MTP поддерживает speculative decoding и может увеличивать длину принимаемой последовательности до 20%. Для программирования предусмотрены различные уровни интенсивности рассуждений, позволяющие выбирать баланс между качеством и задержкой. Модель демонстрирует сильные результаты в математическом рассуждении, генерации и анализе кода, решении задач в терминале и агентских тестах. Ограничения включают отсутствие в представленном описании данных о числе параметров, точных аппаратных требованиях, мультимодальных возможностях и подробностях обучения; заявленные результаты зависят от настроек оценки и используемых инструментов. Модель распространяется по лицензии MIT, что допускает широкое использование при соблюдении её условий.

pitcany/gpt-oss-120b — зеркало модели открытых весов gpt-oss-120b, разработанной OpenAI. Это языковая модель с архитектурой MoE для диалога, задач рассуждения и разработки; она поддерживает вызов инструментов, включая функции, веб-поиск и исполнение Python, при соответствующей настройке. Для корректной работы модель следует использовать с форматом диалога Harmony. Усилие рассуждения можно настраивать на низкий, средний или высокий уровень. В карточке указано 117 млрд параметров и 5,1 млрд активных параметров; метаданные репозитория указывают 2,1 млрд параметров, поэтому размер в источниках расходится. Контекстное окно — 131 072 токена. Репозиторий содержит формат GGUF; исходная модель описана как использующая квантизацию MXFP4 для весов MoE. Лицензия — Apache-2.0, допускающая коммерческое применение. Модель общего назначения; явные ограничения по языкам в предоставленных данных не описаны.

Hermes 4 70B — большая языковая модель Nous Research для диалога и генерации текста, дообученная на базе Meta Llama 3.1 70B. Она содержит около 69,5 млрд параметров, использует плотную архитектуру Llama и поддерживает контекст до 131 072 токенов. Модель рассчитана на ответы ассистента, рассуждения, математику, программирование, STEM-задачи, логику и творческое письмо; также заявлены следование инструкциям, вызов инструментов и генерация структурированных ответов, включая JSON. Hermes 4 предлагает гибридный режим рассуждений, в котором модель может выводить отдельные сегменты обдумывания, а также обучена точнее придерживаться заданных схем и форматов. README описывает улучшенную управляемость и снижение отказов, но эти характеристики заявлены разработчиком и не гарантируют корректность или безопасность каждого ответа. В карточке указаны английский язык и лицензия Llama 3; использование регулируется условиями этой лицензии. Для запуска модели такого размера обычно требуется мног GPU или подходящая квантизированная версия.

Ling-3.0-flash-fp4 — текстовая генеративная модель компании inclusionAI, распространяемая под лицензией MIT. Это native hybrid reasoning-модель для генерации текста, рассуждений и выполнения агентных сценариев. Модель предназначена для программирования, исправления и рефакторинга кода, общих задач на знания и следование инструкциям, математического рассуждения, глубокого поиска и длительных интерактивных рабочих процессов. Она обучалась с использованием более 10 000 интерактивных сред и ориентирована на замкнутое выполнение задач Coding Agent, General Agent и Deep Research Agent. Заявлена совместимость с Claude Code, Kilo Code, Qwen Code, Hermes Agent и OpenClaw. Архитектура — гибридная линейная MoE: 124 млрд параметров всего и 5,1 млрд активных на токен. Используется чередование 35 слоёв Kimi Delta Attention и 7 слоёв Gated MLA в соотношении 5:1, 512 маршрутизируемых и один общий эксперт, 8 активируемых экспертов, 32 attention heads и hidden size 2560. Контекст обучался по схеме от 8K до 32K и 256K токенов. Модель поддерживает режим рассуждений, включённый по умолчанию, и рассчитана на эффективную работу с длинным контекстом; заявлено снижение Time to First Token на 60–80% в сценариях с длинными входными данными при использовании иерархического кэширования SGLang HiCache и Mooncake. К сильным сторонам относятся сочетание крупного общего размера с малым числом активных параметров, эффективность вывода, рассуждение, следование инструкциям, обработка длинного контекста и агентные задачи. README не содержит сведений о поддерживаемых естественных языках, точных характеристиках FP4-квантизации или ограничениях качества; результаты бенчмарков приведены без числовых значений в тексте и требуют осторожной интерпретации. Лицензия модели — MIT.

Mungert/Mistral-Small-3.2-24B-Instruct-2506-GGUF — GGUF-квантизированные версии языково-мультимодальной модели Mistral-Small-3.2-24B-Instruct-2506, разработанной Mistral AI и опубликованной пользователем Mungert. Модель является обновлением Mistral-Small-3.1-24B-Instruct-2503 и предназначена для диалогов, следования инструкциям, генерации текста и кода, решения STEM-задач, function calling, а также анализа изображений, документов, таблиц и диаграмм. Модель содержит около 24 млрд параметров, поддерживает текстово-визуальный ввод и языки английский, французский, немецкий, испанский, португальский, итальянский, японский, корейский, русский, китайский, арабский, персидский и ряд других языков, перечисленных в карточке. Версия 3.2 улучшает точность следования инструкциям, снижает вероятность зацикленной генерации и предлагает более надёжный шаблон function calling. Для создания GGUF-файлов использовался llama.cpp; автор применяет дополнительное повышение точности отдельных слоёв при квантовании, что может улучшать качество на низких разрядностях за счёт увеличения размера файлов. Сильные стороны модели — улучшенные результаты в instruction following, программировании, математике, STEM-бенчмарках и отдельных задачах компьютерного зрения. Ограничения включают зависимость качества, размера и скорости от выбранного уровня квантования, а также несколько более низкие результаты в некоторых vision-бенчмарках по сравнению с предыдущей версией. В карточке не указана длина контекстного окна. Модель распространяется по лицензии Apache-2.0 и рекомендуется к использованию через vLLM; также заявлена совместимость с transformers.

Neuron-4B-Instruct — мультиязычная языковая модель с настройкой на выполнение инструкций, разработанная Neura Tech AI на основе Qwen/Qwen3-4B-Instruct-2507. Это плотная авторегрессионная модель семейства Qwen3 с архитектурой Transformer Decoder и примерно 3,7 млрд параметров. Модель предназначена для диалогов и работы в роли ИИ-ассистента: она помогает с программированием, рассуждениями, математическими задачами, творческим письмом, переводом и вызовом инструментов. Поддерживает контекст до 262 144 токенов и множество языков, включая английский, русский, китайский, хинди, японский, корейский, европейские и южноазиатские языки. Модель принимает текст и генерирует текст. Карточка приводит сравнительные результаты на тестах знаний, но они не гарантируют качество в конкретных задачах; ответы могут содержать ошибки. Распространяется по лицензии Apache-2.0.

Карточка модели tech32432/Qwen2.5-7B-Instruct-IA-Author-Model на Hugging Face совпадает с карточкой Qwen/Qwen2.5-7B-Instruct, поэтому описание составлено по ней. Qwen2.5-7B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Это плотная авторегрессионная модель на 7,1 млрд параметров для диалога и генерации текста; репозиторий использует библиотеку Transformers и формат safetensors. Архитектура включает RoPE, SwiGLU, RMSNorm и смещение в проекциях QKV внимания. Модель предназначена для чат-ботов и ассистентов, следования инструкциям, генерации длинных текстов, работы с таблицами и структурированными ответами, включая JSON. Также подходит для задач программирования и математики. Поддерживает более 29 языков, включая русский и английский. Контекст репозитория настроен на 32 768 токенов; в README указано расширение до 131 072 токенов с YaRN, а максимальная длина генерации — 8 192 токена. Модель предлагает широкую многоязычную поддержку и улучшенные возможности следования инструкциям, однако качество зависит от задачи и языка, а длинный контекст с YaRN может повлиять на производительность при коротких запросах. Лицензия — Apache-2.0.

unsloth/Qwen2.5-7B-Instruct-unsloth-bnb-4bit — это 4-битная динамически квантованная версия инструкционно настроенной языковой модели Qwen2.5-7B-Instruct, подготовленная Unsloth на базе модели Qwen/Qwen2.5-7B-Instruct. Модель предназначена для диалогов, следования инструкциям, генерации текста, работы с кодом и математическими задачами, а также формирования структурированных ответов, включая JSON. Модель является каузальной текстовой LLM примерно с 7 млрд параметров и работает с текстовыми данными. Заявлена поддержка контекста до 128 тысяч токенов и генерации до 8 тысяч токенов. Qwen2.5 поддерживает более 29 языков, среди которых китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. Ключевое преимущество этой версии — сниженное потребление памяти благодаря 4-битной квантизации; Unsloth заявляет, что динамический подход сохраняет точность лучше стандартной 4-битной квантизации. Ограничениями являются зависимость качества от последствий квантизации и отсутствие поддержки мультимодальных входов: в предоставленных данных модель описана как текстовая. Модель распространяется по лицензии Apache-2.0. README также содержит несогласованный фрагмент о базовой версии Qwen2.5-0.5B, поэтому сведения о конкретной архитектуре и точном числе слоёв для данной 7B-версии не указаны.

Qwen3-30B-A3B-Instruct-2507 — инструкционная языковая модель семейства Qwen3, представленная в репозитории Unsloth как версия с исправлениями chat template. Это причинная MoE-модель: в исходной карточке указаны 30,5 млрд параметров всего и 3,3 млрд активных, 48 слоёв и 128 экспертов, из которых для обработки запроса активируются 8. Метаданные каталога указывают 2,6 млрд параметров; оценки размера в источниках расходятся. Модель предназначена для диалогов и выполнения инструкций, генерации текста, рассуждений, математики, научных и программных задач, а также вызова инструментов. Она поддерживает несколько языков и контекст до 262 144 токенов. Работает только в режиме без «thinking». В репозитории указаны веса Safetensors и библиотека Transformers; README рекомендует использовать актуальную версию Transformers. Лицензия — Apache-2.0. Модель может допускать смешение языков и повторы; для задач с высокой точностью ответы следует проверять.

Qwen3-30B-A3B-Instruct-2507-GGUF — это GGUF-версия каузальной языковой модели Qwen3-30B-A3B-Instruct-2507, разработанной командой Qwen. Модель преобразована с использованием llama.cpp; сборка и экспериментальная схема квантования опубликованы пользователем Mungert. Она предназначена для локального запуска и генерации текста, следования инструкциям, логического рассуждения, понимания текста, математики, научных и программных задач, работы с инструментами и открытых диалоговых сценариев. Модель использует архитектуру Mixture of Experts: всего 30,5 млрд параметров, из которых 3,3 млрд активируются при обработке запроса; в составе 48 слоёв, 128 экспертов и 8 активируемых экспертов. Применяется Grouped Query Attention с 32 головами для Q и 4 для KV. Нативная длина контекста составляет 262 144 токена. Модель поддерживает несколько языков, но конкретный перечень в предоставленных данных не указан. Это режим без рассуждений: модель не формирует блоки <think></think>. К сильным сторонам относятся улучшенные instruction following, логическое рассуждение, кодирование, использование инструментов, субъективные и открытые задачи, мультиязычное понимание и работа с длинным контекстом. GGUF-квантизация облегчает локальный инференс, а ручное повышение точности отдельных важных слоёв может улучшать качество при заданном уровне квантования. Ограничения связаны с компромиссом между размером файла, требованиями к ресурсам и точностью; конкретные характеристики зависят от выбранного варианта квантования. Лицензия — Apache 2.0.

Карточка модели simonycl/qwen3-30b-plateau-6skill-0617-iter271 на Hugging Face совпадает с карточкой Qwen/Qwen3-30B-A3B-Instruct-2507, поэтому описание составлено по ней. Qwen3-30B-A3B-Instruct-2507 — языковая модель компании Qwen на архитектуре причинного MoE-декодера. В модели 30,5 млрд параметров, из которых при генерации активируются 3,3 млрд; она включает 48 слоёв и 128 экспертов, из которых активны восемь. Модель обучена для режима без рассуждений в специальном формате и доступна под лицензией Apache 2.0. Модель предназначена для диалогов и выполнения инструкций, генерации и понимания текста, логических и математических задач, вопросов по науке, программирования и вызова инструментов. Она поддерживает многоязычные сценарии и нативный контекст до 262 144 токенов; в README также описана экспериментальная настройка обработки контекста около миллиона токенов с DCA и разреженным вниманием, требующая примерно 240 ГБ видеопамяти. К сильным сторонам относятся следование инструкциям, работа с длинным контекстом и инструментами. Ограничение: модель работает только в режиме без рассуждений; обработка около миллиона токенов требует дополнительной настройки и значительных ресурсов.

Карточка модели sdb114514/Qwen3.8-27B на Hugging Face совпадает с карточкой Qwen/Qwen3.8-27B, поэтому описание составлено по ней. Qwen3.8-27B — плотная мультимодальная модель семейства Qwen от команды Qwen. Это постобученная причинная языковая модель с визуальным энкодером, содержащая 27 млрд параметров и построенная на архитектурной основе Qwen3.5. Репозиторий включает веса и конфигурацию в формате Hugging Face Transformers; модель также совместима с vLLM, SGLang и другими средами инференса. Лицензия — Apache-2.0. Модель предназначена для диалогов, программирования, профессиональных и исследовательских задач, а также многошаговых агентных сценариев. Она принимает текст, изображения и видео и умеет разбирать документы, диаграммы и длительные видеоматериалы. Режим рассуждения включён по умолчанию, его можно отключить для отдельного запроса, а глубину настраивать параметром reasoning_effort. Контекст составляет 262 144 токена и может расширяться до 1 000 000 токенов. Архитектура сочетает Gated DeltaNet, Gated Attention и FFN-блоки; предусмотрено обучение с Multi-Token Prediction. В карточке заявлены улучшения планирования и выполнения задач с учётом обратной связи среды, однако приведённые описания бенчмарков сами по себе не гарантируют качество в конкретном применении. Модель ориентирована на применение и распространяется по лицензии Apache-2.0.

unsloth/Qwen3-Next-80B-A3B-Instruct-GGUF — GGUF-версия инструкционной причинной языковой модели Qwen3-Next-80B-A3B-Instruct, разработанной командой Qwen и подготовленной Unsloth. Модель предназначена для генерации текста, диалогов, программирования, следования инструкциям, решения задач, работы с агентскими сценариями и обработки очень длинного контекста. Она поддерживает только instruct-режим без блоков рассуждений <think></think> в ответах. Модель использует гибридную архитектуру Gated DeltaNet и Gated Attention, а также разреженную смесь экспертов MoE. Всего модель содержит 80 млрд параметров, из которых около 3 млрд активируются для обработки каждого токена; 48 слоёв, 512 экспертов и 10 активируемых экспертов. Нативная длина контекста составляет 262 144 токена, с возможностью расширения до 1 010 000 токенов. В README языки и точные характеристики GGUF-квантизации не указаны. К сильным сторонам относятся высокая параметрическая эффективность, потенциально высокая скорость инференса, поддержка ультрадлинного контекста и хорошие результаты в задачах знаний, рассуждений, программирования, следования инструкциям и написания текстов. Ограничения включают отсутствие режима thinking и необходимость учитывать аппаратные требования, связанные с общим размером модели; конкретные требования к памяти зависят от варианта квантизации GGUF. Модель распространяется по лицензии Apache-2.0.

Bagel 34B v0.5 — это дообученная jondurbin модель на базе 01-ai/yi-34b-200k, созданная для диалогов и широкого круга инструктивных задач. Модель использует плотную архитектуру семейства Llama с причинным языковым моделированием, содержит 33,9 млрд параметров и рассчитана на контекст до 200 000 токенов. Модель обучалась на наборах для вопросов и ответов, рассуждений, математики, программирования, суммаризации, ролевого общения, работы с контекстом и вызова функций. Для обучения использовались SFT- и DPO-данные; карточка описывает несколько форматов запросов, а шаблон токенизатора по умолчанию использует формат Llama 2. Это текстовая модель, которая принимает текст и генерирует текст. В метаданных указана лицензия other, без уточнения её условий.

Карточка модели genevaquant/Hermes-4.3-36B на Hugging Face совпадает с карточкой NousResearch/Hermes-4.3-36B, поэтому описание составлено по ней. Hermes 4.3 36B — языковая модель для диалогов и следования инструкциям, разработанная Nous Research на основе ByteDance-Seed/Seed-OSS-36B-Base. Это плотная архитектура Seed OSS с 31,7 млрд параметров и контекстом до 524 288 токенов; модель распространяется в формате safetensors и рассчитана прежде всего на английский язык. Модель предназначена для рассуждений и ответов общего назначения, включая задачи по математике, программированию, STEM, логике и творческому письму. Она поддерживает гибридный режим рассуждений, вызов инструментов, а также формирование структурированных ответов и JSON по заданной схеме. Для диалогов используется шаблон чата Hermes на основе формата Llama 3. По описанию разработчика, при дообучении использовался корпус примерно из 5 млн примеров и 60 млрд токенов, с акцентом на проверяемые цепочки рассуждений и точное соблюдение формата. Модель выпущена под лицензией Apache-2.0. Для запуска на сервере с несколькими GPU разработчик рекомендует движки инференса вроде SGLang или vLLM; качество и скорость зависят от настроек и аппаратного обеспечения.

Карточка модели genevaquant/Hermes-4-70B на Hugging Face совпадает с карточкой NousResearch/Hermes-4-70B, поэтому описание составлено по ней. Hermes 4 70B — большая языковая модель Nous Research для диалога и генерации текста, дообученная на базе Meta Llama 3.1 70B. Она содержит около 69,5 млрд параметров, использует плотную архитектуру Llama и поддерживает контекст до 131 072 токенов. Модель рассчитана на ответы ассистента, рассуждения, математику, программирование, STEM-задачи, логику и творческое письмо; также заявлены следование инструкциям, вызов инструментов и генерация структурированных ответов, включая JSON. Hermes 4 предлагает гибридный режим рассуждений, в котором модель может выводить отдельные сегменты обдумывания, а также обучена точнее придерживаться заданных схем и форматов. README описывает улучшенную управляемость и снижение отказов, но эти характеристики заявлены разработчиком и не гарантируют корректность или безопасность каждого ответа. В карточке указаны английский язык и лицензия Llama 3; использование регулируется условиями этой лицензии. Для запуска модели такого размера обычно требуется мног GPU или подходящая квантизированная версия.

tencent/Hy3-FP8 — FP8-квантизированная версия Hy3, большой языковой модели с архитектурой Mixture-of-Experts, разработанной командой Tencent Hy. Модель предназначена для генерации текста, рассуждений, программирования, агентских сценариев, офисных задач, финансового моделирования, frontend-разработки и создания игр. Она также ориентирована на работу с инструментами, структурированными форматами вывода и многошаговыми диалогами. Hy3 содержит 295 млрд параметров, из которых 21 млрд активируются при обработке запроса; дополнительно предусмотрен MTP-слой на 3,8 млрд параметров. Архитектура включает 80 основных слоёв и один MTP-слой, 192 эксперта с активацией 8 экспертов, GQA-внимание с 64 attention heads и 8 KV heads, hidden size 4096 и контекст длиной до 256K токенов. Модель демонстрирует сильные стороны в рассуждениях, длинном контексте, вызове инструментов, удержании сложных инструкций и снижении галлюцинаций, однако README не указывает поддерживаемые языки и не приводит подробностей о специфике FP8-реализации. Модель распространяется по лицензии Apache 2.0.

NVIDIA Kimi-K2.7-Code NVFP4 — квантизированная версия языковой модели Kimi-K2.7-Code, разработанной Moonshot AI. NVIDIA подготовила и оптимизировала эту сборку с помощью Model Optimizer для запуска на NVIDIA GPU; сама NVIDIA не является разработчиком исходной модели. Модель предназначена для генерации текста и кода, научного программирования, агентного использования инструментов, работы с терминалом и решения задач программной инженерии. В зависимости от конфигурации сервинга она может возвращать естественно-языковые ответы, код, структурированный JSON, запросы вызова инструментов, инструкции для координации агентов и другие артефакты. Модель использует архитектуру Transformers с сетевой архитектурой DeepSeek V3 и механизмом Mixture-of-Experts: всего заявлен 1 трлн параметров, из которых 32 млрд активируются при обработке запроса. Поддерживаются текст, изображения и видео на входе, а также контекст длиной до 256 тысяч токенов; выход представлен текстом. Веса и активации линейных операторов внутри MoE-блоков преобразованы из INT4 через BF16 в формат NVFP4. Предусмотрен запуск через vLLM на NVIDIA Blackwell под Linux; тестирование выполнялось на NVIDIA B200. Сильные стороны модели — большой контекст, поддержка мультимодальных входных данных, задачи кодирования и агентного взаимодействия, а также готовая к инференсу NVFP4-квантизация для совместимого оборудования. При этом сведения об обучающих и тестовых данных, их размере и составе в основном не раскрыты, а NVIDIA не проводила обучение или тестирование для данного релиза Model Optimizer. Практическая производительность и безопасность требуют дополнительной проверки на данных конкретного сценария. Использование регулируется NVIDIA Open Model License; также указана Modified MIT License для исходной модели Kimi-K2.7-Code.

gabriellarson/Mistral-Small-3.2-24B-Instruct-2506-GGUF — это GGUF-версия инструкционной мультимодальной модели Mistral-Small-3.2-24B-Instruct-2506, разработанной Mistral AI. Репозиторий содержит квантизированное представление модели для запуска в совместимых средах, а исходная модель рассчитана на работу с текстом и изображениями. Модель предназначена для диалоговых ассистентов, следования инструкциям, генерации текста и кода, function calling, а также анализа изображений, документов, таблиц и диаграмм. В README отмечены улучшения по сравнению с Mistral-Small-3.1: более точное следование инструкциям, меньше повторяющихся и бесконечных генераций и более надёжный шаблон вызова функций. По приведённым тестам она показывает сильные результаты в задачах программирования, STEM, обработки документов и анализа визуального контента, хотя в отдельных vision-бенчмарках уступает предыдущей версии. Модель имеет 24 миллиарда параметров и поддерживает английский, французский, немецкий, испанский, португальский, итальянский, японский, корейский, русский, китайский, арабский, персидский и ряд других языков, указанных в карточке. Рекомендуется использовать относительно низкую температуру и задавать системный промпт. Для исходной модели рекомендуется vLLM; запуск в формате BF16 или FP16 требует около 55 ГБ видеопамяти, тогда как требования конкретной GGUF-квантизации зависят от её параметров. Размер контекста в предоставленных данных не указан. Лицензия — Apache-2.0. Ограничения включают высокие требования к вычислительным ресурсам для полноразмерного запуска, возможные различия в качестве между языками и необходимость учитывать, что приведённые результаты основаны на конкретных внутренних и общедоступных тестах.

NVIDIA-Nemotron-Nano-12B-v2 — языковая модель NVIDIA Corporation для диалогов, рассуждений и выполнения инструкций. Это дообученная версия NVIDIA-Nemotron-Nano-12B-v2-Base с гибридной архитектурой Nemotron-Hybrid: основную часть составляют слои Mamba-2 и MLP, дополненные шестью слоями Attention. Модель принимает и генерирует текст, поддерживает контекст до 128 тысяч токенов и может работать в режиме с рассуждениями или без них; системный промпт и бюджет токенов позволяют управлять глубиной рассуждений. Модель предназначена для чат-ботов, RAG-систем, AI-агентов, программирования и общих задач по инструкциям. README заявляет поддержку английского, немецкого, испанского, французского, итальянского, японского, корейского, португальского, русского и китайского; в метаданных карточки перечислены английский, испанский, французский, немецкий, итальянский и японский. Разработчик сообщает о готовности к коммерческому использованию; лицензия указана как other, поэтому конкретные условия следует сверить с файлами лицензии репозитория. Модель оптимизирована для GPU NVIDIA; в vLLM неверный тип кэша Mamba-SSM может снизить точность, а генерация с рассуждениями требует большего числа выходных токенов.

Карточка модели KIng241300/promptforge-nano-7b на Hugging Face совпадает с карточкой Qwen/Qwen2.5-7B-Instruct, поэтому описание составлено по ней. Qwen2.5-7B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Это плотная авторегрессионная модель на 7,1 млрд параметров для диалога и генерации текста; репозиторий использует библиотеку Transformers и формат safetensors. Архитектура включает RoPE, SwiGLU, RMSNorm и смещение в проекциях QKV внимания. Модель предназначена для чат-ботов и ассистентов, следования инструкциям, генерации длинных текстов, работы с таблицами и структурированными ответами, включая JSON. Также подходит для задач программирования и математики. Поддерживает более 29 языков, включая русский и английский. Контекст репозитория настроен на 32 768 токенов; в README указано расширение до 131 072 токенов с YaRN, а максимальная длина генерации — 8 192 токена. Модель предлагает широкую многоязычную поддержку и улучшенные возможности следования инструкциям, однако качество зависит от задачи и языка, а длинный контекст с YaRN может повлиять на производительность при коротких запросах. Лицензия — Apache-2.0.

Qwen2.5-3B-Instruct-bnb-4bit — 4-битная версия инструкционно дообученной языковой модели Qwen2.5-3B-Instruct, опубликованная в экосистеме Unsloth на базе модели Qwen от Alibaba Cloud. Это авторегрессионная causal language model для диалогов, генерации и обработки текста, выполнения инструкций, написания кода, решения математических задач, работы со структурированными данными и формирования структурированных ответов, включая JSON. Модель содержит около 3,09 млрд параметров, из которых 2,77 млрд не относятся к эмбеддингам, и включает 36 слоёв. Архитектура использует transformers, RoPE, SwiGLU, RMSNorm, смещения в Attention QKV и связанные эмбеддинги слов; применяется Grouped Query Attention с 16 головами для Q и 2 для KV. Полная длина контекста составляет 32 768 токенов, максимальная длина генерации — 8192 токена. Поддерживается более 29 языков, включая английский, китайский, русский, французский, испанский, немецкий, итальянский, японский, корейский, вьетнамский, тайский и арабский. К сильным сторонам относятся улучшенное следование инструкциям, работа с длинными текстами, таблицами и другими структурированными данными, а также относительно низкие требования к памяти благодаря 4-битному квантованию. Ограничения включают меньший размер по сравнению с крупными моделями и возможное снижение точности из-за квантования; конкретные показатели качества для этой версии в README не приведены. Для работы рекомендуется актуальная версия библиотеки transformers; версии ниже 4.37.0 могут быть несовместимы. Лицензия модели — Apache-2.0.

Qwen2-7B-Instruct — инструктивно дообученная языковая модель серии Qwen2, разработанная командой Qwen. Это плотная decoder-only модель на архитектуре Transformer с 7,1 млрд параметров, предназначенная для диалогов и генерации текста. Она подходит для ответов на вопросы, суммаризации, написания текстов, программирования, математики и рассуждений. Модель принимает текст и выдаёт текст. Карточка описывает поддержку нескольких естественных языков и кода; в метаданных указан английский язык. Заявленная длина контекста в метаданных — 32 768 токенов; README описывает расширение до 131 072 токенов с помощью YARN. Для запуска рекомендована версия Transformers 4.37.0 или новее, а README также приводит вариант развёртывания через vLLM. Модель демонстрирует сильные результаты в приведённых бенчмарках по пониманию и генерации языка, мультиязычным задачам, программированию, математике и рассуждениям. Расширенный контекст через YARN требует настройки и может снижать качество на коротких текстах при статическом масштабировании. Лицензия — Apache-2.0.

ELVISIO/Qwen3-30B-A3B-Instruct-2507-AWQ — это квантизированная версия Qwen3-30B-A3B-Instruct-2507, разработанной командой Qwen. Модель предназначена для генерации текста и выполнения инструкций в диалоговых и прикладных сценариях, включая рассуждения, понимание текста, математику, научные задачи, программирование, использование инструментов и работу с многоязычными запросами. Модель использует архитектуру причинной языковой модели MoE с 30,5 млрд параметров, из которых 3,3 млрд активируются при обработке токена. Она содержит 48 слоёв, 128 экспертов и активирует 8 экспертов; применяется GQA с 32 головами запросов и 4 ключей/значений. Нативная длина контекста составляет 262 144 токена. Это текстовая модель без мультимодальных возможностей, работающая только в non-thinking режиме и не формирующая блоки <think></think>. Основные сильные стороны — улучшенное следование инструкциям, качество открытой генерации, логическое и математическое рассуждение, программирование, использование инструментов, многоязычное понимание и обработка длинного контекста. Модель подвергнута AWQ int4-квантизации с использованием ms-swift, что снижает требования к памяти, но может сопровождаться некоторой потерей качества по сравнению с полной версией. README не содержит подробных сведений о языках, аппаратных требованиях и ограничениях производительности. Модель распространяется по лицензии Apache 2.0.