I.14Автоматизация процессов и AI-агенты

jlondonobo/whisper-large-v2-pt-v3 — дообученная на португалоязычной части набора Common Voice 11.0 модель автоматического распознавания речи на базе Whisper Large v2 от OpenAI. Она принимает аудио и генерирует текстовую расшифровку, в частности подходит для транскрибирования португальской речи. Модель построена на архитектуре Whisper, содержит 905,2 млн параметров и распространяется в формате PyTorch. В карточке указаны результаты оценки на тестовой выборке: loss 0,1503 и WER 4,8385. Модель выпущена под лицензией Apache-2.0. Карточка не описывает ограничения и условия оценки подробнее, поэтому результаты могут не отражать качество на других аудио и сценариях.

Methystorn выпустил дообученную версию OpenAI Whisper Large-v3 для автоматического распознавания речи на кхмерском языке. Модель принимает аудио и преобразует речь в текст; она рассчитана на сценарии, где важна нормализация числительных, денежных сумм и дат. Модель построена на архитектуре Whisper и содержит 905,2 млн параметров. В репозитории представлены веса safetensors, лицензия — MIT. Разработчик указывает кхмерский язык (km-KH); сведений о длине контекста нет.

Whisper Large v3 Ai — дообученная Nurlan Salahaddinov версия мультиязычной модели OpenAI Whisper large-v3 для распознавания речи и преобразования аудио в текст. Модель содержит 905,2 млн параметров и основана на архитектуре Whisper; для обучения использован набор Mozilla Common Voice 17.0. Карточка приводит результат WER 1,1952 на оценочной выборке. Модель предназначена для автоматической транскрибации аудиозаписей, в частности для распознавания азербайджанской речи. Репозиторий содержит веса в формате Safetensors. Модель распространяется по лицензии Apache-2.0.

Whisper large-v3-Persian — дообученная модель распознавания речи, созданная Mohammad Khosravi на основе openai/whisper-large-v3. Она принимает аудио и генерирует текстовую транскрипцию на персидском языке. Модель содержит 905,2 млн параметров, использует архитектуру Whisper и доступна в формате safetensors для библиотеки Transformers. Модель дообучена на наборе Common Voice 11.0. В README приведён результат на тестовой выборке: WER 26,8658 и loss 0,2444. Репозиторий распространяется по лицензии Apache-2.0.

kinit/whisper-large-v3-turbo-sk — модель команды KInIT для автоматического распознавания словацкой речи. Это полно-параметрическая донастройка Whisper encoder-decoder на базе openai/whisper-large-v3-turbo; в метаданных указано 905,2 млн параметров. При обучении использовался курируемый корпус словацкой речи, а 75% обучающих пакетов дополнительно усиливались синтетическим фоновым шумом для повышения устойчивости к условиям реальных записей. Модель предназначена для транскрибации словацкой речи из записей в разных предметных областях и акустических условиях. На тестовом наборе Common Voice 24.0 указаны WER 9,29% и CER 2,55%; на внутреннем наборе KInIT — WER 5,60% и CER 2,65%. По README, версия v2 добавила шумовую аугментацию и улучшила результаты относительно v1. Модель ориентирована на словацкий язык: донастройка существенно ухудшает распознавание других языков. Надёжная длина одного сегмента — до 30 секунд; более длинное аудио следует обрабатывать с разбиением на фрагменты. Качество может снижаться на сильных акцентах, диалектах и речи из областей, недостаточно представленных в обучающих данных. Для критически важных расшифровок требуется проверка человеком. Лицензия — MIT.

crossdelenna/whisper_med_alex.en — дообученная модель распознавания речи на базе Whisper, опубликованная пользователем crossdelenna. Она предназначена для преобразования аудио в текст; название указывает на английскую версию, а карточка сообщает о дообучении на наборе данных, который не описан. Архитектура — WhisperForConditionalGeneration, размер — 455,8 млн параметров; для работы используется Transformers, веса опубликованы в формате safetensors. В README приведён результат оценки WER 5,3233 и loss 0,0002, однако набор данных и условия оценки не раскрыты, поэтому эти цифры не позволяют надёжно судить о качестве на других аудиозаписях. Модель распространяется по лицензии Apache-2.0.

Xwin-LM-13B-V0.2 — диалоговая большая языковая модель проекта Xwin-LM, выпущенная в октябре 2023 года. Это плотная авторегрессионная модель семейства Llama с 12,9 млрд параметров, построенная на базе Llama 2 и дообученная для выравнивания ответов. Модель принимает текст и генерирует текст; длина контекста составляет 4096 токенов. Поддерживает многоходовые диалоги в шаблоне, совместимом с Vicuna. Модель предназначена для ответов на вопросы и выполнения пользовательских инструкций в диалоге. В README сообщается об использовании SFT и обучения с подкреплением на основе отзывов людей; версия V0.2 включает улучшенные сравнительные данные и обучение PPO. Проект приводит результаты оценивания на AlpacaEval, однако они не гарантируют качество для конкретных запросов. Для инференса заявлена совместимость с vLLM. Репозиторий содержит веса PyTorch и распространяется по лицензии Llama 2. Модель ориентирована на английский язык в приведённых примерах; README не подтверждает широкий охват других языков. В карточке проекта также указано, что математические и рассуждательные возможности планировалось развивать, поэтому её не следует считать специализированной моделью для таких задач.

Карточка модели Xwin-LM/Xwin-LM-7B-V0.2 на Hugging Face совпадает с карточкой Xwin-LM/Xwin-LM-13B-V0.2, поэтому описание составлено по ней. Xwin-LM-13B-V0.2 — диалоговая большая языковая модель проекта Xwin-LM, выпущенная в октябре 2023 года. Это плотная авторегрессионная модель семейства Llama с 12,9 млрд параметров, построенная на базе Llama 2 и дообученная для выравнивания ответов. Модель принимает текст и генерирует текст; длина контекста составляет 4096 токенов. Поддерживает многоходовые диалоги в шаблоне, совместимом с Vicuna. Модель предназначена для ответов на вопросы и выполнения пользовательских инструкций в диалоге. В README сообщается об использовании SFT и обучения с подкреплением на основе отзывов людей; версия V0.2 включает улучшенные сравнительные данные и обучение PPO. Проект приводит результаты оценивания на AlpacaEval, однако они не гарантируют качество для конкретных запросов. Для инференса заявлена совместимость с vLLM. Репозиторий содержит веса PyTorch и распространяется по лицензии Llama 2. Модель ориентирована на английский язык в приведённых примерах; README не подтверждает широкий охват других языков. В карточке проекта также указано, что математические и рассуждательные возможности планировалось развивать, поэтому её не следует считать специализированной моделью для таких задач.

YamshadowInex12_ShadowYamshadow — объединённая языковая модель на архитектуре Mistral, созданная на основе automerger/YamshadowInex12-7B и automerger/ShadowYamshadow-7B. Она предназначена для генерации текста и может использоваться в приложениях, которым нужны ответы или продолжения по текстовому запросу. Модель содержит 7,1 млрд параметров, поддерживает контекст до 32 768 токенов и распространяется в формате Safetensors. В карточке указана лицензия Apache-2.0. README не описывает специальные предметные области, языки или преимущества объединения моделей.

YamshadowStrangemerges_32_NeuralsirkrishnaExperiment26 — слитая авторами репозитория модель семейства Mistral с 7,1 млрд параметров для генерации текста. Она объединяет модели automerger/YamshadowStrangemerges_32-7B и automerger/NeuralsirkrishnaExperiment26-7B и предназначена для сценариев, где требуется генерировать текст по текстовому запросу. Модель использует плотную архитектуру MistralForCausalLM, принимает текст и выдаёт текст; заявленная длина контекста — 32 768 токенов. Веса опубликованы в формате Safetensors. В карточке не приведены сведения о специализации по языкам или прикладным областям, поэтому модель можно описать как общего назначения. Лицензия — Apache-2.0.

YamT3qm7xp_YamExperiment24 — объединённая модель для генерации текста, построенная на архитектуре Mistral. Она создана слиянием моделей automerger/YamT3qm7xp-7B и automerger/YamExperiment24-7B. Размер модели — 7,1 млрд параметров, контекст — до 32 768 токенов. Модель предназначена для генерации продолжений текста и диалоговых ответов. Она принимает текст и выдаёт текст. Репозиторий содержит веса в формате Safetensors; лицензия — Apache-2.0.

Zamba2-1.2B-instruct — разговорная модель Zyphra для генерации текста и выполнения инструкций. Она создана дообучением Zamba2-1.2B: сначала на наборах инструкций и диалогов, затем с оптимизацией предпочтений методом DPO. В карточке указана гибридная архитектура Mamba2 и Transformer с общими слоями внимания и дополнительными LoRA-матрицами; метаданные относят модель к семейству Zamba2 и указывают 2,6 млрд параметров, формат safetensors и контекст 4096 токенов. Модель рассчитана на ответы на запросы и многоходовые беседы. В карточке сообщается о хороших результатах в следовании инструкциям и низкой задержке генерации; для запуска рекомендуются оптимизированные ядра Mamba2, иначе возрастают задержка и расход памяти. Реализация для Hugging Face обозначена как временная и может быть несовместима с некоторыми инструментами и фреймворками. Лицензия — Apache-2.0.

Zara-14b-v1.1 — диалоговая языковая модель Aixon Lab на основе sometimesanotion/Lamarck-14B-v0.7. Это плотная авторегрессионная Transformer-модель семейства Qwen2 с примерно 14 млрд параметров, предназначенная для многоходовых чатов с несколькими ролями, генерации текста, ответов на вопросы и анализа. Карточка отмечает её способности к творческому письму и сторителлингу. Модель рассчитана прежде всего на английский язык; README допускает поддержку других языков. Контекст — до 131 072 токенов. Модель дообучена на разных датасетах и дополнительно использует слияния слоёв. Распространяется в формате Safetensors по лицензии Apache 2.0. Результаты оценки качества в карточке не приведены.

zen-pro-i1-GGUF — это набор квантизированных файлов в формате GGUF для базовой текстовой модели zenlm/zen-pro. Модель разработана zenlm, а квантизация выполнена mradermacher с использованием weighted/imatrix-подхода. В метаданных указаны библиотека Transformers, назначение text-generation и специализация на reasoning-задачах. Модель предназначена для генерации текста и сценариев, требующих рассуждений. Указан английский язык. Репозиторий содержит варианты квантизации от i1-IQ1_S до i1-Q6_K размером примерно от 2,2 до 6,8 ГБ, что позволяет выбирать компромисс между требованиями к памяти, скоростью и качеством. Для большинства применений рекомендован вариант i1-Q4_K_M как быстрый, а i1-Q4_K_S отмечен как оптимальный по соотношению размера, скорости и качества; варианты с низкой битностью могут заметно уступать по качеству. В README не указаны архитектура, точное число параметров, максимальная длина контекста, поддерживаемые модальности или результаты бенчмарков. Файлы рассчитаны на использование с инструментами, поддерживающими формат GGUF; конкретные требования к оборудованию зависят от выбранного варианта квантизации. Лицензия модели — Apache-2.0.

Zephyr 7B β — чат-модель, разработанная Hugging Face H4 как вторая версия серии Zephyr. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, дообученная методом Direct Preference Optimization на синтетических диалогах UltraChat и предпочтениях из UltraFeedback. Она предназначена для общения в формате помощника и генерации ответов на английском языке; длина контекста составляет 32 768 токенов. В карточке описаны хорошие результаты на MT-Bench и AlpacaEval на момент выпуска. Модель уступает более крупным и проприетарным системам в сложных задачах программирования и математики. Она не прошла этап RLHF для выравнивания с человеческими предпочтениями по безопасности и может выдавать проблемный контент, особенно по соответствующему запросу. Распространяется по лицензии MIT.

Ziya-LLaMA-13B-v1.1 是 IDEA-CCNL 姜子牙系列的 доработанная версия модели Ziya-LLaMA-13B-v1. Разработчики изменили соотношение данных для дообучения и применили улучшенную стратегию обучения с подкреплением, чтобы повысить точность ответов на вопросы, математические способности и безопасность. Модель основана на плотной архитектуре LLaMA с 12,9 млрд параметров и предназначена для генерации текста, включая диалоговые сценарии и решение задач на естественном языке. Поддерживает английский и китайский языки; нативная длина контекста — 2048 токенов. Для публикации полных весов требуется учитывать ограничения лицензии исходных весов LLaMA и следовать инструкции по их объединению. Репозиторий указывает лицензию GPL-3.0; для использования также описаны зависимости PyTorch и Transformers. Качество и безопасность улучшены относительно Ziya-LLaMA-13B-v1, однако карточка не приводит количественных оценок, поэтому пригодность для конкретных задач следует проверять отдельно.

Granite-3.2-8B-Instruct — плотная языковая модель IBM Granite Team с 8,2 млрд параметров, дообученная на базе ibm-granite/granite-3.1-8b-instruct для выполнения инструкций и задач рассуждения. Модель поддерживает управляемый режим рассуждения, который можно включать по необходимости, и работает через библиотеку Transformers; доступны веса в формате safetensors. Модель предназначена для диалоговых помощников и общих прикладных сценариев: суммаризации, классификации и извлечения текста, ответов на вопросы, RAG, задач с кодом и вызова функций. Контекст — до 131 072 токенов, что подходит для анализа длинных документов и стенограмм. Поддерживаются английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Модель распространяется по лицензии Apache 2.0. README указывает, что к ней применимы этические ограничения и ограничения Granite-3.1-8B-Instruct; конкретные ограничения в карточке не перечислены.

Qwen2.5-32B-Instruct-AWQ — инструкционно дообученная языковая модель из семейства Qwen, разработанная командой Qwen. Это причинная языковая модель для генерации текста, диалоговых ассистентов, следования инструкциям, написания и анализа кода, решения математических задач, работы со структурированными данными и формирования структурированных ответов, включая JSON. Модель содержит 32,5 млрд параметров, из них 31 млрд — без учёта эмбеддингов, и включает 64 слоя. Архитектура использует RoPE, SwiGLU, RMSNorm, смещения в QKV-внимании и GQA с 40 головами для Q и 8 для KV. Репозиторий содержит 4-битную AWQ-квантизированную версию, что может снизить требования к памяти по сравнению с полноточной моделью. Заявлена поддержка более 29 языков, включая английский, китайский, русский, французский, немецкий, испанский, японский и корейский. Полная длина контекста указана до 131 072 токенов, а генерация — до 8192 токенов; при этом текущая конфигурация рассчитана на 32 768 токенов, а для более длинных входов требуется включение YaRN. Сильными сторонами модели являются улучшенные возможности в программировании и математике, следование инструкциям, обработка длинных текстов, понимание таблиц и генерация структурированных данных. При использовании статического YaRN производительность на коротких текстах может снижаться, поэтому его рекомендуется включать только при работе с длинным контекстом. Для загрузки и развёртывания требуются совместимые версии Transformers и поддержка AWQ; в документации рекомендуется vLLM. Модель распространяется по лицензии Apache-2.0.

Qwen2.5-32B-Instruct-GPTQ-Int4 — 4-битно квантованная GPTQ-версия инструкционно дообученной языковой модели Qwen2.5, разработанной командой Qwen. Это авторегрессионная causal language model для диалогов, генерации и преобразования текста, следования инструкциям, программирования, математических задач, работы со структурированными данными и формирования структурированных ответов, включая JSON. Модель содержит 32,5 млрд параметров, из которых 31 млрд относятся к неэмбеддинговым, и включает 64 слоя. Архитектура использует RoPE, SwiGLU, RMSNorm, смещения в attention QKV и GQA с 40 головами для Q и 8 для KV. Поддерживаются более 29 языков, включая английский, китайский, русский, французский, испанский, немецкий, итальянский, японский, корейский, вьетнамский, тайский и арабский. Заявленная длина контекста — до 131 072 токенов, а максимальная длина генерации — 8192 токена; в текущей конфигурации без дополнительной настройки доступно до 32 768 токенов, а для более длинных входов требуется YaRN. К преимуществам относятся улучшенные способности к программированию и математике, соблюдение инструкций, генерация длинных текстов, обработка таблиц и других структурированных данных, а также меньшие требования к памяти благодаря 4-битной квантованию. К ограничениям относятся возможное снижение качества по сравнению с исходной моделью в формате bfloat16 и потенциальное ухудшение производительности на коротких текстах при включении статического масштабирования YaRN. Модель распространяется по лицензии Apache-2.0 и предназначена для использования с библиотекой Transformers и совместимыми средствами инференса.

Gemma 4 E4B-it — мультимодальная модель Google DeepMind с открытыми весами, настроенная для следования инструкциям и диалога. Это плотная модель семейства Gemma 4; репозиторий использует Transformers и формат safetensors. Для варианта E4B заявлено контекстное окно 128 тысяч токенов и поддержка более 35 языков в практическом использовании, при предобучении на более чем 140 языках. Модель принимает текст, изображения, видео и аудио, а выдаёт текст. Она предназначена для диалога, рассуждений, генерации и исправления кода, анализа изображений и документов, понимания видео, распознавания речи и перевода речи в текст. Поддерживает режим рассуждений и вызов инструментов; гибридное внимание сочетает локальные окна и глобальное внимание. Модель подходит для локального запуска на устройствах с ограниченными ресурсами, а также для чат-ботов, помощников и мультимодальных приложений. Возможности распознавания аудио заявлены для вариантов E2B и E4B. Как и другие генеративные модели, она может ошибаться в ответах и интерпретации входных данных. Лицензия — Apache 2.0.

Qwen2.5-7B-Instruct-GPTQ-Int8 — инструкционная каузальная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалоговых приложений, генерации и обработки текста, следования инструкциям, работы с кодом и математическими задачами, создания длинных текстов и структурированных ответов, включая JSON. Модель поддерживает более 29 языков, в том числе английский, китайский, русский, французский, испанский, немецкий, итальянский, японский, корейский, вьетнамский, тайский и арабский. Модель содержит 7,61 млрд параметров, из них 6,53 млрд — без учёта embedding, и включает 28 слоёв. Архитектура использует RoPE, SwiGLU, RMSNorm, смещения в QKV attention и Grouped Query Attention: 28 голов для Q и 4 для KV. Применена 8-битная GPTQ-квантизация, снижающая требования к памяти по сравнению с полноразмерной версией. Заявлена поддержка контекста до 131 072 токенов и генерации до 8192 токенов; для входов длиннее 32 768 токенов требуется настройка YaRN, которая может ухудшать производительность на коротких запросах. Для работы рекомендуется актуальная версия Transformers, а для развёртывания длинного контекста — vLLM. Сильные стороны модели — улучшенные возможности в кодировании, математике, следовании инструкциям, обработке таблиц и структурированных данных, а также многоязычность и поддержка длинного контекста. Ограничения включают возможное снижение качества или скорости из-за квантизации и потенциальное ухудшение производительности на коротких текстах при включённом статическом YaRN. Модель распространяется по лицензии Apache-2.0.

google/gemma-4-31B-it-qat-q4_0-gguf — мультимодальная instruction-tuned модель семейства Gemma 4, разработанная Google DeepMind. Она предназначена для генерации текста, рассуждений, программирования, агентских сценариев и анализа изображений с формированием текстового ответа. Модель поддерживает текстовые и графические входы, но аудио для версии 31B не заявлено. Модель использует плотную архитектуру с примерно 30,7 млрд параметров, 60 слоями и гибридным механизмом внимания, сочетающим локальное sliding window attention с глобальным вниманием. Контекстное окно составляет до 256K токенов, размер словаря — 262K. Семейство Gemma 4 заявляет мультиязычную поддержку более 140 языков, нативную поддержку system role, configurable thinking modes и function calling. Эта версия представлена в формате GGUF с Q4_0 и прошла Quantization-Aware Training, что ориентировано на снижение требований к памяти при сохранении качества, близкого к bfloat16. К сильным сторонам относятся большое контекстное окно, мультимодальное понимание текста и изображений, возможности рассуждения, кодирования и локального развёртывания в экосистемах, совместимых с GGUF. Ограничениями являются отсутствие заявленной поддержки аудио у 31B, а также потенциальные компромиссы качества и точности, характерные для квантованного формата. Модель распространяется по лицензии Apache 2.0.

Карточка модели NostraEmpire/mirror-granite-3.1-8b-instruct на Hugging Face совпадает с карточкой ibm-granite/granite-3.1-8b-instruct, поэтому описание составлено по ней. Granite-3.1-8B-Instruct — языковая модель IBM Granite Team для выполнения инструкций и создания диалоговых ассистентов. Это дообученная на базе Granite-3.1-8B-Base плотная авторегрессионная трансформерная модель на 8,2 млрд параметров; при обучении использовались supervised fine-tuning, выравнивание с помощью обучения с подкреплением и слияние моделей. Архитектура включает GQA, RoPE, SwiGLU и RMSNorm. Модель принимает текст и поддерживает контекст до 131 072 токенов. Модель предназначена для суммаризации, классификации и извлечения текста, ответов на вопросы, RAG, задач с кодом и вызова функций. Поддерживает диалоги на английском, немецком, испанском, французском, японском, португальском, арабском, чешском, итальянском, корейском, нидерландском и китайском языках. Лучше всего модель обучена следовать инструкциям на английском; качество на других языках может быть ниже. Она может выдавать неточные, предвзятые или небезопасные ответы. Лицензия — Apache 2.0.

Qwen3.6-27B with MTP — это плотная мультимодальная модель на базе Qwen/Qwen3.6-27B, представленная пользователем froggeric в формате GGUF для llama.cpp. Модель предназначена для диалога, программирования, отладки, анализа, перевода, работы с изображениями, рассуждений и использования инструментов. Заявлена поддержка английского, китайского и других языков. Модель содержит 27 млрд параметров, поддерживает текстовый и графический ввод через отдельный vision-проектор, а также контекст до 262 144 токенов при подходящей конфигурации памяти. Встроенные MTP-головы обеспечивают self-speculative decoding: llama.cpp может предсказывать несколько токенов за шаг и затем проверять их, что особенно эффективно для кода и других предсказуемых задач. Доступны варианты квантования от F16 до IQ2_M, что позволяет выбирать между качеством, скоростью и требованиями к памяти. К сильным сторонам относятся мультимодальность, большой контекст, поддержка reasoning и tool use, встроенное ускорение генерации без дополнительной draft-модели и исправленный шаблон чата для корректной работы в C++-рантаймах. Ограничения включают зависимость от версии llama.cpp b9180 или новее, необходимость отдельного mmproj-файла для изображений, а также неодинаковую эффективность MTP: ускорение обычно выше при программировании и ниже при аналитических и творческих задачах, особенно на сильных вариантах квантования. Модель распространяется по лицензии Apache-2.0.

Qwen-72B — базовая плотная языковая модель на архитектуре Transformer, разработанная Alibaba Cloud в рамках семейства Tongyi Qianwen. В репозитории представлена предварительно обученная модель с 119,4 млрд параметров; она обучена более чем на 3 трлн токенов из веб-текстов, книг, кода, математики и других общих и профессиональных материалов. Это базовая модель, а не диалоговая версия Qwen-72B-Chat. Модель предназначена для генерации текста и служит основой для сценариев продолжения текста, рассуждений, ответов на запросы, работы с кодом и математическими задачами. В README указаны 32 тысячи токенов контекста, словарь размером свыше 150 тысяч токенов и архитектурные компоненты RoPE, SwiGLU и RMSNorm. Основное внимание уделено китайскому и английскому языкам; словарь также рассчитан на поддержку ряда других языков, включая русский. Для запуска BF16/FP16 требуется не менее 144 ГБ видеопамяти, а для варианта Int4 — не менее 48 ГБ. README предупреждает, что при дообучении нужно учитывать особенности tiktoken-токенизатора и специальных токенов. Лицензия в метаданных обозначена как other; конкретные условия следует сверить с лицензией репозитория.

Карточка модели Darth-Coder/my-model3-14b-it на Hugging Face совпадает с карточкой Qwen/Qwen3-14B, поэтому описание составлено по ней. Qwen3-14B — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Это дообученная версия Qwen3-14B-Base с 14 млрд параметров; метаданные указывают на архитектуру Qwen3ForCausalLM и формат safetensors. Модель предназначена для генерации текста и диалогов, следования инструкциям, рассуждений, написания кода, перевода и работы с инструментами. Она поддерживает режимы рассуждения и обычного ответа, а также более 100 языков и диалектов. Контекстное окно, указанное в метаданных, составляет 40 960 токенов. Карточка описывает 32 768 токенов нативно и возможность расширения до 131 072 с YaRN. Для использования требуется библиотека Transformers; модель распространяется по лицензии Apache 2.0. Она принимает текстовые запросы и генерирует текст, а подключение внешних инструментов реализуется через интерфейс приложения.

NVIDIA-Nemotron-3-Ultra-550B-A55B-FP8-dynamic — языковая модель, разработанная Red Hat на базе NVIDIA-Nemotron-3-Ultra-550B-A55B-BF16 от NVIDIA. Она предназначена для генерации и преобразования текста, рассуждений и решения сложных задач, математики и естественных наук, генерации кода, следования инструкциям и вызова инструментов. Модель поддерживает вход и выход в текстовой модальности, а также tool calling. Модель построена на архитектуре NemotronHForCausalLM и содержит 550 млрд параметров, из которых 55 млрд являются активными. Веса и активации линейных операторов в трансформерных блоках квантизированы в FP8: для весов используется статическая симметричная поканальная схема, для активаций — динамическая симметричная схема на токен. Это примерно вдвое снижает требования к памяти и размеру файлов, а также может повысить пропускную способность матричных вычислений примерно в два раза. Для эффективного развертывания заявлена интеграция с vLLM; в примере конфигурации используется максимальная длина последовательности 262144 токена. Заявленные языки включают английский, французский, испанский, итальянский, немецкий, португальский, японский, корейский, хинди, арабский, китайский и иврит. Сильными сторонами модели являются большой общий объём параметров, активная разреженная вычислительная конфигурация, поддержка рассуждений, программирования и инструментов, а также преимущества FP8-квантизации. Ограничения включают высокие требования к вычислительной инфраструктуре и зависимость эффективного развертывания от совместимого стека, включая vLLM и специальные парсеры. Модель распространяется по лицензии openmdw-1.1; использование в нарушение применимых законов и нормативных требований исключено из области применения.

axana-labs/Qwen2.5-72B-Instruct-bnb-4bit — 4-битная версия instruction-tuned языковой модели Qwen2.5-72B-Instruct, разработанной командой Qwen/Alibaba Cloud и опубликованной в формате, совместимом с Transformers. Модель предназначена для диалоговых сценариев, следования инструкциям, генерации и анализа текста, работы со структурированными данными, создания JSON, программирования и математических задач. Модель относится к causal language models и использует архитектуру с RoPE, SwiGLU, RMSNorm, смещениями в QKV и Grouped Query Attention: 64 головы для Q и 8 для KV. Исходная модель содержит около 72,7 млрд параметров, из них 70 млрд без учёта embedding, имеет 80 слоёв, поддерживает контекст до 131 072 токенов и генерацию до 8 192 токенов. Заявлена поддержка более 29 языков, включая китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. Ключевое преимущество этой версии — 4-битное представление параметров, которое должно снижать требования к памяти и упрощать локальный запуск по сравнению с полноразмерной моделью. Сильными сторонами исходной Qwen2.5 заявлены улучшенные знания, программирование, математика, следование инструкциям, обработка длинных текстов и устойчивость к различным системным промптам. README не содержит подробных сведений о точном формате квантования, аппаратных требованиях, результатах тестирования именно этой сборки или ограничениях качества, поэтому их нельзя определить по имеющимся данным. Лицензия указана как other; конкретные условия использования в README не приведены.

Granite-3.2-2B-Instruct-GGUF — модель IBM Granite, разработанная командой Granite Team компании IBM. Это GGUF-конверсия базовой модели Granite-3.2-2B-Instruct с различными вариантами квантования. Модель предназначена для выполнения общих инструкций и интеграции в AI-ассистентов, включая бизнес-приложения. Модель содержит около 2 миллиардов параметров и ориентирована на задачи рассуждения с управляемым включением режима thinking только при необходимости. Она поддерживает суммаризацию, классификацию и извлечение текста, ответы на вопросы, Retrieval Augmented Generation (RAG), работу с кодом, function calling, многоязычный диалог и задачи с длинным контекстом, включая обработку больших документов и протоколов встреч. Заявлена поддержка английского, немецкого, испанского, французского, японского, португальского, арабского, чешского, итальянского, корейского, нидерландского и китайского языков. К сильным сторонам относятся компактный размер, поддержка reasoning-сценариев, длинного контекста и широкого набора прикладных задач. Точный размер контекстного окна и характеристики отдельных вариантов квантования в предоставленных данных не указаны; формат GGUF может требовать совместимого программного обеспечения для запуска. Модель распространяется по лицензии Apache 2.0.

Карточка модели Gensyn/Qwen2.5-7B-Instruct на Hugging Face совпадает с карточкой unsloth/Qwen2.5-7B-Instruct, поэтому описание составлено по ней. unsloth/Qwen2.5-7B-Instruct — инструктивная языковая модель семейства Qwen2.5, опубликованная Unsloth как производная от Qwen/Qwen2.5-7B-Instruct. Это плотная авторегрессионная модель с 7,1 млрд параметров; карточка указывает архитектуру Qwen2 и поддержку Transformers, а README описывает 28 слоёв, RoPE, SwiGLU, RMSNorm и механизм группового внимания GQA. Метаданные указывают контекст 32 768 токенов. Модель предназначена для диалогов и генерации текста по инструкциям. Она подходит для ответов на вопросы, написания и анализа кода, математических задач, создания длинных текстов и выдачи структурированных ответов, включая JSON. Поддерживает английский, русский, китайский и ряд других языков; заявлена поддержка более 29 языков. Метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст. README описывает возможность работы с более длинным контекстом через YaRN, но отмечает, что статическое масштабирование может ухудшить качество или производительность на коротких запросах. Модель выпущена под лицензией Apache-2.0.