I.14Автоматизация процессов и AI-агенты
В разделе собраны самостоятельные задачи, где AI помогает выполнять многошаговые цифровые процессы и координировать действия между системами. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
26 022 моделиHukyl/trocr-large-uk-handwritten — модель распознавания рукописного украинского текста на отдельных изображениях строк. Её разработал Hukyl на основе TrOCR-Large с архитектурой VisionEncoderDecoderModel: визуальный энкодер ViT-L/16 с разрешением 384 пикселя и декодер TrOCR; размер составляет около 558 млн параметров. Модель дообучена на смеси реальных и синтетических корпусов кириллического рукописного текста и предназначена также для дальнейшей адаптации к целевым данным. Модель принимает обрезанные изображения строк и выдаёт распознанный текст. Для распознавания целых страниц сначала нужны сегментация строк или детектор областей. На документах вне обучающего распределения качество заметно ниже, чем на похожих обучающих данных: в описанной проверке CER составил 0,1925 на страницах Rukopys. Результаты проверки на обучающем распределении нельзя считать оценкой качества на реальных документах; для шумных архивных сканов рекомендуется дообучение на данных целевого домена. Лицензия весов — Apache-2.0; при распространении модели также требуется указывать атрибуцию датасета UkrHandwritten по условиям CC BY-SA 4.0.
ZihCiLin разработала TrOCR-модель на архитектуре vision-encoder-decoder для распознавания традиционного китайского текста на изображениях. Модель обучена с нуля на 4,1 млн синтетических пар «изображение—текст» и рассчитана на OCR исторических документов. Поддерживаются горизонтальная и вертикальная верстка, а набор символов включает 13 172 знака CNS11643. Модель подходит для распознавания традиционного китайского текста и оцифровки исторических документов с чистой печатной разметкой. На сильно повреждённых реальных документах и рукописях качество может снижаться; для исторических рукописей автор рекомендует вариант с дополнительным дообучением. Лицензия в доступных данных не указана.
Kyutai TTS — потоковая модель синтеза речи от Kyutai. Она начинает генерировать аудио после получения первых слов, поэтому подходит для диалогов и сценариев с низкой задержкой. Модель поддерживает английский и французский языки, а также обусловливание голоса с помощью заранее вычисленных голосовых эмбеддингов из репозитория голосов Kyutai. Архитектура — иерархический decoder-only Transformer с примерно 1,8 млрд параметров: основная модель содержит 1 млрд параметров, а depth-трансформер — 600 млн. Модель генерирует аудиотокены Mimi с частотой 12,5 кадров в секунду; при инференсе можно использовать меньше токенов на кадр для ускорения генерации. Веса доступны в формате safetensors и распространяются по лицензии CC-BY 4.0. Модель предназначена для потокового синтеза, поддерживает пакетную обработку и не требует удваивать размер пакета для CFG благодаря дистилляции CFG. Прямой CFG не поддерживается. Встроенного водяного знака нет; клонирование голоса ограничено использованием заранее вычисленных голосовых эмбеддингов.
mhdiirsyad/unsloth-qwen3-1.7B-finetune-v1 — дообученная разговорная языковая модель семейства Qwen3 с плотной архитектурой Qwen3ForCausalLM и 1,7 млрд параметров. Она предназначена для генерации текста в диалоговом формате; в метаданных также заявлен интерфейс для вызова инструментов. Модель дообучена на базе unsloth/qwen3-1.7b-unsloth-bnb-4bit с использованием Unsloth и библиотеки Hugging Face TRL. Репозиторий содержит веса Safetensors. Указанный родной контекст составляет 40 960 токенов; карточка модели отмечает английский язык. Лицензия — Apache-2.0. Карточка не описывает состав обучающих данных, конкретную специализацию дообучения или результаты оценивания, поэтому качество ответов и надёжность вызова инструментов по ней определить нельзя. Модель следует рассматривать как универсальную разговорную модель без подтверждённых узких прикладных областей.
Vela Hazard — модель классификации текстов от vllm-sr, дообученная на базе Vela-1.0-Encoder-307M. Она возвращает 12 независимых оценок риска для текста; одновременно могут срабатывать несколько категорий. Модель построена на архитектуре ModernBERT, содержит 306,9 млн параметров и принимает до 32 768 токенов, включая специальные токены. Модель предназначена для выявления рисков в текстах, включая самоповреждение, разжигание ненависти, специализированные советы, нарушения приватности и дезинформацию. Для длинных текстов README предписывает оценивать окна по 2 048 токенов с шагом 1 023 токена, брать максимум оценки для каждой категории и применять сохранённые пороги. В сравнении на 57 запросах по пяти общим категориям указаны macro F1 96,73% и точность 98,25%; оценка не охватывает полноценно все 12 категорий, распознавание безопасных текстов и точность на длинном контексте. Модель доступна в форматах Safetensors и ONNX, лицензия — Apache-2.0. В README приведены инструкции по запуску через Transformers и PyTorch.
ViAble-1.7-9B — модель для генерации текста с акцентом на рассуждения, созданная дообучением Qwen 3.5 9B. Разработчик применил supervised fine-tuning на примерно 98 тысячах дистилляционных примеров и затем этап GRPO; в репозитории размещены объединённые веса bf16 без необходимости подключать адаптер. Модель построена на плотной архитектуре Qwen3.5 и содержит 7,2 млрд параметров. Модель предназначена для диалогов и задач, где полезны пошаговые рассуждения, включая математические задачи и вопросы с выбором ответа. В README приведены результаты GSM8K, MMLU и MMLU-Pro; автор отдельно предупреждает, что протокол оценки MMLU отличается от распространённых harness-настроек и результаты напрямую несопоставимы. Метаданные указывают поддержку английского языка и контекст до 262 144 токенов. Для загрузки требуется Transformers версии 5.15.1 или новее. Длинные цепочки рассуждений могут требовать увеличения лимита генерации, а ответы могут содержать ошибки и галлюцинации, поэтому их следует проверять в критичных сценариях. Условия лицензирования в доступных данных не приведены.
Карточка модели thanhtantran/Vietnamese_Reranker на Hugging Face совпадает с карточкой AITeamVN/Vietnamese_Reranker, поэтому описание составлено по ней. Vietnamese_Reranker — переранжировщик на основе Sentence Transformers, разработанный AITeamVN и дообученный на BAAI/bge-reranker-v2-m3. Он предназначен для повышения качества поиска на вьетнамском языке: модель оценивает релевантность документов запросу и помогает переставить найденные результаты в более полезном порядке. Для обучения использовано около 1,1 млн триплетов «запрос — релевантный документ — нерелевантный документ». Архитектура основана на XLM-RoBERTa и классификаторе последовательностей; модель содержит 658,7 млн параметров. В README указана максимальная длина последовательности 2304 токена, а метаданные каталога указывают контекст 8194 токена. Лицензия — Apache 2.0. Модель рассчитана прежде всего на вьетнамский поиск и ранжирование, включая оценку результатов для юридических запросов. В README приведена оценка на датасете Legal Zalo 2021, который не использовался при обучении: Accuracy@1 — 0,7944, MRR@10 — 0,8672. Показатели на этом наборе не гарантируют аналогичного качества в других областях; ограничения длины из README следует учитывать при обработке длинных запросов и документов.
ai4bharat/vits_rasa_13 — модель синтеза речи на основе архитектуры VITS, дообученная AI4Bharat для индийских языков. Она преобразует текст в речь и предназначена для разговорных интерфейсов, аудиокниг и других приложений озвучивания. Модель поддерживает ассамский, бенгальский, бодо, догри, каннада, майтхили, малаялам, маратхи, непальский, пенджаби, санскрит, тамильский и телугу, а также различные стили, эмоции и предустановленные мужские и женские профили дикторов. Репозиторий использует формат safetensors и библиотеку Transformers. Лицензия — CC BY 4.0.
Это плотный энкодер фрагментов текста для поиска по Википедии, разработанный командой Castorini. Модель построена на архитектуре BERT и обучена с помощью библиотеки Tevatron как часть второй итерации Dense Passage Retrieval для варианта корпуса wiki-all-8-4; размер составляет 136,7 млн параметров, максимальная длина входа — 512 токенов. В репозитории представлены веса Flax. Модель предназначена для преобразования текстовых фрагментов в векторные представления, которые можно использовать для поиска релевантных документов и ответов на вопросы по открытым источникам. Обучение проводилось на объединении наборов NQ, TriviaQA, WQ и CuratedTREC с корпусом Википедии. Для полноценного DPR-поиска обычно требуется соответствующий энкодер запросов и система векторного поиска; эта модель кодирует именно passages. Лицензия в предоставленных данных не указана.
Это модель XLM-RoBERTa Base, дообученная для классификации токенов. В карточке указан результат F1 0,8586 на оценочной выборке, однако набор данных обозначен как None, поэтому результат нельзя связать с конкретным тестовым корпусом. Модель основана на архитектуре XLM-RoBERTa, содержит 305,2 млн параметров и принимает последовательности длиной до 514 токенов. Модель предназначена для присвоения меток отдельным токенам, например для распознавания именованных сущностей. По названию репозитория она настроена на немецкий и французский варианты задачи PAN-X, но карточка не описывает точную схему меток и оценочные данные. Весовые файлы доступны в формате safetensors. Лицензия — MIT.
vish88 выпустил дообученную модель классификации текста на базе clevrly/xlnet-base-mnli-finetuned. Она использует архитектуру XLNetForSequenceClassification и содержит 137,8 млн параметров. В README указаны результаты оценки: loss 0,1542 и F1 0,6957. Модель подходит для классификации текста; конкретные метки классов и целевая предметная область в карточке не описаны. Данные для дообучения обозначены как None, поэтому установить назначение суффикса «orgs» по карточке нельзя. Репозиторий содержит веса PyTorch и распространяется по лицензии MIT.
GPT-5.6 Terra — языковая модель OpenAI общего назначения, предназначенная для рабочих сценариев, где важен баланс возможностей и стоимости. Она поддерживает рассуждение с настраиваемым уровнем усилий, вызов функций, структурированный вывод и работу с инструментами через Responses API. Модель принимает текст и изображения, а выдаёт текст; заявленное окно контекста — 1 050 000 токенов, максимальный объём ответа — 128 000 токенов. Terra подходит для программирования, анализа и создания документов, поиска по информации и выполнения многошаговых задач с инструментами. В API доступны веб-поиск, поиск по файлам, интерпретатор кода и управление компьютером. OpenAI указывает, что аудио- и видеовходы не поддерживаются. Модель предоставляется через API и сервисы OpenAI; открытая лицензия на веса не указана.
Qwen2.5-32B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Это плотная авторегрессионная модель на 32 млрд параметров для диалога и генерации текста; поддерживает интерфейс вызова инструментов. В архитектуре используются RoPE, SwiGLU, RMSNorm и смещение в проекциях QKV внимания. Модель предназначена для следования инструкциям, написания длинных ответов, работы с таблицами и другими структурированными данными, а также генерации структурированного вывода, включая JSON. Она также подходит для задач программирования и математики. В README заявлена поддержка более 29 языков, включая русский и английский. Метаданные указывают контекст в 32 768 токенов; для этой версии README рекомендует конфигурацию до 131 072 токенов с YaRN для длинных входов, а генерацию — до 8 192 токенов. Модель распространяется в формате safetensors и работает через Transformers. Лицензия — Apache-2.0. Для контекстов длиннее 32 768 токенов требуется настройка YaRN; статическое масштабирование YaRN в vLLM может ухудшать производительность на коротких текстах.
NVIDIA подготовила FP8-квантизированную версию языковой модели Qwen3-235B-A22B, разработанной Alibaba. Это авторегрессионная разреженная трансформерная модель архитектуры Qwen3 MoE для генерации текста; в репозитории указано 18,2 млрд параметров, а базовая модель описана как крупная MoE-модель для диалогов, рассуждений, программирования, перевода и работы с инструментами. Модель принимает текст и выдаёт текст, поддерживает чат и интерфейс вызова инструментов. В метаданных указан контекст 40 960 токенов; README заявляет до 131 тыс. токенов. Модель предназначена для развёртывания в агентных системах, чат-ботах, RAG-системах и других приложениях на базе ИИ. Квантизация весов и активаций линейных операторов в блоках трансформера до FP8 снижает требования к диску и памяти GPU примерно в 1,6 раза относительно 16-битного представления. Для запуска README указывает TensorRT-LLM, Linux и графические процессоры NVIDIA Blackwell. README разрешает коммерческое и некоммерческое использование; лицензия в метаданных — Apache-2.0.
Qwen3-8B — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Версия содержит 7,6 млрд параметров по метаданным и дообучена на базе Qwen/Qwen3-8B-Base; карточка описывает этапы предварительного обучения и последующего обучения. Модель принимает текст и генерирует текст, поддерживает диалог и интерфейс вызова инструментов. Модель предназначена для диалоговых помощников, следования инструкциям, рассуждений, решения математических задач, генерации кода, творческого письма и перевода. Она поддерживает более 100 языков и диалектов и позволяет переключаться между режимами рассуждения и обычного ответа. Метаданные указывают нативный контекст 40 960 токенов; README приводит 32 768 токенов нативно и до 131 072 с YaRN. Лицензия — Apache-2.0. Качество ответов и рассуждений может зависеть от задачи и формулировки запроса; генерация кода и ответы модели требуют проверки. Значение контекстного окна в README отличается от метаданных, а заявленное расширение с YaRN требует соответствующей настройки.
unsloth/Qwen3-8B — плотная причинно-авторегрессионная языковая модель семейства Qwen3, основанная на Qwen/Qwen3-8B и опубликованная Unsloth. По карточке модели, она предназначена для генерации текста и диалогов, следования инструкциям, рассуждений, математики и программирования; также поддерживает интерфейс вызова инструментов. Qwen3 позволяет переключаться между режимами рассуждения и обычного ответа. Метаданные указывают 7,6 млрд параметров и контекст до 40 960 токенов; модель распространяется в формате safetensors и рассчитана на использование с Transformers. Карточка базовой модели заявляет поддержку более 100 языков и диалектов, включая многоязычные инструкции и перевод. Модель может быть полезна для чат-ботов, генерации и редактирования текста, помощи с кодом и агентных сценариев с инструментами. Указана лицензия Apache-2.0. Заявленный в README базовой модели размер параметрического набора и длина контекста отличаются от значений метаданных этой записи, поэтому здесь приведены значения метаданных каталога.
nicecurls/gemma-4-12B-it — дообученная instruction-tuned версия Gemma 4 12B Unified, мультимодальной модели Google DeepMind. Она предназначена для диалогов, генерации текста и кода, рассуждений, работы с изображениями, видео и аудио, а также для сценариев с вызовом инструментов. Модель принимает текст, изображения, видео и аудио и генерирует текст. Архитектура — плотная Gemma4UnifiedForConditionalGeneration; веса опубликованы в формате safetensors и доступны через Transformers. Для базовой Gemma 4 12B заявлено контекстное окно до 256 тысяч токенов. Семейство поддерживает более 140 языков при обучении и мультиязычные сценарии; распознавание речи и перевод речи в текст поддерживаются для варианта 12B. Модель подходит для локального развертывания на достаточно мощном оборудовании, анализа документов и визуального содержимого, транскрибации речи и агентных рабочих процессов. Лицензия — Apache 2.0. Конкретные ограничения производительности этой производной версии не описаны; как и другие генеративные модели, она может ошибаться в ответах и интерпретации мультимодальных данных.
K2-Horizon-7B — плотная авторегрессионная языковая модель семейства K2-Horizon от IFM, предназначенная для генерации текста и диалогового взаимодействия. Модель имеет около 8 млрд параметров и поддерживает контекст до 524 288 токенов; карточка описывает её как 7B-core модель с окном контекста 512K. Веса опубликованы в формате Safetensors, лицензия — Apache-2.0. Модель рассчитана на сценарии рассуждений, программирования, работы с длинным контекстом и агентных задач; README приводит результаты оценки на соответствующих бенчмарках и описывает обучение для снижения повторяющихся циклов в длинных генерациях. Доступны промежуточные контрольные точки для изучения изменений возможностей в ходе обучения, а обучающие данные, код и материалы оценки заявлены как открытые. Метаданные указывают английский язык карточки, но это не гарантирует, что модель поддерживает только английский.
unsloth/Kimi-K2-Thinking-BF16 — публикация модели Kimi K2 Thinking в формате BF16, размещённая Unsloth и основанная на moonshotai/Kimi-K2-Thinking. Это текстовая разговорная модель с архитектурой DeepSeek V3; карточка описывает исходную Kimi K2 Thinking как модель с архитектурой Mixture-of-Experts, примерно 1 трлн параметров и 32 млрд активируемых параметров. В метаданных данной публикации указано 37,9 млрд параметров. Модель предназначена для сложных рассуждений, работы с инструментами, исследований, программирования и написания текстов. Заявлены контекст до 256 тыс. токенов и способность поддерживать длинные последовательности вызовов инструментов; результаты тестов в README получены с поиском, браузером и интерпретатором кода там, где указано использование инструментов. Это текстовая модель, а не модель для обработки изображений или аудио. Метаданные указывают лицензию «other», поэтому конкретные условия использования следует сверять с лицензией и уведомлениями в репозитории. README описывает INT4-квантизацию исходной Kimi K2 Thinking, однако эта публикация заявлена как BF16, а в метаданных указан формат safetensors; результаты и характеристики исходной версии не следует автоматически переносить на эту публикацию.
Карточка модели ArchiveStudio/Qwen2.5-32B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-32B-Instruct, поэтому описание составлено по ней. Qwen2.5-32B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Это плотная авторегрессионная модель на 32 млрд параметров для диалога и генерации текста; поддерживает интерфейс вызова инструментов. В архитектуре используются RoPE, SwiGLU, RMSNorm и смещение в проекциях QKV внимания. Модель предназначена для следования инструкциям, написания длинных ответов, работы с таблицами и другими структурированными данными, а также генерации структурированного вывода, включая JSON. Она также подходит для задач программирования и математики. В README заявлена поддержка более 29 языков, включая русский и английский. Метаданные указывают контекст в 32 768 токенов; для этой версии README рекомендует конфигурацию до 131 072 токенов с YaRN для длинных входов, а генерацию — до 8 192 токенов. Модель распространяется в формате safetensors и работает через Transformers. Лицензия — Apache-2.0. Для контекстов длиннее 32 768 токенов требуется настройка YaRN; статическое масштабирование YaRN в vLLM может ухудшать производительность на коротких текстах.
Qwen3-235B-A22B-Instruct-2507 — крупная языковая модель семейства Qwen3 от команды Qwen. Это причинная MoE-модель с 235 млрд параметров всего и 22 млрд активируемых параметров; в архитектуре 94 слоя и 128 экспертов, из которых для обработки активируются 8. Модель работает в режиме без пошагового рассуждения и предназначена для генерации текста в ответ на инструкции и диалоговые запросы. Модель подходит для следования инструкциям, логических рассуждений, понимания текста, математики, науки, программирования и вызова инструментов. Она рассчитана на многоязычные сценарии и заявляет улучшенный охват редких знаний на разных языках. Нативное контекстное окно составляет 262 144 токена; README описывает расширение до примерно 1,01 млн токенов с использованием Dual Chunk Attention и MInference. К сильным сторонам относятся широкие общие возможности, работа с длинными документами и поддержка интерфейса вызова инструментов. Контекст около миллиона токенов требует специальной настройки и примерно 1000 ГБ суммарной памяти GPU, поэтому такое развертывание предъявляет очень высокие аппаратные требования. Модель распространяется по лицензии Apache-2.0.
Qwen3-30B-A3B — языковая модель семейства Qwen3, разработанная командой Qwen. Это причинная модель с архитектурой mixture-of-experts: в README указаны 30,5 млрд параметров всего и 3,3 млрд активируемых параметров, 48 слоёв и 128 экспертов, из которых для обработки задействуются 8. Модель предназначена для генерации текста и диалогов, следования инструкциям, рассуждений, математики, программирования, творческого письма, перевода и работы с внешними инструментами. В ней можно переключаться между режимами рассуждения и обычного ответа. Заявлена поддержка более 100 языков и диалектов. Метаданные указывают библиотеку Transformers, формат Safetensors и контекст 40 960 токенов; README описывает нативный контекст 32 768 токенов и расширение до 131 072 с YaRN. Модель дообучена на Qwen/Qwen3-30B-A3B-Base и распространяется по лицензии Apache-2.0. Указанные в README возможности рассуждения и работы с инструментами не заменяют внешнюю проверку ответов и корректную настройку интеграций.
Qwen3-30B-A3B-GGUF — квантизированное представление причинной языковой модели Qwen3-30B-A3B, разработанной командой Qwen компании Alibaba Cloud. Модель предназначена для генерации текста, диалогов, следования инструкциям, математического и логического рассуждения, программирования, творческого письма, ролевого взаимодействия, перевода и агентских сценариев с интеграцией внешних инструментов. Она поддерживает более 100 языков и диалектов и допускает переключение между режимами рассуждения и обычного диалога в рамках одной модели. Модель построена по архитектуре mixture-of-experts (MoE): содержит 30,5 млрд параметров, из которых 3,3 млрд активируются при обработке запроса; число слоёв — 48, используется Grouped-Query Attention с 32 головами Q и 4 головами KV, 128 экспертами и 8 активируемыми экспертами. Нативная длина контекста составляет 32 768 токенов, а с применением YaRN заявлена поддержка до 131 072 токенов. Доступны варианты квантизации q4_K_M, q5_0, q5_K_M, q6_K и q8_0 в формате GGUF. Сильные стороны модели — сочетание возможностей рассуждения и эффективного режима общего назначения, мультиязычность, следование инструкциям и поддержка агентских задач. Ограничения включают возможное снижение качества на коротких текстах при некорректно настроенном статическом YaRN, а также зависимость производительности и требований к ресурсам от выбранного уровня квантизации и конфигурации запуска. Модель распространяется по лицензии Apache-2.0.
Qwen3-30B-A3B-Instruct-2507 — языковая модель компании Qwen на архитектуре причинного MoE-декодера. В модели 30,5 млрд параметров, из которых при генерации активируются 3,3 млрд; она включает 48 слоёв и 128 экспертов, из которых активны восемь. Модель обучена для режима без рассуждений в специальном формате и доступна под лицензией Apache 2.0. Модель предназначена для диалогов и выполнения инструкций, генерации и понимания текста, логических и математических задач, вопросов по науке, программирования и вызова инструментов. Она поддерживает многоязычные сценарии и нативный контекст до 262 144 токенов; в README также описана экспериментальная настройка обработки контекста около миллиона токенов с DCA и разреженным вниманием, требующая примерно 240 ГБ видеопамяти. К сильным сторонам относятся следование инструкциям, работа с длинным контекстом и инструментами. Ограничение: модель работает только в режиме без рассуждений; обработка около миллиона токенов требует дополнительной настройки и значительных ресурсов.
NVIDIA Qwen3.8-2.4T-A95B-NVFP4 — квантизированная версия языковой модели Alibaba Qwen3.8-2.4T-A95B, подготовленная с помощью NVIDIA Model Optimizer. Модель предназначена для генерации текста, программирования, профессиональных и исследовательских задач, а также длительных агентных сценариев с использованием инструментов. Она принимает текстовые строки и формирует текстовые ответы, включая естественный язык, код, вызовы инструментов и структурированные данные в зависимости от конфигурации приложения. Модель использует архитектуру Transformers с гибридным механизмом внимания и блоками Mixture-of-Experts. Общее количество параметров составляет 2,4 трлн, из них активируется 95 млрд. Поддерживается контекст длиной до 1 млн токенов. Версия NVFP4 применяет 4-битное квантование весов и активаций линейных операторов в трансформерных блоках, что снижает требования к памяти по сравнению с 16-битным представлением. Предусмотрен запуск через vLLM и SGLang на GPU NVIDIA Blackwell; предпочтительная операционная система — Linux. Сильные стороны модели — большой контекст, масштабная MoE-архитектура, возможности в программировании, научном рассуждении, следовании инструкциям, извлечении информации из длинных контекстов и агентном использовании инструментов. Язык обучения и полный состав обучающих данных не раскрыты, а приведённые сведения об оценивании относятся преимущественно к текстовым задачам. Модель оптимизирована для систем с GPU NVIDIA, поэтому её применение на CPU или неподдерживаемом оборудовании может быть ограничено. Использование разрешено в коммерческих и некоммерческих целях на условиях NVIDIA Open Model Agreement; исходная модель разработана Alibaba, а не NVIDIA.
Cohere и Cohere Labs разработали Command R 08-2024 — авторегрессионную языковую модель с открытыми весами на 32 млрд параметров. Она использует оптимизированную архитектуру Transformer с grouped-query attention и после предварительного обучения прошла supervised fine-tuning и обучение на предпочтениях. Модель принимает и генерирует текст, поддерживает контекст до 128 тысяч токенов и обучена на 23 языках. Модель предназначена для диалогов, рассуждений, суммаризации и ответов на вопросы. Она умеет формировать ответы на основе предоставленных фрагментов документов с указанием цитируемых источников, что подходит для grounded generation и этапа генерации ответа в RAG-системах. Также предусмотрен вызов внешних инструментов в один шаг: модель выбирает инструмент и формирует параметры вызова, а выполнение выполняет приложение. В карточке указаны обучение на английском, французском, испанском, итальянском, немецком, португальском, японском, корейском, арабском, китайском, русском, польском, турецком, вьетнамском, нидерландском, чешском, индонезийском, украинском, румынском, греческом, хинди, иврите и персидском; оценивание проводилось на десяти языках. Для корректной работы с цитированием и вызовом инструментов нужны рекомендованные шаблоны запросов. Лицензия CC-BY-NC-4.0 требует соблюдения Acceptable Use Policy Cohere Labs и ограничивает коммерческое использование.
Cohere и Cohere Labs разработали Command-R — авторегрессионную языковую модель на основе оптимизированного Transformer с 35 млрд параметров. После предварительного обучения модель прошла дообучение с учителем и обучение на предпочтениях. Это выпуск с открытыми весами, предназначенный для генерации текста, рассуждений, суммаризации и ответов на вопросы; модель поддерживает чат и работу с внешними инструментами по специальному шаблону запросов. Command-R принимает и генерирует текст, поддерживает контекст до 128 тыс. токенов и оптимизирована для английского, французского, испанского, итальянского, немецкого, бразильского португальского, японского, корейского, китайского и арабского языков. Среди её ключевых возможностей — генерация ответов с опорой на предоставленные фрагменты документов и цитированием источников для сценариев RAG. Для работы с grounded generation и вызовом инструментов рекомендуется соблюдать шаблоны запросов из документации: отклонение от них может снизить качество. Режим быстрых цитат обменивает часть точности на меньшее число генерируемых токенов. Лицензия CC-BY-NC-4.0 требует некоммерческого использования и соблюдения политики допустимого использования Cohere Labs.
Карточка модели crusoeai/DeepSeek-V4-Flash-BF16 на Hugging Face совпадает с карточкой RedHatAI/DeepSeek-V4-Flash-BF16, поэтому описание составлено по ней. RedHatAI/DeepSeek-V4-Flash-BF16 — версия модели DeepSeek-V4-Flash, опубликованная Red Hat AI. Это языковая модель архитектуры DeepSeek V4 для генерации текста; README описывает семейство как MoE, обученное на более чем 32 трлн токенов с последующей настройкой для разных областей и объединением навыков дистилляцией. Модель предназначена для диалогов, рассуждений, планирования, агентных сценариев и задач программирования. Для серии заявлен контекст до 1 048 576 токенов, а карточка репозитория указывает 10,7 млрд параметров. В README для Flash описаны режимы рассуждения от быстрых ответов до более глубокого анализа. Семейство использует гибридное внимание CSA/HCA для эффективной работы с длинным контекстом. Репозиторий использует библиотеку Transformers и формат safetensors; лицензия — MIT. README указывает, что в релизе нет Jinja-шаблона чата и для кодирования сообщений и разбора ответов предоставляются отдельные скрипты.
RedHatAI/DeepSeek-V4-Flash-BF16 — версия модели DeepSeek-V4-Flash, опубликованная Red Hat AI. Это языковая модель архитектуры DeepSeek V4 для генерации текста; README описывает семейство как MoE, обученное на более чем 32 трлн токенов с последующей настройкой для разных областей и объединением навыков дистилляцией. Модель предназначена для диалогов, рассуждений, планирования, агентных сценариев и задач программирования. Для серии заявлен контекст до 1 048 576 токенов, а карточка репозитория указывает 10,7 млрд параметров. В README для Flash описаны режимы рассуждения от быстрых ответов до более глубокого анализа. Семейство использует гибридное внимание CSA/HCA для эффективной работы с длинным контекстом. Репозиторий использует библиотеку Transformers и формат safetensors; лицензия — MIT. README указывает, что в релизе нет Jinja-шаблона чата и для кодирования сообщений и разбора ответов предоставляются отдельные скрипты.
NVIDIA DeepSeek-V4-Flash-NVFP4 — это квантизированная версия DeepSeek-V4-Flash, разработанного DeepSeek AI. NVIDIA подготовила модель с использованием Model Optimizer, но не является её владельцем или исходным разработчиком. Модель предназначена для генерации текста, сложного рассуждения, агентных AI-приложений, сценариев с использованием инструментов, математики, программной инженерии и корпоративных AI-ассистентов. Модель использует архитектуру Transformer с Mixture-of-Experts и гибридным вниманием, включающим Compressed Sparse Attention и Heavily Compressed Attention, а также Manifold-Constrained Hyper-Connections. Общее число параметров составляет 284 млрд, из них активируется 13 млрд. Поддерживается только текстовый ввод и вывод, многошаговые диалоги, системные инструкции, структурированный JSON, function/tool calling и выдача рассуждений. Максимальная длина контекста — 1 млн токенов. Доступны режимы Non-think, Think High и Think Max; используется специальный pipeline кодирования encoding_dsv4. К сильным сторонам относятся большой контекст, поддержка углублённого рассуждения, инструментального взаимодействия и задач программирования. Модель квантизирована в формат NVFP4, что ориентировано на ускоренный инференс на GPU NVIDIA. Указаны поддерживаемые среды SGLang и vLLM, операционная система Linux и совместимость с архитектурой NVIDIA Blackwell; тестирование проводилось на NVIDIA B200. Данные обучения не раскрыты, поэтому характеристики качества следует проверять на прикладных задачах. Для безопасного внедрения требуется дополнительное тестирование и валидация. Лицензия указана как MIT, модель доступна для коммерческого и некоммерческого использования.