III.7Аудит, внутренний контроль и налоги
В разделе собраны самостоятельные задачи, где AI помогает искать ошибки, нарушения и налоговые риски, сохраняя проверяемый аудиторский след. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
336 моделейNextSearch-1-S — дообученная модель NextTokenAI на базе Qwen3.6-35B-A3B, предназначенная для агентного веб-исследования в составе системы с оркестратором. Она разбивает вопрос на подзадачи, ищет и загружает материалы из актуального веба через инструменты search и fetch, сопоставляет противоречивые сведения и формирует краткий ответ или структурированный результат исследования. Архитектура — MoE, 35 млрд параметров; модель работает с текстом и поддерживает интерфейс вызова инструментов. Для использования ей нужны системный промпт с датой задачи и настроенные инструменты; в README приведён пример запуска через vLLM с максимальной длиной контекста 65536 токенов. В тестах разработчика на нескольких наборах для поиска и исследования NextSearch-1-S показала сильные результаты на задачах с несколькими ограничениями и структурированными данными; оценки получены на собственном стенде и не сопоставимы напрямую с результатами других публикаций. Карточка не сообщает о специальной языковой специализации. Модель распространяется под лицензией Apache-2.0.
Карточка модели Jasper022/Nemotron-3-Nano-Omni-30B-A3B-Reasoning-BF16 на Hugging Face совпадает с карточкой NVIDIA: Nemotron 3 Nano Omni (free), поэтому описание составлено по ней. NVIDIA Nemotron 3 Nano Omni — разработанная NVIDIA мультимодальная модель семейства Nemotron Nano для понимания текста, изображений, аудио и видео. Она предназначена для корпоративных сценариев: ответов на вопросы и суммаризации мультимедийных материалов, транскрибации речи, анализа документов и GUI, а также для рабочих процессов с агентами. Модель поддерживает OCR, понимание речи и видео, плотные описания видео и извлечение информации из сложных деловых документов. Её можно применять в службе поддержки, медиа и развлечениях, обработке договоров и финансовых документов, а также в браузерных и почтовых агентах. В метаданных указана архитектура NemotronH_Nano_Omni_Reasoning_V3, тип dense и библиотека Transformers; веса опубликованы в формате safetensors. README рекомендует начинать развёртывание с длины контекста 131072 токена на Spark, но это рекомендация по настройке, а не заявленный предел контекста. Модель улучшена с использованием Qwen3-VL-30B-A3B-Instruct, Qwen3.5-122B-A10B, Qwen3.5-397B-A17B, Qwen2.5-VL-72B-Instruct и gpt-oss-120b. README сообщает о доступности для коммерческого использования, тогда как метаданные обозначают лицензию как other; перед внедрением следует проверить условия лицензии в карточке. Модель рассчитана на мультимодальные корпоративные задачи, но карточка не приводит количественных оценок качества.
Solar Pro 4 — большая языковая модель компании Upstage, предназначенная для длительных задач и агентных сценариев. В карточке указано контекстное окно размером 524 тыс. токенов. Модель рассчитана на работу с длинными документами и задачи офисной продуктивности. README также отмечает поддержку агентных рабочих процессов, но не приводит подробностей об архитектуре, размере модели, языках или условиях лицензии.
Command A+ — флагманская модель Cohere для корпоративных агентных сценариев. Она принимает текст и изображения, поддерживает контекст длиной 192 тысячи токенов и нативный вызов инструментов со строгими схемами. Модель предназначена для многошаговых рабочих процессов, где требуется анализировать входные данные и обращаться к внешним инструментам. Доступный фрагмент карточки подтверждает поддержку текста и изображений, но не сообщает архитектуру, число параметров, языки, лицензию или ограничения. Поэтому эти характеристики нельзя надёжно описать.
German-RAG-MISTRAL-7B-v3.0-SFT-HESSIAN-AI — авторегрессионная языковая модель на архитектуре Transformer, разработанная командой Avemio AI при поддержке Hessian AI. Это SFT-дообучение модели German-RAG-MISTRAL-7B-v3.0-CPT-HESSIAN-AI для сценариев генерации с контекстом, полученным через поиск. Модель рассчитана прежде всего на немецкоязычные бизнес-сценарии: ответы на вопросы по найденным документам, извлечение релевантной информации, суммаризацию и рассуждения, в том числе о временных связях. Поддерживает немецкий и английский языки. Размер — 7,1 млрд параметров, длина контекста — до 32 768 токенов. В обучающих примерах также предусмотрен формат для интеграции с контекстом и ссылками на источники. Модель выдаёт текст и может генерировать недостоверные ответы; факты следует проверять. В README также отмечены риски предвзятых и вредоносных ответов при отсутствии фильтрации безопасности. Модель и код доступны по лицензии Apache 2.0.
Карточка модели llmware/slim-boolean-phi-3 на Hugging Face совпадает с карточкой llmware/slim-xsum-phi-3, поэтому описание составлено по ней. llmware разработала llmware/slim-xsum-phi-3 — дообученную на базе Microsoft Phi-3 модель серии DRAGON для ответов на вопросы по контексту в RAG-сценариях. Она предназначена для работы с текстовыми фрагментами и выдаёт ответы, извлечённые из предоставленных материалов; типовые задачи включают ответы на вопросы, извлечение значений и краткое суммирование. В карточке модели сообщается о тестировании на наборе RAG-инструкций, включая вопросы с ответом «не найдено», логические задачи и суммирование. Модель имеет плотную архитектуру Phi-3 с 3,7 млрд параметров и контекстное окно 4096 токенов. Указанный язык — английский. Репозиторий содержит веса PyTorch, модель поддерживает чат и распространяется по лицензии Apache 2.0. Результаты внутренних тестов не гарантируют точности на других данных: ответы могут быть неполными или неверными, поэтому их следует проверять.
openbmb/MiniCPM-V-4_5-AWQ — квантованная в формате AWQ версия мультимодальной модели MiniCPM-V 4.5, разработанная командой OpenBMB. Модель предназначена для понимания одиночных и нескольких изображений, видео, OCR, разбора документов и визуально-языкового диалога, включая локальное использование на мобильных и обычных устройствах. Модель построена на Qwen3-8B и SigLIP2-400M и содержит около 8 млрд параметров. Она поддерживает более 30 языков, обрабатывает изображения высокого разрешения с произвольным соотношением сторон и площадью до 1,8 млн пикселей, а также видео с высокой частотой обновления — до 10 кадров в секунду. Унифицированный 3D-Resampler сжимает видеотокены до 96 раз, а архитектура на основе LLaVA-UHD снижает количество визуальных токенов при работе с изображениями. Доступны режимы быстрого и глубокого рассуждения. Сильные стороны модели — заявленные высокие результаты в визуально-языковых задачах, OCR, распознавании рукописного текста, анализе PDF и длинных видео, а также возможность эффективного запуска через llama.cpp, Ollama, vLLM и SGLang. Ограничения, включая точные требования к памяти и аппаратному обеспечению, контекстное окно и условия коммерческого использования, в README не указаны. README также не содержит явной информации о лицензии, поэтому условия распространения следует уточнять отдельно.
Qwen-14b-chat-yarn-32k — разработанная yuyijiong версия Qwen-14b-chat, дообученная для работы с длинным контекстом. Это плотная модель семейства Qwen с 21,8 млрд параметров для генерации текста и диалогов. В README описаны обучение с Yarn-интерполяцией и QLoRA, а также адаптация для контекста до 32k токенов; в метаданных указан native context 8192 токена. Модель предназначена для китайского и английского языков: она отвечает на вопросы по длинным текстам, извлекает сведения из нескольких документов, суммирует материалы и поддерживает многоходовый диалог. Авторы сообщают о высокой точности поиска сведений в длинном контексте, включая тесты на 50k токенов, и о снижении эффекта «потери в середине». Для длинных входов рекомендуется размещать документы перед вопросом; для быстрого вывода требуется flash-attention2. Среди ограничений авторы отмечают склонность ответов к излишней многословности, ограниченное разнообразие инструкционных данных и снижение среднего результата на C-Eval с 69,1 до 60,8. Модель выпущена по лицензии CC-BY-NC-4.0, которая ограничивает коммерческое использование.
Llama 3.2 11B Vision Instruct — мультимодальная языковая модель Meta для диалога по изображениям. Она основана на авторегрессионном трансформере Llama 3.1 с отдельно обученным адаптером зрения: слои cross-attention передают представления изображений в языковую модель. Версия Instruct настроена с помощью supervised fine-tuning и обучения с обратной связью от людей. Модель содержит 11 млрд параметров и поддерживает контекст длиной до 128 тыс. токенов. Модель принимает текст и изображения и генерирует текст. Она предназначена для визуального распознавания и рассуждений, ответов на вопросы об изображениях и документах, создания подписей к изображениям, поиска соответствий между изображениями и текстом и визуальной привязки описаний к областям изображения. Для задач с изображениями официально поддерживается английский язык; для текстовых задач также заявлены немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Модель рассчитана на коммерческое и исследовательское применение. Лицензия Llama 3.2 Community License является пользовательской коммерческой лицензией; использование также ограничено Acceptable Use Policy. Это статическая модель, обученная на офлайн-данных; знания ограничены временным срезом до декабря 2023 года.
TSFT-RAG Gemma-3-4B-IT — полноразмерная дообученная модель на базе Google Gemma 3 4B IT, созданная независимым исследователем Sascha Frank в рамках проекта TSFT-RAG. Модель предназначена для RAG-сценариев: ответов на вопросы по найденным источникам, выявления вопросов без достаточной опоры на источники, извлечения информации и создания структурированных ответов, включая JSON. Это плотная модель семейства Gemma 3 с архитектурой Gemma3ForConditionalGeneration и примерно 4 млрд параметров. Она принимает текст и, как производная Gemma 3, поддерживает мультимодальный ввод изображений, хотя для этой версии мультимодальная оценка не проводилась. Карточка сообщает об оценке преимущественно на немецкоязычных наборах данных; сведений о длине контекста нет. В опубликованной оценке агрегированный результат вырос относительно базовой модели, особенно на выявлении неподдержанных вопросах, но качество grounded QA немного снизилось. Модель оптимизирована для RAG и не предназначена для общего диалога; в важных областях требуется проверка человеком. Лицензия — Gemma license.
PowerBot-8B — объединённая модель на базе Llama 3, созданная автором репозитория с помощью Mergekit из nvidia/Llama3-ChatQA-1.5-8B и refuelai/Llama-3-Refueled. Она предназначена для генерации текста и диалоговых сценариев, включая ответы на вопросы по документам с сохранением полного документа в контексте. Модель имеет плотную архитектуру LlamaForCausalLM и около 7,5 млрд параметров. Она принимает текст, поддерживает английский язык и имеет контекстное окно 8192 токена. Веса опубликованы в формате Safetensors и bfloat16; модель распространяется по лицензии Apache-2.0.
VARCO-VISION-2.0-1.7B — разработанная NCSOFT мультимодальная модель для диалогов по изображениям и тексту. Она построена на архитектуре LLaVA-OneVision и объединяет визуальную основу SigLIP2-so400m-patch16-384 с языковой моделью Qwen3-1.7B; размер языковой модели — 1,7 млрд параметров. Модель принимает несколько изображений в одном запросе и отвечает на вопросы о документах, таблицах, диаграммах и других визуальных материалах. Модель ориентирована прежде всего на корейский и английский языки, с особым вниманием к корейскому языку и культурному контексту. Она подходит для повседневных вопросов и ответов, суммаризации визуальной информации, распознавания текста на изображениях и локализации текстовых областей с помощью рамок. Компактная версия предназначена в том числе для запуска на смартфонах и ПК. В репозитории указана лицензия CC BY-NC 4.0, которая ограничивает коммерческое использование. Для работы рекомендуется Transformers версии 4.53.1 или новее, особенно для поддержки нескольких изображений.
GLM-4.6V-Flash NVFP4 GGUF — квантованная мультимодальная модель Z.ai (Zhipu AI), подготовленная в формате GGUF на основе zai-org/GLM-4.6V-Flash. Она сочетает языковую часть на 9 млрд параметров с 40 слоями трансформера и 24-слойным визуальным ViT-энкодером. Контекст составляет 128K токенов; модель принимает изображения и текст и формирует текстовые ответы, включая описание изображений и разбор документов. Модель подходит для диалогов по изображениям, визуального анализа документов и локального мультимодального ассистента. Веса языковой части представлены в NVFP4, а проектор визуального энкодера — в F16; для полной работы с изображениями нужны оба файла. Нативное вычисление FP4 рассчитано на видеокарты NVIDIA Blackwell, на более старом оборудовании и CPU возможен более медленный программный fallback. Репозиторий указывает лицензию MIT. Квантование снижает требования к памяти, но может повлиять на точность по сравнению с исходными весами.
sequelbox/gpt-oss-20b-DAG-Reasoning — экспериментальная специализированная языковая модель Sequelbox, дообученная на openai/gpt-oss-20b. Она предназначена для причинно-следственного анализа: по запросу модель выделяет связи между факторами, оценивает уверенность и формирует ориентированный ациклический граф в структурированном JSON-формате. Для получения такого результата нужно явно попросить граф или анализ; в остальных случаях модель может отвечать в обычном стиле gpt-oss-20b. Архитектура — MoE для генерации текста, указанное в метаданных число параметров — 1,6 млрд, контекст — 131 072 токена; модель работает с текстом на английском языке и поддерживает чат и выполнение инструкций. Разработчик описывает применение в программировании, науке, бизнесе, экономике, финансах, праве, логистике и управлении. Релиз экспериментальный; для использования результатов рекомендуется проверять структуру JSON. Лицензия — Apache-2.0.
Magiq-Logic-0 — диалоговая модель mymaia для логического анализа и поддержки принятия решений. Она оценивает информацию, формирует обоснованные суждения и предназначена для использования в составе MAIA вместе с MAGIQ Core-0 и MAGIQ Translator-0, чтобы создавать связные ответы с учётом контекста. Модель основана на Mistral-7B-Instruct-v0.2 и дообучена для генерации текста; архитектура — плотная MistralForCausalLM, размер — 7,1 млрд параметров, контекст — до 32 768 токенов. Указаны английский, итальянский и французский языки. Модель распространяется в формате safetensors по лицензии Apache-2.0.
BRAG-Qwen2-1.5b-v0.1 — компактная языковая модель серии BRAG, разработанная Pratik Bhavasar и Ravi Theja на базе архитектуры Qwen2 и дообученная для генерации ответов с использованием найденного контекста (RAG). Модель предназначена для работы с текстом и таблицами, а также для диалоговых сценариев RAG: она отвечает на вопросы по переданному контексту и должна сообщать, если ответа в нём нет. Модель содержит 1,5 млрд параметров, использует архитектуру Qwen2ForCausalLM и поддерживает контекст до 131 072 токенов по метаданным. В README указана поддержка до 32 тыс. токенов и отмечено, что модель обучалась и оценивалась на английском языке, хотя базовая модель обладает многоязычными возможностями. Репозиторий содержит веса PyTorch; лицензия — Apache-2.0. Модель рассчитана на короткие контексты и может хуже работать с длинными, несмотря на указанное в метаданных окно контекста. README предупреждает о возможных галлюцинациях и рекомендует использовать заданный авторами системный промпт. Метаданные не указывают результаты этой версии в приведённой таблице сравнения.
NVIDIA Nemotron 3 Nano Omni — разработанная NVIDIA мультимодальная модель семейства Nemotron Nano для понимания текста, изображений, аудио и видео. Она предназначена для корпоративных сценариев: ответов на вопросы и суммаризации мультимедийных материалов, транскрибации речи, анализа документов и GUI, а также для рабочих процессов с агентами. Модель поддерживает OCR, понимание речи и видео, плотные описания видео и извлечение информации из сложных деловых документов. Её можно применять в службе поддержки, медиа и развлечениях, обработке договоров и финансовых документов, а также в браузерных и почтовых агентах. В метаданных указана архитектура NemotronH_Nano_Omni_Reasoning_V3, тип dense и библиотека Transformers; веса опубликованы в формате safetensors. README рекомендует начинать развёртывание с длины контекста 131072 токена на Spark, но это рекомендация по настройке, а не заявленный предел контекста. Модель улучшена с использованием Qwen3-VL-30B-A3B-Instruct, Qwen3.5-122B-A10B, Qwen3.5-397B-A17B, Qwen2.5-VL-72B-Instruct и gpt-oss-120b. README сообщает о доступности для коммерческого использования, тогда как метаданные обозначают лицензию как other; перед внедрением следует проверить условия лицензии в карточке. Модель рассчитана на мультимодальные корпоративные задачи, но карточка не приводит количественных оценок качества.
Карточка модели youyou125709/Qwen2.5-7B-Instruct-1M на Hugging Face совпадает с карточкой Qwen/Qwen2.5-7B-Instruct-1M, поэтому описание составлено по ней. Qwen2.5-7B-Instruct-1M — разговорная модель генерации текста из семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалога, ответов на вопросы, работы с длинными документами и другими задачами, где нужно учитывать большой объём контекста. Модель построена на архитектуре Qwen2 с причинно-следственной языковой моделью и 7,1 млрд параметров по метаданным. Карточка семейства указывает на RoPE, SwiGLU, RMSNorm и контекст до 1 010 000 токенов; генерация ограничена 8192 токенами. Модель дообучена на базе Qwen/Qwen2.5-7B, поддерживает чат и интерфейс вызова инструментов. Указанные языковые сведения подтверждают английский, но сами по себе не доказывают поддержку только одного языка. Для работы с контекстом около миллиона токенов README рекомендует специальную сборку vLLM и указывает потребность как минимум в 120 ГБ видеопамяти суммарно для версии 7B. В прежних средах выполнения качество может снижаться на последовательностях длиннее 262 144 токенов. Лицензия — Apache-2.0.
German-RAG-NEMO-12B-SFT-HESSIAN-AI — авторегрессионная языковая модель на архитектуре Transformer семейства Mistral, разработанная командой Avemio AI при поддержке Hessian AI. Модель содержит 12,1 млрд параметров и дообучена методом SFT на примерах для генерации с дополнением извлечёнными данными (RAG); в метаданных базовой моделью указана avemio/German-RAG-NEMO-12B-CPT-HESSIAN-AI. Модель предназначена для немецкоязычных бизнес-сценариев с RAG: ответов на вопросы по предоставленному контексту, извлечения релевантной информации и её суммаризации. Также карточка описывает примеры для рассуждений и вызова функций. Поддерживаются немецкий и английский языки; заявленная длина контекста — до 1 024 000 токенов. Модель доступна в формате safetensors по лицензии Apache 2.0. Ответы и факты могут быть неверными, поэтому их следует проверять. В README также отмечены риски предвзятости и генерации вредного или чувствительного контента без защитной фильтрации.
Llama-3-8B-ProLong-64k-Instruct — диалоговая языковая модель Princeton NLP на архитектуре Llama 3 с 7,5 млрд параметров. Это вариант ProLong, дообученный для следования инструкциям и работы с длинным контекстом; в README описано продолженное обучение на данных до 64K токенов и supervised fine-tuning на UltraChat. Метаданные указывают контекст до 65 536 токенов. Модель предназначена для диалогов, генерации текста и задач, где нужно учитывать длинные документы или историю переписки. Авторы представляют семейство ProLong как модель для длинного контекста и сообщают об оценке на HELMET. Репозиторий использует формат Safetensors и лицензию Llama 3. README приводит характеристики обучения для основной версии семейства с контекстом 512K, поэтому эти параметры не следует переносить на вариант 64K.
German-RAG-NEMO-12B-ORPO-HESSIAN-AI — авторегрессионная языковая модель на архитектуре Transformer, разработанная командой Avemio AI при поддержке Hessian AI. Это дообученная версия German-RAG-NEMO-12B-SFT-HESSIAN-AI с 12,1 млрд параметров, предназначенная для немецкоязычных RAG-сценариев и работы с предоставленным контекстом. Модель подходит для ответов на вопросы по найденным документам, извлечения релевантных сведений, рассуждений по контексту и составления кратких сводок. В карточке заявлена поддержка немецкого и английского языков; метаданные указывают контекст до 1 024 000 токенов. По условиям Apache 2.0 распространяются и код, и веса модели. В оценке авторов модель показала результаты на задачах извлечения, вопросно-ответных задачах, суммаризации и рассуждениях на немецком и английском языках. Результаты зависят от задачи и не гарантируют фактическую точность: ответы могут содержать ошибки и должны проверяться. У модели нет встроенной фильтрации безопасности; возможна генерация вредного или предвзятого контента.
UTC-DeBERTa-large-v2 — универсальная модель для классификации токенов, разработанная Knowledgator. Это prompt-tuned версия DeBERTaV3-large, дообученная на нескольких задачах извлечения информации. Модель анализирует текст вместе с инструкцией-запросом и выделяет соответствующие фрагменты: сущности, предложения и абзацы. Модель предназначена для распознавания именованных сущностей, извлечения отношений и фактов, разрешения кореференции, ответов на вопросы, очистки и суммаризации текста. В карточке приведены результаты на CrossNER: для версии large указаны оценки Micro F1 от 0,8779 до 0,9247 в пяти предметных категориях. Модель имеет 533,8 млн параметров и контекст до 512 токенов; для запуска предусмотрена библиотека Transformers и pipeline token-classification. Модель рассчитана на англоязычный текст. Длинные документы могут потребовать разбиения на части из-за ограничения контекста, а качество зависит от формулировки запроса и задачи. Лицензия — Apache-2.0.
n0kovo/Qwen3-VL-32B-Instruct-heretic-v2 — версия Qwen3-VL-32B-Instruct, обработанная методом abliteration: по приведённому сравнению модель реже отказывает в ответе, сохраняя близость к исходному поведению с KL-дивергенцией 0,1565. Это плотная мультимодальная модель семейства Qwen3-VL с архитектурой Qwen3VLForConditionalGeneration, предназначенная для диалогов по тексту и изображениям. Модель подходит для визуальных вопросов и ответов, распознавания текста на изображениях, анализа сцен и пространственных отношений, а также понимания видео и генерации текста. В README для исходной модели указаны контекст 256 тыс. токенов с возможностью расширения до 1 млн и OCR на 32 языках; метаданные этой копии не подтверждают, что все эти характеристики сохранены без изменений. Репозиторий содержит веса Safetensors и использует библиотеку Transformers. Лицензия — Apache-2.0.
Sequelbox Qwen3-4B-Thinking-2507-DAG-Reasoning — экспериментальная специализированная языковая модель Sequelbox, созданная дообучением Qwen/Qwen3-4B-Thinking-2507. Она генерирует текст и предназначена для причинного анализа: выявляет связи между факторами, оценивает уверенность и формирует результат в виде структурированного ориентированного ациклического графа (DAG), представленного в JSON. Модель использует плотную архитектуру Qwen3ForCausalLM, содержит 3,7 млрд параметров и поддерживает контекст до 262 144 токенов. Модель подходит для анализа причин и следствий в программировании, науке, бизнесе, экономике, финансах, праве, логистике и управлении, а также для подготовки графов к визуализации или дальнейшей обработке. Для получения структурированного DAG следует явно запросить граф или анализ; модель также может ответить в обычном стиле Qwen3. Карточка описывает её как ранний экспериментальный выпуск и рекомендует проверять структуру выходных данных перед продуктивным использованием. Доступна по лицензии Apache-2.0.
Teapot LLM — компактная языковая модель сообщества TeapotAI, дообученная на синтетических данных от FLAN-T5-Large. В метаданных указаны архитектура T5, 385,2 млн параметров и контекст до 512 токенов; доступны форматы Safetensors и ONNX. Модель предназначена для генерации ответов на основе предоставленных документов и контекста, в том числе в сценариях RAG. Teapot обучена отвечать на вопросы по контексту, извлекать сведения из документов и выдавать структурированные данные, включая JSON. Она рассчитана на локальный запуск на устройствах с ограниченными ресурсами, включая смартфоны и CPU, и поддерживается Transformers.js для работы в JavaScript-средах. README отмечает стремление модели воздерживаться от ответа, если контекст не содержит достаточных сведений. Метаданные перечисляют английский, французский, румынский и немецкий языки, однако авторы сообщают, что модель не оценивалась на языках, кроме английского. Она не предназначена для генерации кода, творческого письма или критически важных решений. Лицензия — MIT.
jhflow/mistral7b-lora-multi-turn-v2 — дообученная текстовая модель семейства Mistral, созданная для многоходовых диалогов в сценариях RAG. Автор сообщает, что для обучения использовал наборы данных с диалогами, основанными на знаниях; шаблон промпта построен по формату ChatML и включает системный промпт, контекст, запрос пользователя и ответ ассистента. Модель имеет плотную архитектуру MistralForCausalLM и 7,1 млрд параметров, принимает текст и генерирует текст. Заявленная длина контекста — 32 768 токенов. Лицензия в предоставленных данных не указана.
Llama-3-70B-Instruct-Gradient-262k — это дообученная Gradient версия Meta Llama 3 70B Instruct, разработанная Gradient при поддержке вычислительных ресурсов Crusoe Energy. Модель предназначена для диалоговой генерации текста и обработки очень длинных входных последовательностей: README сообщает о расширении контекста исходной модели с 8 тысяч до более чем 262 тысяч токенов за счёт настройки RoPE theta и обучения на дополнительных данных. В метаданных указаны архитектура LlamaForCausalLM, 69,5 млрд параметров и контекст 262 144 токена. Модель подходит для диалоговых помощников, анализа длинных документов и сценариев, где нужно учитывать большой объём контекста за один запрос. Карточка описывает англоязычный вариант; поддержка других языков не подтверждена. Для запуска предлагаются Transformers или TGI, а веса опубликованы в формате safetensors. Использование регулируется лицензией Llama 3; перед развёртыванием следует учитывать её условия и проверять ответы модели, поскольку возможны ошибки и остаточные риски безопасности.
German-RAG-LLAMA-3.1-8B-CPT-HESSIAN-AI — авторегрессионная трансформерная языковая модель, разработанная командой Avemio AI при поддержке Hessian AI. Это продолжительно предобученная версия Meta-Llama-3.1-8B: в метаданных указано 7,5 млрд параметров, архитектура LlamaForCausalLM и контекст до 131 072 токенов. Модель предназначена для работы с немецким и английским языками, с акцентом на немецкий. Она обучалась на датасете German-RAG-CPT и ориентирована на ответы на вопросы с опорой на предоставленный контекст, структурированные рассуждения и суммаризацию. Её можно использовать в сценариях RAG, передавая найденные документы вместе с вопросом. Модель может генерировать недостоверные ответы и чувствительный или вредоносный контент; результаты следует проверять, а для прикладных систем предусмотреть меры безопасности. Метаданные Hugging Face указывают лицензию Llama 3.1, тогда как README заявляет Apache 2.0 для кода и модели; условия распространения весов следует сверить с лицензией репозитория.
EXAONE 4.5-33B — открытая по весам мультимодальная модель LG AI Research для диалога и анализа изображений. Она сочетает причинную языковую модель с визуальным энкодером и содержит 33 млрд параметров, из которых около 1,29 млрд приходятся на визуальную часть. Архитектура использует плотные слои, гибридное внимание с локальными окнами и глобальными слоями; контекст — до 262 144 токенов. Модель предназначена для ответов на вопросы по изображениям и документам, распознавания и интерпретации их содержимого, а также для текстового диалога и рассуждений. Разработчик отмечает сильные результаты в понимании документов и корейских контекстов. Основные языки карточки — английский, корейский, испанский, немецкий, японский и вьетнамский. Для обслуживания рекомендуются оптимизированные движки, например vLLM, TensorRT-LLM или SGLang; запуск с длинным контекстом требует мощных GPU. Модель может выдавать неверные, предвзятые или неподходящие ответы, а её знания ограничены данными до декабря 2024 года. В метаданных указана лицензия «other»; конкретные условия следует сверять с лицензией репозитория и правилами LG AI Research.
Giraffe-13b-32k-v3 — авторегрессионная языковая модель на архитектуре Transformer/Llama, разработанная Abacus.AI. Она дообучена на базе Llama 2 13B для работы с контекстом до 32 768 токенов: длинный контекст получен с помощью интерполяции, затем модель дополнительно настроена на выполнение инструкций с использованием ShareGPT и Orca-Chat. В метаданных указано 12,9 млрд параметров. Модель предназначена для генерации текста и диалоговых задач по инструкциям. Длинное окно контекста подходит, например, для ответов на вопросы по объёмным документам и предоставленным результатам поиска; разработчик также сообщает об улучшении рассуждений и математических способностей на бенчмарках. Поддерживаемый язык в карточке явно не перечислен. Модель распространяется по лицензии Llama 2 Community License. Разработчик предупреждает, что безопасность модели не оценивалась, и позиционирует её для исследований и экспериментов; результаты могут содержать ошибки.