I.5Создание и редактирование текста

Lamarck-14B-v0.6 — объединённая модель на архитектуре Qwen2, опубликованная sometimesanotion. Она создана как универсальная разговорная модель для генерации текста и рассчитана на многошаговые рассуждения, написание связной прозы и работу на нескольких языках. В карточке указано, что модель занимает первое место по среднему результату среди текстовых ассистентов до 32 млрд параметров на Open LLM Leaderboard; это заявление автора, а не независимая оценка здесь. Модель содержит 14 млрд параметров, принимает текст и генерирует текст, поддерживает контекст до 131072 токенов. README описывает многослойное слияние нескольких моделей и извлечённых LoRA-адаптеров; среди предков упомянута DRT-o1-14B, ориентированная на глубокие рассуждения и перевод. Метаданные отмечают чат и интерфейс вызова инструментов. В качестве заявленных ограничений конкретные слабые стороны не приведены; качество может различаться между языками и задачами. Лицензия — Apache-2.0.

LeoLM/leo-hessianai-7b-chat-bilingual — двуязычная чат-модель LAION и HessianAI, разработанная в сотрудничестве с Бьёрном Плютером и Кристофом Шухманном. Это дообученная модель LeoLM/leo-hessianai-7b на архитектуре Llama 2: причинный декодерный трансформер с 6,6 млрд параметров и контекстом до 8192 токенов. Модель принимает текст и генерирует текст на английском и немецком языках. Она предназначена для диалога, написания текстов, объяснений и обсуждения тем. Модель демонстрирует более слабые результаты в математике и сложных рассуждениях. Выпущена по лицензии LLAMA 2 COMMUNITY LICENSE AGREEMENT. Как и другие языковые модели, LeoLM может давать неточные, предвзятые или нежелательные ответы. Перед использованием в приложениях разработчикам следует проверить её поведение и настроить меры безопасности под конкретный сценарий.

Ling-2.5-1T — открытая большая языковая модель семейства Ling, разработанная Inclusive Intelligence. Это модель для генерации текста и диалогов, следования инструкциям, рассуждений и работы в агентных сценариях с вызовом инструментов. В репозитории указаны архитектура Mixture of Experts на базе Bailing Hybrid и класс BailingMoeV2_5ForCausalLM; метаданные сообщают 59 млрд параметров, а README заявляет 1 трлн общих и 63 млрд активных параметров. Модель распространяется в формате Safetensors и поддерживает контекст до 131 072 токенов согласно метаданным; README описывает расширение контекста до 1 млн токенов с YaRN. Гибридная архитектура линейного внимания рассчитана на высокую пропускную способность, в том числе при длинных контекстах. Модель предназначена для чат-ботов, сложных запросов и интеграции с агентными платформами; разработчики заявляют улучшения рассуждений и следования инструкциям относительно предыдущей версии. README отмечает, что при сложных агентных взаимодействиях и длительном выполнении задач модель пока уступает передовым системам. Лицензия — MIT. Языки, на которых модель специально обучена или которые поддерживает, в предоставленных данных не названы.

Saxo (Джи Юнсон), специалист по данным и руководитель Linkbricks Horizon-AI, дообучил эту плотную языковую модель на основе Qwen2.5-32B-Instruct. Модель содержит 32 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов; для работы с ней используется библиотека Transformers. В обучении применялись этапы CPT, SFT, DPO и ORPO, а также данные из многоязычных новостных и wiki-корпусов и наборы для отдельных задач. Модель предназначена для диалога и генерации текста, в том числе для анализа отзывов и публикаций в социальных сетях, написания текстов и кода, математических и логических задач, а также вызова функций и инструментов. В README заявлена работа с корейским, английским, японским и китайским языками; датасеты также включают перевод и суммаризацию. Репозиторий содержит веса в формате safetensors. Лицензия Apache 2.0.

Saxo/Linkbricks-Horizon-AI-Avengers-V2-32B — многоязычная языковая модель Linkbricks, дообученная на базе Saxo/Linkbricks-Horizon-AI-Avengers-V1-32B методами SFT и предпочтительной оптимизации. Это плотная авторегрессионная модель семейства Qwen2 с 32 млрд параметров и контекстом до 32 768 токенов; веса доступны в формате Safetensors, библиотека — Transformers. Модель предназначена для диалога и генерации текста, перевода между корейским, японским, китайским и английским языками, суммаризации, анализа отзывов и публикаций в соцсетях, написания текстов и кода, а также решения математических и логических задач. В карточке заявлена поддержка вызова функций и инструментов. Обучение включало многоязычные новостные и вики-корпуса, а также данные по задачам; токенизатор оставлен от базовой модели. Модель ориентирована прежде всего на корейский и другие восточноазиатские языки вместе с английским. Качество может различаться между языками и типами задач; описание не приводит количественных результатов оценки. Лицензия — Apache-2.0.

Saxo/Linkbricks-Horizon-AI-Japanese-Advanced-V2-70B — языковая модель Linkbricks, дообученная директором по данным Юнсоном Джи (Saxo) на базе Saxo/Linkbricks-Horizon-AI-Japanese-Base-70B. Это плотная модель семейства Llama с 69,5 млрд параметров, обученная с применением продолженного предобучения на японском языке, SFT и DPO. Контекстное окно составляет 128 тысяч токенов; используется токенизатор базовой модели без расширения словаря. Модель предназначена для генерации текста и диалоговых сценариев, включая анализ отзывов и публикаций в социальных сетях, написание текстов, программирование, математические и логические задачи. Обучение на японских новостях и вики-корпусах, а также на японских, корейских, китайских и английских данных поддерживает работу с этими языками и межъязыковые задачи. README также заявляет поддержку вызова функций и инструментов. Модель опубликована в формате safetensors и доступна по лицензии Apache-2.0. Карточка описывает заявленные возможности, но не приводит оценок качества или результатов сравнительных тестов.

Saxo/Linkbricks-Horizon-AI-Japanese-Pro-V3-70B — языковая модель Linkbricks, дообученная Юнсоном Джи (Saxo) на базе Saxo/Linkbricks-Horizon-AI-Japanese-Base-70B. Это плотная модель семейства Llama с 69,5 млрд параметров, предназначенная для генерации текста. По карточке, обучение включало японскую SFT, DPO и объединение моделей, а также данные на японском, корейском, китайском и английском языках, японские новости и Википедию, математические и логические задачи. Модель рассчитана на написание и редактирование текстов, программирование, математические и логические рассуждения, анализ отзывов и публикаций в социальных сетях, а также вызов функций и инструментов. Заявленное контекстное окно — 128 тыс. токенов; используется токенизатор базовой модели без расширения словаря. Доступны веса в формате Safetensors для Transformers. Лицензия — Apache 2.0.

Saxo/Linkbricks-Horizon-AI-Japanese-Pro-V7-70B — плотная языковая модель семейства Llama с 69,5 млрд параметров, созданная дата-сайентистом Джи Юнсоном (Saxo) из Linkbricks на базе Saxo/Linkbricks-Horizon-AI-Japanese-Pro-V6-70B. Модель дообучена для усиления японского языка с помощью SFT и DPO, после чего выполнено слияние моделей; в обучении использовались японские новости и Википедия, а также межъязыковые данные и примеры для разных задач. Модель предназначена для генерации текста, письма и программирования, решения математических и логических задач, анализа отзывов и публикаций в социальных сетях, а также для межъязыковых задач с японским, корейским, китайским и английским. Поддерживает вызов функций и инструментов и контекст до 128 000 токенов. Репозиторий содержит веса Safetensors для Transformers; лицензия — Apache-2.0.

Fischerboot/ll3-test-6 — плотная языковая модель семейства Llama, созданная с помощью mergekit методом SLERP на основе Fischerboot/ll3-test-5. Репозиторий содержит веса в формате safetensors; размер модели — 6 млрд параметров, контекст — до 8192 токенов. Модель предназначена для генерации текста и диалогового общения.

Llama 2 70B Chat — это диалоговая языковая модель семейства Llama 2, разработанная Meta. Данный репозиторий содержит её квантизированные файлы в формате GGUF, подготовленные TheBloke на основе оригинальной модели meta-llama/Llama-2-70b-chat-hf. Модель предназначена для генерации текста и ведения диалогов: ответов на вопросы, выполнения инструкций и создания связных текстовых ответов. Указан английский язык. Архитектура — Llama, размер — 70 миллиардов параметров, модальность — текстовая. Максимальный размер контекста в README не указан. Для работы используется специальный шаблон запросов Llama 2 Chat с системными инструкциями о полезных, безопасных и честных ответах. Формат GGUF поддерживает метаданные и специальные токены и совместим с llama.cpp, а также рядом пользовательских интерфейсов и библиотек, включая text-generation-webui, KoboldCpp, LM Studio, ctransformers и llama-cpp-python. Доступны варианты квантизации от 2 до 8 бит для CPU+GPU-инференса, что позволяет выбирать компромисс между требованиями к памяти, скоростью и качеством ответов; конкретные характеристики зависят от выбранного варианта. Репозиторий распространяется по лицензии Llama 2.

Это конвертированная в формат Hugging Face версия диалоговой модели Llama 2 70B Chat, разработанной Meta и опубликованной пользователем daryl149. Это плотная авторегрессионная языковая модель семейства Llama с 68,7 млрд параметров, предназначенная для генерации текста в диалоге и ответов на запросы. Карточка указывает контекст длиной 2048 токенов и формат PyTorch. Модель подходит для чат-ботов, ответов на вопросы, составления текстов и других задач генерации текста. README описывает веса как конвертированные, поэтому это преобразование формата, а не отдельное дообучение. Указана лицензия Llama 2 Community License от Meta: она разрешает использование и распространение на заданных условиях, включая передачу текста лицензии и соблюдение Acceptable Use Policy; для продуктов с более чем 700 млн ежемесячных активных пользователей требуется отдельное разрешение Meta.

TheBloke/Llama-2-70B-GGUF — это квантованные файлы большой языковой модели Llama 2 70B, разработанной Meta. Модель предназначена для генерации текста и может использоваться в локальных сценариях: чат-ботах, ассистентах, написании и преобразовании текста, а также других задачах, поддерживаемых text-generation. Указан английский язык; сведения о мультимодальности отсутствуют, поэтому модель следует считать текстовой. Модель основана на Llama 2 70B и распространяется в формате GGUF, разработанном командой llama.cpp. Формат поддерживает метаданные, специальные токены и улучшенную токенизацию. Репозиторий подготовлен TheBloke и содержит варианты квантования от 2 до 8 бит для инференса с использованием CPU и GPU; доступны методы Q2_K, Q3_K, Q4_K, Q5_K и Q6_K с различным компромиссом между размером, скоростью и сохранением качества. Модель совместима с llama.cpp и рядом сторонних интерфейсов и библиотек, включая text-generation-webui, KoboldCpp, LM Studio, ctransformers и llama-cpp-python. К сильным сторонам относятся возможность локального запуска, поддержка CPU и GPU, широкий выбор уровней квантования и совместимость с популярными инструментами. Ограничениями являются очень большой размер исходной модели, потенциальное снижение качества при агрессивном квантовании и отсутствие в предоставленных данных сведений о размере контекста, производительности, точных требованиях к памяти и специализированном дообучении. Лицензия указана как llama2; условия её применения следует проверять в документации Meta.

0x Mini — языковая модель Ozone AI для генерации текста и диалоговых приложений. Это плотная авторегрессионная модель семейства Llama, дообученная на основе meta-llama/Llama-3.1-8B-Instruct; в репозитории указано 7,5 млрд параметров и формат safetensors. Модель предназначена для продолжения текста, суммаризации, перевода, чат-ботов и создания контента, в том числе при ограниченных вычислительных ресурсах. Модель принимает текст и генерирует текст; метаданные также отмечают интерфейс для вызова инструментов. Для базовой модели указан контекст до 131 072 токенов. Карточка заявляет быструю генерацию и пригодность для компактного развёртывания, но не приводит сравнительных тестов, подтверждающих эти заявления. Используется лицензия Llama 3.1; применяйте модель с учётом её условий.

deltanym/llama-3.1-120b-instruct — текстовая разговорная модель, созданная методом слияния через mergekit на основе meta-llama/Llama-3.1-70B-Instruct. В карточке указана конфигурация passthrough; модель использует плотную архитектуру семейства Llama и формат safetensors. Метаданные указывают 120,8 млрд параметров и контекстное окно до 131 072 токенов. Модель предназначена для генерации текста и диалогового общения, включая сценарии с интерфейсом вызова инструментов. В основе лежит многоязычная instruct-модель Meta; README описывает её как воспроизведение Meta-Llama-3-120B-Instruct с использованием Llama 3.1 70B вместо Llama 3. Лицензия в предоставленных данных не указана.

win10/Llama-3.1-13.3B — текстовая генеративная модель, созданная слиянием весов через mergekit методом passthrough на основе NousResearch/Meta-Llama-3.1-8B. Она предназначена для генерации текста и может использоваться в приложениях, которым нужна языковая модель с длинным контекстом до 131072 токенов. Модель имеет плотную архитектуру LlamaForCausalLM и содержит 12,7 млрд параметров; опубликована в формате safetensors для библиотеки Transformers. Карточка не описывает отдельную специализацию или результаты оценки качества. Базовая модель Llama 3.1 предназначена для многоязычной генерации текста, однако конкретные поддерживаемые языки этой сборки не перечислены. Лицензия в предоставленных данных не указана.

Meta Llama 3.1 405B Instruct — разработанная Meta инструктивно дообученная большая языковая модель для диалогового взаимодействия. Это авторегрессионный трансформер с оптимизированной архитектурой и Grouped-Query Attention; вариант Instruct использует supervised fine-tuning и обучение с подкреплением на основе обратной связи от людей. Модель работает с текстом на входе и выходе и рассчитана на многоязычные сценарии. Модель предназначена для диалоговых помощников, ответов на вопросы и генерации текста по инструкциям, а также для создания синтетических данных. Заявлены английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Для некоторых дополнительных возможностей, включая интеграцию с инструментами, требуется самостоятельная настройка приложения. Модель представляет собой статический чекпойнт, обученный на офлайн-данных. Качество и безопасность ответов могут различаться по языкам и сценариям, а выводы требуют проверки. Использование регулируется пользовательской лицензией Meta Llama 3.1 Community License и Acceptable Use Policy; до коммерческого или иного применения следует ознакомиться с их условиями.

Карточка модели meta-llama/Llama-3.1-405B-Instruct-FP8 на Hugging Face совпадает с карточкой meta-llama/Llama-3.1-405B, поэтому описание составлено по ней. Meta Llama 3.1 405B — большая авторегрессионная языковая модель на основе оптимизированной архитектуры Transformer с Grouped-Query Attention. Она принимает и генерирует текст; семейство Llama 3.1 включает базовые и дообученные версии, а этот репозиторий представляет модель размером 405 млрд параметров. В метаданных указаны библиотека Transformers и формат safetensors. Модель предназначена для генерации текста и многоязычного диалога: её можно применять как основу для помощников и чат-систем, а также адаптировать к другим задачам генерации естественного языка. Семейство поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. В карточке отмечены расширенное контекстное окно и возможность интеграции с инструментами разработчиками, но точный размер контекста этой модели не указан. Модель разработана Meta и выпущена в июле 2024 года. Она распространяется по специальной коммерческой лицензии Llama 3.1 Community License; применение должно соответствовать лицензии и Acceptable Use Policy. К ограничениям относятся статичность обученных весов, отсутствие гарантии безопасности или корректности ответов и рекомендация не использовать неподдерживаемые языки без дополнительного дообучения и системных мер контроля.

LatamGPT 1.0 — авторегрессионная плотная Transformer-модель, разработанная командой LatamGPT на базе Meta Llama 3.1 70B. Модель прошла дальнейшее предобучение на данных Латинской Америки и Карибского бассейна и supervised fine-tuning для следования инструкциям и диалогов. Веса содержат 69,5 млрд параметров, контекст — 4096 токенов; модель рассчитана на работу через Transformers и имеет готовый шаблон чата. Модель предназначена для генерации текста и диалоговой помощи на испанском, португальском и английском языках, с особым вниманием к латиноамериканским вариантам речи, региональным реалиям и культурным контекстам. Её можно применять для суммаризации, классификации, редактирования и аналитической поддержки в исследованиях и приложениях для региона. Лицензия — Llama 3.1 Community License; перед использованием и распространением следует соблюдать её условия. Модель может выдавать фактические ошибки, устаревшую информацию и предвзятые ответы; качество меняется в зависимости от языка, страны, предметной области и формулировки запроса. Для работы с весами в BF16/FP16 требуется около 140 ГБ видеопамяти, а в чувствительных и высокорисковых сценариях результаты требуют проверки специалистом. Для сохранения качества рекомендуется использовать поставляемые шаблон чата, токенизатор и конфигурацию генерации.

giannisan/llama3.1-70B-upscaled-105B — плотная авторегрессионная языковая модель семейства Llama 3.1, созданная методом passthrough-сборки в mergekit из двух перекрывающихся диапазонов слоёв предобученной Llama 3.1 70B. Веса сохранены в формате safetensors; размер модели — около 103,7 млрд параметров, длина контекста — до 131 072 токенов. Модель предназначена для генерации текста и диалогового взаимодействия, включая интерфейс вызова инструментов. Большой контекст подходит для работы с длинными документами и многоходовыми диалогами. Карточка не описывает отдельное обучение или специализированную предметную область. Лицензия в предоставленных данных не указана.

Это объединённая модель генерации текста семейства Llama 3.1, созданная с помощью mergekit путём линейного слияния unsloth/Meta-Llama-3.1-8B и unsloth/Meta-Llama-3.1-8B-Instruct. В модели около 7,5 млрд параметров; она построена на архитектуре LlamaForCausalLM и распространяется в формате safetensors для библиотеки Transformers. Модель предназначена для генерации текста и диалогового взаимодействия. Контекстное окно составляет до 131 072 токенов; в метаданных также отмечен интерфейс вызова инструментов. Карточка не уточняет языковой охват и отдельные области применения, поэтому модель следует рассматривать как универсальную. Лицензия в предоставленных данных не указана. Качество слияния и сравнительные результаты не описаны; возможности вызова инструментов обозначают наличие интерфейса и не гарантируют надёжность выполнения каждого вызова.

Карточка модели mylesgoose/Llama-3.1-8B-Instruct на Hugging Face совпадает с карточкой tanliboy/Meta-Llama-3.1-8B-Instruct, поэтому описание составлено по ней. tanliboy/Meta-Llama-3.1-8B-Instruct — текстовая инструктивно настроенная языковая модель семейства Llama 3.1, разработанного Meta. Это плотный авторегрессионный трансформер с архитектурой LlamaForCausalLM и примерно 7,5 млрд параметров; модель дообучена для диалогов с помощью SFT и RLHF. Она принимает текст и генерирует текст, поддерживает контекст до 131 072 токенов и ориентирована на многоязычный диалог на английском, немецком, французском, итальянском, португальском, хинди, испанском и тайском языках. Модель подходит для создания разговорных помощников, ответов на запросы и генерации текста, а также может быть подключена к внешним инструментам через соответствующий интерфейс. Репозиторий содержит веса в формате safetensors. Модель выпущена 6 сентября 2024 года и распространяется по лицензии Llama 3.1 Community License; перед коммерческим или иным применением необходимо соблюдать её условия и Acceptable Use Policy. Качество и безопасность ответов на языках вне восьми заявленных языков могут быть ниже; разработчикам следует оценивать результаты и применять защитные меры в соответствии со своим сценарием. Интеграция внешних инструментов требует отдельной политики и проверки безопасности подключённых сервисов.

Карточка модели RoyYao233/Llama-3.1-8B-Instruct на Hugging Face совпадает с карточкой meta-llama/Llama-3.1-8B-Instruct, поэтому описание составлено по ней. Meta Llama 3.1 8B Instruct — языковая модель Meta для диалогов и генерации текста. Это авторегрессионная модель на основе оптимизированного трансформера с Grouped-Query Attention; версия Instruct настроена с помощью supervised fine-tuning и обучения с обратной связью от людей (RLHF). Модель принимает и генерирует текст, поддерживает диалоговый режим и предназначена для коммерческого и исследовательского применения. Модель подходит для создания чат-ассистентов, ответов на запросы и других задач генерации текста на английском, немецком, французском, итальянском, португальском, хинди, испанском и тайском языках. Контекстное окно в предоставленных материалах не указано. Модель обучена на статичном офлайн-наборе данных; возможны ошибки и небезопасные ответы, поэтому результаты следует проверять, а для использования инструментов требуется отдельная интеграция и контроль со стороны разработчика. Условия распространения и применения регулируются лицензией Meta Llama 3.1 Community License и Acceptable Use Policy.

MLX Community Llama-3.1-8B-Instruct-4bit — это 4-битно квантованная версия инструкционной языковой модели Llama 3.1 8B Instruct, разработанной Meta и адаптированной сообществом MLX для запуска с использованием экосистемы MLX. Модель предназначена для генерации текста и выполнения инструкций в диалоговых и прикладных сценариях, включая ответы на вопросы, написание и преобразование текста, обобщение и другие задачи обработки естественного языка. Модель относится к текстовым моделям и поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Размер базовой модели составляет 8 миллиардов параметров. Квантование до 4 бит снижает требования к памяти и может упростить локальный запуск, однако способно немного ухудшить точность и качество по сравнению с полной версией. В README не указаны размер контекстного окна, конкретные требования к оборудованию и результаты бенчмарков. Модель распространяется по лицензии Llama 3.1 Community License от Meta. При распространении материалов или производных продуктов необходимо соблюдать условия лицензии, включая предоставление текста соглашения, указание «Built with Llama», сохранение уведомления об авторстве и соблюдение Acceptable Use Policy. Для организаций с более чем 700 миллионами ежемесячно активных пользователей предусмотрено требование получить отдельную лицензию Meta.

Llama3.1-8b-Instruct-CPT-SFT-DPO-09022024 — плотная авторегрессионная языковая модель семейства Llama 3.1 с 7,5 млрд параметров, опубликованная на Hugging Face в формате safetensors для библиотеки Transformers. По названию это инструкционная модель, прошедшая этапы CPT, SFT и DPO; сведения о разработчике и подробностях обучения в карточке не приведены. Модель предназначена для генерации текста в диалоговом формате и поддерживает интерфейс вызова инструментов. Метаданные указывают контекст до 131 072 токенов. Подтверждённых сведений о поддерживаемых естественных языках, специальных прикладных областях и лицензии нет, поэтому область применения и условия распространения следует уточнять у владельца модели. Карточка не содержит результатов оценки или описания ограничений; как и другие генеративные языковые модели, она может выдавать ошибочные или необоснованные ответы.

NVIDIA Llama 3.1 8B Instruct FP8 — FP8-квантизированная версия инструкционно настроенной авторегрессионной языковой модели Meta Llama 3.1 8B Instruct. Модель подготовлена NVIDIA с помощью TensorRT Model Optimizer; README уточняет, что она не принадлежит NVIDIA и была собрана по требованиям стороннего разработчика. Архитектура — трансформер Llama 3.1 с плотной моделью примерно на 7,5 млрд параметров. Модель принимает текстовые последовательности и генерирует текст, поддерживает диалоговый режим и контекст до 128 тысяч токенов. Квантизация весов и активаций линейных операторов до FP8 предназначена для более экономичного и быстрого инференса: в README указано сокращение требований к диску и памяти GPU примерно на 50% и ускорение примерно в 1,3 раза на H100. Предусмотрен запуск через TensorRT-LLM и vLLM на совместимых GPU NVIDIA. Модель подходит для диалогов, генерации и продолжения текста, а также ответов на инструкции. В README заявлено коммерческое и некоммерческое использование; лицензия в метаданных — llama3.1. Качество и скорость зависят от оборудования и среды инференса; оценка ускорения приведена для конфигурации с H100.

PerfectUsing/llama-3.1-8b-sam-v5-merged — дообученная текстовая генеративная модель на архитектуре Llama 3.1 с плотной архитектурой и примерно 7,5 млрд параметров. Разработчик — PerfectUsing; базовая модель — unsloth/llama-3.1-8b-unsloth-bnb-4bit. Для обучения использовались Unsloth и библиотека Hugging Face TRL. Модель предназначена для генерации текста. В метаданных указан контекст до 131 072 токенов и английский язык. Карточка не уточняет специальную область применения или особенности обучения. Модель распространяется по лицензии Apache-2.0.

LLaMa-3.1-Instruct-13B — языковая модель, созданная сообществом mergekit-community с помощью mergekit из unsloth/Meta-Llama-3.1-8B-Instruct. Применён метод passthrough: в итоговую модель включены указанные диапазоны слоёв исходной модели. Это плотная архитектура Llama для генерации текста и диалогов; размер составляет 12,5 млрд параметров, нативный контекст — до 131 072 токенов. Модель подходит для ответов на вопросы, диалоговых сценариев и генерации текста; метаданные также указывают интерфейс вызова инструментов. В репозитории используются веса safetensors, библиотека — Transformers. В карточке указана лицензия исходной модели Llama 3.1: используйте модель в соответствии с её условиями.

Llama-3.1-Nemotron-70B-Instruct-HF — текстовая модель NVIDIA на архитектуре Llama 3.1 с 69,5 млрд параметров. Это версия в формате Hugging Face Transformers, преобразованная из Llama-3.1-Nemotron-70B-Instruct; исходная модель Meta Llama-3.1-70B-Instruct была дообучена NVIDIA методом RLHF, включая REINFORCE, на предпочтениях из HelpSteer2 и данных модели Nemotron-70B-Reward. Модель предназначена для диалогов и выполнения общих инструкций: она генерирует ответы на пользовательские запросы и ориентирована на их полезность, связность и соответствие предпочтениям. Принимает текст, выдаёт текст, поддерживает контекст до 128 тысяч токенов и интерфейс вызова инструментов. В карточке приведены высокие результаты на Arena Hard, AlpacaEval 2 LC и MT-Bench; показатели могут отличаться от оценки исходной версии в NeMo-Aligner. Модель общего назначения, не настроенная специально для математики или узкопрофильных областей. Для запуска через Transformers в README указаны две или более видеокарты с 80 ГБ памяти каждая и не менее 150 ГБ свободного места на диске. Лицензия — Llama 3.1; применяются условия лицензии Meta Llama 3.1.

Llama 3.1 Tulu V2 70B — языковая модель-ассистент, разработанная Allen Institute for AI (Ai2) и дообученная на базе meta-llama/Meta-Llama-3.1-70B. Это плотная модель семейства Llama с 69,5 млрд параметров; она обучена на смеси общедоступных, синтетических и созданных людьми данных, включая набор инструкций и диалогов Tulu V2. Основной язык — английский. Контекст составляет до 131 072 токенов. Модель предназначена для диалоговых ответов на инструкции и общих задач генерации текста: например, для ответов на вопросы, написания текстов, помощи с рассуждениями и кодом. Карточка приводит результаты на тестах знаний, математики, программирования, следования инструкциям и безопасности, но отдельные оценки не гарантируют качество в конкретном сценарии. Модель не проходила этап RLHF, направленный на безопасные ответы, и не использует встроенную фильтрацию ответов; при соответствующих запросах она может выдавать проблемный контент. Лицензия репозитория — Apache 2.0; исходная модель распространяется по лицензии сообщества Meta Llama 3.1, условия которой также следует учитывать.

LLaMa-3.1-Zeroed-13B — плотная языковая модель семейства Llama, созданная сообществом mergekit из предварительно обученной unsloth/Meta-Llama-3.1-8B методом passthrough merge. Она предназначена для генерации текста и диалоговых сценариев с контекстом до 131 072 токенов. Модель содержит около 12,5 млрд параметров и распространяется в формате safetensors для библиотеки Transformers. Карточка не описывает отдельную настройку под конкретную предметную область или языки. Лицензия в предоставленных данных не указана.