I.5Создание и редактирование текста

NousResearch/Llama-2-7b-chat-hf — диалоговая языковая модель семейства Llama 2, разработанного Meta и опубликованная в формате Hugging Face Transformers. Это плотный авторегрессионный трансформер с 6,6 млрд параметров; веса представлены в форматах PyTorch и Safetensors. Модель принимает текст и генерирует текст, а её контекст составляет 4096 токенов. Модель дообучена с помощью supervised fine-tuning и обучения с подкреплением по человеческим отзывам для диалогов в формате помощника. Она предназначена для ответов на вопросы, ведения диалога и генерации текста на английском языке. Для ожидаемого поведения нужно соблюдать форматирование Llama 2 Chat с соответствующими маркерами инструкций и токенами. Модель может выдавать неточные, предвзятые или нежелательные ответы, а проведённые оценки не охватывают все возможные сценарии. Данные предобучения имеют срез до сентября 2022 года. Использование регулируется собственной лицензией Meta для Llama 2; для получения весов требуется принять её условия.

RedHatAI/Llama-2-7b-dolphin-open_platypus — плотная языковая модель на архитектуре Llama 2 с 6,6 млрд параметров, дообученная Neural Magic и Cerebras для следования инструкциям. Обучение использовало сочетание наборов данных Platypus, Open Orca и Dolphin. Модель предназначена для генерации текста и выполнения инструкций в сценариях вопросно-ответного взаимодействия и других задачах общего назначения. Она принимает текст и генерирует текст, имеет контекст длиной 4096 токенов и доступна в формате safetensors для запуска через Transformers; для ускоренного инференса с разреженностью README предлагает nm-vllm или deepsparse. В README приведены незаполненные значения результатов бенчмарков, поэтому количественная оценка качества по этой карточке невозможна. Лицензия в предоставленных сведениях не указана.

ehristoforu/llama3-12b-instruct — языковая модель для диалоговой генерации текста, созданная объединением двух моделей на базе Llama 3 с помощью mergekit и метода passthrough. В состав вошли gradientai/Llama-3-8B-Instruct-Gradient-4194k и OpenBuddy/openbuddy-llama3-8b-v21.1-8k; слои взяты из диапазонов [0, 24] и [8, 32] соответственно. Модель имеет плотную архитектуру LlamaForCausalLM, около 11 млрд параметров и опубликована в формате safetensors. Модель предназначена для генерации ответов в чате и других сценариев продолжения текста. Карточка не приводит отдельного перечня языков или специализированных областей применения; одна из базовых моделей OpenBuddy рассчитана преимущественно на английский и китайский языки. Указанная нативная длина контекста — 1234 токена. Лицензия в предоставленных данных не описана.

win10/llama3-13.45b-Instruct — объединённая плотная языковая модель семейства Llama 3 для генерации текста и диалогов. В README указано, что модель создана с помощью mergekit методом passthrough; метаданные связывают её с Meta-Llama-3-8B-Instruct. Размер модели — 12,7 млрд параметров, архитектура — LlamaForCausalLM, максимальный контекст — 8192 токена. Карточка указывает поддержку английского языка и диалоговый сценарий. Модель распространяется по лицензии Llama 3; перед использованием следует учитывать её условия.

NVIDIA Llama 3.1 405B Instruct FP8 — версия Meta Llama 3.1 405B Instruct, квантизованная NVIDIA до FP8 с помощью TensorRT Model Optimizer. Это плотная авторегрессионная Transformer-модель семейства Llama с примерно 403,7 млрд параметров; она принимает текст и генерирует текст, поддерживает диалог и интерфейс вызова инструментов. Окно контекста составляет до 131 072 токенов. Модель предназначена для диалоговых систем и генерации ответов по инструкциям, а также для инференса через TensorRT-LLM или vLLM. По данным README, FP8-квантизация весов и активаций линейных операторов в блоках трансформера уменьшает требования к диску и видеопамяти примерно вдвое; на H200 заявлено ускорение примерно в 1,7 раза. README указывает совместимость с NVIDIA Blackwell, Hopper и Lovelace. Модель построена на базе Meta-Llama-3.1-405B-Instruct и не является разработкой NVIDIA: README уточняет, что NVIDIA подготовила её под требования конкретного сценария. Лицензия — Llama 3.1; карточка заявляет готовность к коммерческому и некоммерческому использованию в рамках её условий.

prithivMLmods/Llama-3.1-5B-Instruct — инструктивно настроенная авторегрессионная языковая модель семейства Llama на архитектуре Transformer. По карточке, модель прошла дообучение SFT и RLHF и предназначена для диалоговой генерации, ответов на вопросы, перевода и выполнения инструкций. В метаданных указаны 4,9 млрд параметров, контекст 8192 токена и поддержка чат-сценариев; веса представлены в формате safetensors и рассчитаны на работу с Transformers. Модель поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Она подходит для создания многоязычных диалоговых приложений и генерации текста по запросу. Карточка заявляет хорошее качество на отраслевых бенчмарках, но не приводит их названия или результаты, поэтому эти оценки нельзя независимо проверить по предоставленным данным. Лицензия — Llama 3.1 License.

unsloth/Llama-3.1-70B — опубликованный Unsloth вариант Meta Llama 3.1-70B с динамической квантизацией Unsloth Dynamic 2.0, предназначенный для генерации текста. В основе — плотная авторегрессионная трансформерная архитектура LlamaForCausalLM с Grouped-Query Attention; модель содержит 69,5 млрд параметров и поддерживает контекст до 131 072 токенов. Модель принимает и генерирует текст. Она подходит для диалоговых приложений и других задач генерации естественного языка на английском, немецком, французском, итальянском, португальском, хинди, испанском и тайском языках. Вариант Unsloth заявлен как динамически квантованный с акцентом на сохранение точности; карточка не приводит независимых результатов сравнения именно этого репозитория. Для применения требуются значительные вычислительные ресурсы из-за размера модели. Возможны ошибки и небезопасные ответы; результаты следует проверять, а подключение внешних инструментов — контролировать. Модель распространяется по лицензии Llama 3.1 Community License с её условиями и ограничениями.

Mylesgoose/Llama-3.1-70B-Instruct-abliterated — текстовая инструкционная модель на базе Meta Llama 3.1 70B, у которой, согласно карточке, ортогонализован слой 14. Она использует авторегрессионную архитектуру Transformer семейства Llama и предназначена для диалоговой генерации текста; размер составляет 69,5 млрд параметров, контекст — до 131 072 токенов. Модель подходит для многоязычного общения с ассистентом и генерации текста. В карточке базовой модели заявлена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Метаданные отмечают интерфейс вызова инструментов, однако это не означает, что инструменты встроены: их интеграцию выполняет приложение. В карточке производной модели не приведены отдельные оценки качества или подробности изменения слоя, поэтому характеристики исходной Llama 3.1 не следует считать независимой оценкой этой версии. Модель распространяется по лицензии Llama 3.1 Community License (идентификатор лицензии в метаданных: llama3.1); применение регулируется её условиями и политикой допустимого использования.

llama-3.1-70B-nemotron-lumiyale-120B — объединённая текстовая модель, созданная автором репозитория с помощью mergekit методом линейного слияния трёх предварительно обученных моделей: Sao10K/L3.1-70B-Euryale-v2.2, nvidia/Llama-3.1-Nemotron-70B-Instruct-HF и NeverSleep/Lumimaid-v0.2-70B. Она использует архитектуру Llama 3.1 с плотной причинной языковой моделью и содержит 118,3 млрд параметров. Модель предназначена для генерации текста и диалогового взаимодействия. Контекстное окно составляет 131 072 токена; репозиторий использует библиотеку Transformers и формат safetensors. В метаданных отмечен интерфейс вызова инструментов, но подробности его применения не приведены. Лицензия в предоставленных данных не указана. Результаты объединения моделей могут различаться по качеству и поведению; сведения о специальных ограничениях или оценках качества отсутствуют.

vhab10/Llama-3.1-8B-Base-Instruct-SLERP — языковая модель, созданная с помощью mergekit объединением Meta Llama 3.1 8B Base и Meta Llama 3.1 8B Instruct методом SLERP. Это плотная авторегрессионная модель семейства Llama с 7,5 млрд параметров, предназначенная для генерации текста и ответов на инструкции. Репозиторий содержит веса в формате Safetensors; заявленная длина контекста — 131 072 токена. Модель можно использовать для генерации продолжений текста, диалоговых ответов, следования инструкциям и иных текстовых задач общего назначения. В README приведены результаты Open LLM Leaderboard, включая IFEval и BBH; они дают ориентир по оценке, но не гарантируют качество в конкретном применении. Лицензия репозитория — MIT. Модель унаследовала основу от моделей Meta Llama 3.1; перед использованием следует учитывать условия лицензии базовых моделей Meta.

A1Speeder/llama-3.1-8b-finetuned — дообученная языковая модель A1Speeder на базе unsloth/Meta-Llama-3.1-8B-Instruct-bnb-4bit. Это плотная модель семейства Llama с архитектурой LlamaForCausalLM и примерно 7,5 млрд параметров; для обучения использовались Unsloth и библиотека TRL из Hugging Face. Модель предназначена для генерации текста в диалоговом формате и поддерживает интерфейс вызова инструментов. В метаданных указано контекстное окно до 131 072 токенов, а карточка указывает английский язык. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0.

Карточка модели livil/llama3.1-8b-instruct на Hugging Face совпадает с карточкой NousResearch/Meta-Llama-3.1-8B-Instruct, поэтому описание составлено по ней. Meta-Llama-3.1-8B-Instruct — инструктивно дообученная языковая модель семейства Llama 3.1, разработанная Meta. Это плотная авторегрессионная модель на архитектуре Transformer с 7,5 млрд параметров; версия Instruct прошла supervised fine-tuning и обучение с обратной связью от людей. Репозиторий содержит веса в формате safetensors, модель предназначена для генерации текста и диалогов с помощником. Окно контекста — 131 072 токена. Модель рассчитана на многоязычный диалог, ответы на вопросы, написание и преобразование текста, а также может использоваться в приложениях и для создания синтетических данных. Заявлены английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Модель принимает и выдаёт текст; поддержка инструментов зависит от интеграции разработчиком. Модель выпущена Meta 23 июля 2024 года. Лицензия — Llama 3.1 Community License с условиями использования и Acceptable Use Policy; перед коммерческим применением необходимо ознакомиться с её условиями. Это статический чекпойнт, обученный на офлайн-данных. Качество и безопасность ответов могут различаться между языками, а карточка не заявляет поддержку русского языка.

aifeifei799 выпустил вариант Llama 3.1 8B Instruct с пометкой Uncensored. Это авторегрессионная плотная языковая модель на архитектуре Transformer с Grouped-Query Attention; метаданные указывают 7,5 млрд параметров и контекст до 131 072 токенов. Модель принимает текст и генерирует текст, поддерживает диалоговый режим и предназначена для многоязычных ассистентских сценариев и генерации текста. Карточка основана на описании Meta Llama 3.1 Instruct и указывает на английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Пометка Uncensored указывает на изменённые ограничения ответа, но README не описывает метод или объём дообучения и не подтверждает конкретные свойства этого изменения. Модель доступна в формате Safetensors по лицензии Llama 3.1 Community License; перед применением следует учитывать условия лицензии и самостоятельно оценивать безопасность ответов.

amd/Llama-3.1-8B-Instruct-w-int8-a-int8-sym-test — это вариант Llama 3.1 8B Instruct, опубликованный AMD. Он предназначен для генерации текста, диалоговых ассистентов и других задач обработки естественного языка; инструкционно дообученная версия оптимизирована для многоязычного общения. Вариант содержит 8 млрд параметров и использует 8-битное симметричное квантование весов и активаций; на странице модели также указаны форматы BF16 и I8. README этого репозитория пуст, поэтому характеристики квантования следует считать основными подтверждёнными сведениями именно об этом варианте, а не результатами отдельной оценки качества. Базовая Llama 3.1 разработана Meta и представляет собой авторегрессионную модель на оптимизированной архитектуре Transformer с Grouped-Query Attention. Она работает с текстом на входе и выдаёт многоязычный текст и код, поддерживает контекст до 128 тысяч токенов и заявленные языки English, German, French, Italian, Portuguese, Hindi, Spanish и Thai. Инструкционная версия обучалась с применением supervised fine-tuning и reinforcement learning from human feedback; модель поддерживает диалоговые сценарии и tool use. Квантование может снизить требования к памяти и ускорить инференс на совместимом оборудовании, но конкретные показатели качества, скорости и совместимости для этого тестового репозитория не указаны. Использование регулируется Llama 3.1 Community License от Meta, а также Acceptable Use Policy. Лицензия допускает коммерческое и исследовательское применение при соблюдении её условий, включая требования к распространению и маркировке; для организаций с более чем 700 миллионами ежемесячных активных пользователей предусмотрено отдельное лицензионное условие.

Llama-3.1-8B-Open-SFT — плотная авторегрессионная языковая модель семейства Llama, разработанная prithivMLmods и дообученная методом supervised fine-tuning на наборе O1-OPEN/OpenO1-SFT от базовой модели meta-llama/Llama-3.1-8B-Instruct. Она содержит 7,5 млрд параметров, рассчитана на контекст до 131 072 токенов и предназначена для генерации текста, диалогов, ответов на вопросы и пошаговых рассуждений. Модель подходит для чат-ботов и виртуальных помощников, открытых и контекстных вопросов, продолжения текста, краткого изложения и творческого письма. В README также заявлены задачи математического рассуждения и Chain-of-Thought; фактическое качество на этих задачах отдельно не подтверждено. Доступны веса в формате safetensors, работа через Transformers; метаданные указывают интерфейс для вызова инструментов. В карточке указан английский язык. Модель принимает текст и генерирует текст. Для полноточного запуска README рекомендует около 16 ГБ видеопамяти; это оценка из карточки, а не гарантия для всех конфигураций. Лицензия — CreativeML OpenRAIL-M.

deltanym/llama3.1-base-instruct-gradient-1 — объединённая автором модель на архитектуре Llama 3.1, созданная методом SLERP с помощью mergekit из meta-llama/Llama-3.1-8B и meta-llama/Llama-3.1-8B-Instruct. Это плотная причинная языковая модель примерно на 7,5 млрд параметров, рассчитанная на генерацию текста и диалоговое взаимодействие; метаданные указывают поддержку интерфейса вызова инструментов. Модель принимает текст и выдаёт текст, использует библиотеку Transformers, веса опубликованы в формате safetensors, а длина контекста составляет 131 072 токена. Модель подходит для диалоговых ассистентов, генерации и продолжения текста, а также сценариев с вызовом инструментов. Инструкционно настроенная базовая модель поддерживает несколько языков, однако точный перечень языков для этого слияния не приведён. Лицензия в предоставленных данных не указана. Результат слияния может отличаться по поведению от обеих исходных моделей; качество и ограничения отдельно не описаны.

Llama3.1-Flammades-70B — диалоговая языковая модель на архитектуре Llama 3.1, разработанная FlammenAI. Это дообученная версия nbeerbower/Llama3.1-Gutenberg-Doppel-70B: модель адаптировали методом ORPO на наборах flammenai/Date-DPO-NoAsterisks и jondurbin/truthy-dpo-v0.1, используя два ускорителя H100 в течение трёх эпох. Модель содержит 69,5 млрд параметров, работает с текстом и имеет контекст длиной до 131 072 токенов. Модель предназначена для диалоговой генерации текста и ответов на инструкции. В карточке приведены результаты Open LLM Leaderboard: средний балл 35,74, IFEval — 70,58, BBH — 52,55; эти показатели отражают оценки на указанных тестах, а не гарантируют качество в конкретном сценарии. Для запуска доступен формат Safetensors и библиотека Transformers. Лицензия — Llama 3.1 Community License.

Llama-3.1-Nemotron-70B-Instruct-HF-GGUF — это квантизированные GGUF-версии инструкционной языковой модели Llama-3.1-Nemotron-70B-Instruct-HF, разработанной NVIDIA. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix; доступны варианты с разными уровнями сжатия и размером файлов примерно от 26 до 75 ГБ. Модель предназначена для генерации текста и диалоговых сценариев, включая работу через llama.cpp и LM Studio. В README указан английский язык, а также набор данных NVIDIA HelpSteer2, использованный для исходной модели. Архитектура описана как Llama 3.1 Nemotron с размером 70B параметров; поддерживаемые модальности ограничены текстом. Контекстное окно в представленном описании не указано. Сильная сторона семейства — возможность выбрать баланс между качеством и требованиями к памяти: варианты Q6_K и Q5 считаются близкими к исходному качеству, а более компактные Q3 и Q2 подходят для систем с ограниченным объёмом RAM, но заметно уступают по качеству. Q4_K_M обозначен как вариант стандартного размера. Квантизации предназначены для локального запуска, однако даже компактные версии требуют значительных ресурсов. Модель распространяется по лицензии llama3.1.

MaziyarPanahi/Mistral-Small-Instruct-2409-GGUF — это набор квантованных файлов в формате GGUF для Mistral-Small-Instruct-2409, опубликованный MaziyarPanahi. Исходную модель разработала Mistral AI; она представляет собой instruct-дообученную языковую модель для диалогов, генерации и обработки текста, включая сценарии с function calling. Репозиторий предназначен для запуска через llama.cpp и совместимые локальные приложения и библиотеки. Модель имеет около 22 млрд параметров, архитектуру MistralForCausalLM и контекст до 32 768 токенов. Поддерживаются английский, французский, немецкий, испанский, итальянский, португальский, китайский, японский, русский и корейский языки. Доступны варианты квантования от низкой разрядности до 8-bit, что позволяет уменьшить требования к памяти и запускать модель на совместимом CPU или GPU, однако более сильное квантование может снизить качество по сравнению с исходными весами; для полной модели требуются значительные вычислительные ресурсы. Исходная Mistral-Small-Instruct-2409 распространяется по Mistral Research License (MRL). Указанные условия разрешают использование в некоммерческих исследовательских целях; для коммерческого использования модели, производных версий или их предоставления требуется отдельная коммерческая лицензия Mistral AI.

Joseph717171/Llama-3.1-SuperNova-8B-Lite_TIES_with_Base — объединённая языковая модель, созданная автором репозитория с помощью mergekit методом TIES на основе arcee-ai/Llama-3.1-SuperNova-Lite и meta-llama/Llama-3.1-8B. Модель относится к семейству Llama, имеет плотную архитектуру LlamaForCausalLM и около 7,5 млрд параметров; для загрузки используются файлы safetensors. Заявленная длина контекста — 131 072 токена. Модель предназначена для генерации текста и диалоговых сценариев. Автор применил параметры weight и density, чтобы сохранить больше возможностей следования инструкциям при объединении. В карточке приведены результаты Open LLM Leaderboard, включая оценку IFEval 80,96 и средний балл 43,07. Лицензия — Llama 3.1; условия использования определяются соответствующей лицензией Meta. README не сообщает поддерживаемые естественные языки и не описывает отдельные специализированные области применения.

Карточка модели yentinglin/Llama-3.1-Taiwan-8B на Hugging Face совпадает с карточкой yentinglin/Llama-3.1-Taiwan-8B-Instruct, поэтому описание составлено по ней. yentinglin/Llama-3.1-Taiwan-8B-Instruct — чат-модель на базе архитектуры Llama, разработанная yentinglin. Она предназначена для генерации текста в диалогах и других сценариях, где требуется следовать инструкциям. Модель содержит 7,5 млрд параметров, использует библиотеку Transformers и формат Safetensors; заявленная длина контекста — 131 072 токена. В метаданных также отмечен интерфейс вызова инструментов. Карточка предупреждает, что ответы нужно самостоятельно проверять на точность и пригодность. Модель не предназначена для медицинской диагностики, юридических консультаций и финансовых решений. В предоставленных материалах условия лицензии не описаны.

Llama-3.1-Tulu-3-8B-GGUF — набор GGUF-квантизаций языковой модели Llama-3.1-Tulu-3-8B, разработанной Allen Institute for AI (AI2) и опубликованной в формате для локального запуска. Квантизации подготовлены bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев; указанный в карточке pipeline — text-generation. Для работы рекомендуется формат приглашений с ролями system, user и assistant, а запуск возможен, в частности, через LM Studio или совместимые инструменты llama.cpp. Модель содержит около 8 млрд параметров, поддерживает английский язык и поставляется в вариантах от исходных весов F16 до более компактных Q2–Q8-квантизаций. Размер файлов составляет примерно от 3,5 до 16,1 ГБ; варианты отличаются компромиссом между качеством и требованиями к памяти. Наиболее сбалансированным для большинства сценариев README называет Q4_K_M, а Q5 и Q6 — высококачественными вариантами. Более сильное сжатие уменьшает потребление памяти, но снижает качество, а отдельные варианты оптимизированы для ARM и имеют ограничения по аппаратной совместимости. Длина контекста и мультимодальные возможности в карточке не указаны. Лицензия обозначена как llama3.1; перед использованием следует учитывать условия лицензии базовой модели.

Карточка модели Openintelligent123/Llama-3.2-1B на Hugging Face совпадает с карточкой unsloth/Llama-3.2-1B, поэтому описание составлено по ней. unsloth/Llama-3.2-1B — текстовая модель генерации на базе Meta Llama 3.2, представленная Unsloth. Это плотная авторегрессионная трансформерная архитектура Llama с 1,2 млрд параметров; репозиторий содержит веса в формате safetensors и предназначен для использования через Transformers. В README Unsloth также предлагает ноутбуки для дообучения модели и экспорта полученных моделей. Модель принимает текст и генерирует текст. Семейство Llama 3.2 предназначено для генерации и диалога; в карточке указаны сценарии суммаризации и агентного поиска, а также поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Контекстное окно составляет 131072 токена. Модель опубликована 25 сентября 2024 года и распространяется по лицензии Llama 3.2 Community License, условия которой следует соблюдать при использовании и распространении.

alpindale/Llama-3.2-1B-Instruct — это текстовая инструкционная модель семейства Llama 3.2, разработанного Meta. Репозиторий содержит версию с примерно 1,2 млрд параметров; модель построена на авторегрессионной архитектуре Transformer с Grouped-Query Attention и предназначена для генерации текста в Transformers. Для согласования ответов с предпочтениями пользователей применялись supervised fine-tuning и обучение с обратной связью от людей. Модель рассчитана на диалог в роли ассистента, поиск знаний и суммаризацию, а также на мобильных помощников для письма, переформулирование запросов и подсказок и агентные сценарии. Она принимает и генерирует текст, включая код, поддерживает контекст до 131 072 токенов и официально рассчитана на английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Компактный размер позволяет рассматривать модель для применения на устройствах с ограниченными ресурсами. Качество, безопасность и полезность могут уступать более крупным моделям, поэтому разработчикам следует проверять поведение модели в конкретном сценарии. Знания ограничены данными с отсечкой по декабрю 2023 года. Использование регулируется специальной коммерческой лицензией Llama 3.2 Community License и Acceptable Use Policy.

MInAlA/Llama-3.2-3B-DPO-merged — диалоговая языковая модель на архитектуре Llama, полученная выравниванием Llama-3.2-3B-Instruct методом DPO на наборе предпочтений argilla/ultrafeedback-binarized-preferences. Модель содержит 3,2 млрд параметров, принимает текст и генерирует текст; поддерживает контекст до 131072 токенов и предназначена для использования через библиотеку Transformers. Модель подходит для диалогов, генерации ответов и других текстовых задач общего назначения. В метаданных указаны мультиязычные возможности базовой модели, но конкретный перечень языков для этой производной модели не приведён. Репозиторий содержит веса в формате safetensors. Лицензия в предоставленных данных не указана.

alpindale/Llama-3.2-3B-Instruct — текстовая инструктивно настроенная модель семейства Llama 3.2, разработанного Meta. Это авторегрессионный трансформер с плотной архитектурой и примерно 3,2 млрд параметров, доступный через Transformers в формате Safetensors. Модель принимает и генерирует текст, рассчитана на диалоги и работу в приложениях с ограниченными ресурсами, включая мобильные устройства. Модель предназначена для чат-помощников, поиска знаний и суммаризации, а также для написания текстов и переформулирования запросов. README указывает поддержку английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Контекстное окно составляет 131 072 токена. Настройка включает контролируемое дообучение и обучение с подкреплением по оценкам людей; заявлены GQA и интерфейс для диалогового применения. Небольшой размер подходит для развертывания в условиях ограниченных ресурсов, но качество и профиль безопасности могут уступать более крупным моделям и требуют проверки для конкретного применения. Модель обучена на статическом наборе данных с отсечкой знаний в декабре 2023 года. Использование регулируется пользовательской лицензией Llama 3.2 Community License и Acceptable Use Policy.

baseten/Llama-3.2-3B-Instruct-pythonic — дообученная Baseten модель на базе Meta Llama 3.2 3B Instruct. Это авторегрессионный плотный трансформер семейства Llama, предназначенный для генерации текста и диалогов; карточка также указывает интерфейс вызова инструментов. Базовая модель оптимизирована для многоязычных диалогов, суммаризации и сценариев агентного поиска. Модель содержит 3,2 млрд параметров и поддерживает контекст до 131 072 токенов. Карточка описывает базовую модель как текстовую на входе и выходе, с официальной поддержкой английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Для этой производной модели не приведены отдельные сведения о специализации или дополнительных языках. Репозиторий использует формат safetensors и библиотеку Transformers. Использование регулируется лицензией Llama 3.2 Community License, то есть пользовательскими условиями Meta.

Это текстовая версия Llama 3.2 11B Vision Instruct, опубликованная theo77186: автор карточки сообщает, что из исходной модели оставлена только языковая часть размером около 8 млрд параметров. Модель построена на архитектуре Llama и предназначена для генерации текста в формате инструкций и диалогов, включая ответы на вопросы и работу в роли чат-ассистента. Модель принимает текст и поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Заявленная длина контекста — 131 072 токена. В репозитории указаны веса safetensors и лицензия Llama 3.2 Community License с особыми условиями использования. Хотя исходная Llama 3.2 Vision рассчитана на задачи с изображениями, автор этого репозитория оставил только языковую часть, поэтому описанные сценарии обработки изображений к данной версии не относятся. Карточка не приводит отдельной оценки качества именно этой текстовой версии. Следует учитывать условия Community License и Acceptable Use Policy; модель обучена на статическом наборе данных.

tintnguyen/llama3.2-ft — дообученная tintnguyen модель для генерации текста на основе tintnguyen/llama3.2. Она предназначена для текстовых диалогов и других сценариев генерации; в метаданных также заявлен интерфейс вызова инструментов. Модель использует плотную архитектуру LlamaForCausalLM и содержит 3,2 млрд параметров. Родная длина контекста — 131 072 токена; формат весов — safetensors. Модель обучена с использованием Unsloth и библиотеки Hugging Face TRL. Карточка не описывает специализированную предметную область или дополнительные возможности обучения. Лицензия — Apache-2.0.

Это 4-битная квантованная версия модели meta-llama/Llama-3.3-70B-Instruct, созданная и протестированная The Kaitchup. Модель сериализована в формате GPTQ с использованием AutoRound и симметричной квантизации. Модель предназначена для задач генерации текста и следования инструкциям на английском языке, включая диалоговые и другие NLP-сценарии, поддерживаемые исходной Llama 3.3 70B Instruct. Ключевая характеристика — размер исходной модели 70 млрд параметров и 4-битное представление весов, что уменьшает требования к памяти по сравнению с полной версией и делает запуск на совместимом GPU более доступным. К преимуществам относятся сохранение возможностей большой instruct-модели при сниженных требованиях к памяти, а также совместимость с инструментами и форматом GPTQ. Ограничения связаны с использованием квантования, которое может влиять на точность и качество генерации; сведения о контексте, поддерживаемых модальностях, производительности и конкретных требованиях к оборудованию в README не указаны. Модель распространяется по лицензии Llama 3.3.