I.5Создание и редактирование текста

llama-3.1-70B-lumitron-lorablated — слитая модель генерации текста на архитектуре Llama, созданная nonetrix с помощью mergekit. В объединении использованы nonetrix/llama-3.1-70B-lumitron и mlabonne/Llama-3-70B-Instruct-abliterated-LORA; применён метод task arithmetic. Модель содержит 69,5 млрд параметров, работает с библиотекой Transformers и сохранена в формате safetensors. Модель предназначена для диалоговой генерации текста и может использоваться для ответов на запросы и ведения беседы. Заявленная длина контекста — до 131 072 токенов; в метаданных также отмечен интерфейс tool calling. Карточка не описывает результаты оценки качества и не приводит сведения о лицензии, поэтому эти свойства нельзя подтвердить по доступным данным.

nonetrix/llama-3.1-70B-nemotron-agent-ja-120B — объединённая модель на архитектуре Llama 3.1, созданная разработчиком nonetrix линейным слиянием двух моделей: nvidia/Llama-3.1-Nemotron-70B-Instruct-HF и cyberagent/Llama-3.1-70B-Japanese-Instruct-2407. Она предназначена для генерации текста в диалогах и ответов на запросы; в метаданных также заявлен интерфейс вызова инструментов. Репозиторий содержит 118,3 млрд параметров в формате safetensors, поддерживает контекст до 131 072 токенов и предназначен для работы через Transformers. Слияние объединяет диалоговую модель NVIDIA на базе Llama 3.1 с японской инструктивной моделью CyberAgent, поэтому модель ориентирована на японские и многоязычные диалоговые сценарии. README не приводит сравнительных оценок качества или подробных рекомендаций по применению. Лицензия в предоставленных данных не указана.

PlumChat 70b — объединённая языковая модель sequelbox, созданная с помощью mergekit на основе Meta Llama 3.1 70B Instruct и моделей NVIDIA Llama 3.1 Nemotron 70B Instruct HF и ValiantLabs Llama3.1-70B-ShiningValiant2. Она предназначена для диалогов общего назначения, следования инструкциям, научных запросов и сложных вопросов. Модель использует плотную архитектуру LlamaForCausalLM, содержит 69,5 млрд параметров и поддерживает контекст до 131 072 токенов; карточка указывает английский язык. Веса опубликованы в формате safetensors, библиотека — Transformers. Слияние выполнено методом Della с нормализацией весов. Модель рассчитана на генерацию текста и чат, в том числе на научные и технические темы. Лицензия — Llama 3.1; условия её использования определяются лицензией Meta Llama 3.1.

Llama-3.1-8B-ArliAI-RPMax-v1.1-GGUF — это GGUF-квантизованная версия текстовой генеративной модели Llama-3.1-8B-ArliAI-RPMax-v1.1, разработанной ArliAI. Квантизацию выполнил bartowski с использованием llama.cpp release b3715 и метода imatrix. Модель предназначена для генерации текста и может запускаться локально через llama.cpp и LM Studio. Модель основана на архитектуре Llama 3.1 с размером 8 млрд параметров и работает в текстовой модальности. Доступны варианты от F16 до низкобитных форматов Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и IQ, что позволяет выбирать баланс между качеством, размером файла и требованиями к оперативной памяти. Рекомендуемые варианты обеспечивают высокое или хорошее качество, а Q3 и некоторые другие компактные варианты подходят для систем с ограниченными ресурсами. Отдельные сборки оптимизированы для ARM и требуют соответствующей поддержки процессора. Сильной стороной модели является широкий выбор квантизаций и возможность локального запуска с различными аппаратными конфигурациями. Ограничения включают неизбежное снижение качества в более компактных вариантах, а также отсутствие в предоставленных данных сведений о поддерживаемых языках, размере контекста, обучающих данных и специализированных сценариях применения. Для корректной работы следует использовать указанный формат prompt. Лицензия: llama3.

Llama-3.1-8B-ArliAI-RPMax-v1.3-GGUF — это набор квантованных версий текстовой генеративной модели Llama-3.1-8B-ArliAI-RPMax-v1.3, разработанной ArliAI. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix; распространение осуществляется в формате GGUF для локального запуска, в частности через LM Studio. Модель предназначена для генерации текста и диалоговых сценариев. Доступны варианты от полноразмерных F16 весов размером 16,07 ГБ до компактных квантовок Q3 и IQ3 размером около 3,78–4,78 ГБ. Для большинства сценариев предлагаются Q4_K_M, Q5- и Q6-варианты как компромисс между качеством и требованиями к памяти; некоторые варианты оптимизированы для ARM, но требуют соответствующих аппаратных инструкций и не рекомендуются для Mac или Windows. В основе лежит архитектура Llama 3.1 с 8 млрд параметров, однако сведения о поддерживаемых языках, размере контекста, обучающих данных, специализированных возможностях и результатах тестирования в README не указаны. Модель ориентирована на текстовую модальность и не предназначена для обработки изображений или других типов данных. Условия использования обозначены лицензией llama3.1.

Llama3.1-8B-Chinese-Chat — языковая модель для генерации текста и диалогового взаимодействия на китайском и английском языках, разработанная Shenzhi Wang, Yaowei Zheng, Guoyin Wang, Shiji Song и Gao Huang. Модель дообучена на основе Meta-Llama-3.1-8B-Instruct с применением метода оптимизации предпочтений ORPO и фреймворка LLaMA-Factory. Обучение проводилось на более чем 100 тысячах пар предпочтений с полным обновлением параметров. Модель предназначена для чат-сценариев, ролевого общения, использования инструментов и function calling, а также решения математических задач. Она имеет 8,03 млрд параметров; заявленная длина контекста составляет 128K токенов, однако для китайской версии эта характеристика не тестировалась разработчиками. Длина контекста, использованная при дообучении, составляла 8192 токена. Доступны версии BF16 и GGUF с квантованиями q4_k_m и q8_0, а также в формате f16. К сильным сторонам относятся ориентация на китайско-английских пользователей, улучшенные возможности ролевого общения, работы с инструментами и математики, а также поддержка запуска через Transformers и llama.cpp. Ограничения включают неподтверждённую практическими тестами длину контекста 128K и возможную нестабильность ответов на вопросы о собственной идентичности и разработчиках. Модель распространяется по лицензии Llama 3.1 License.

QuantFactory/Llama-3.1-8B-EZO-1.1-it-GGUF — квантизированная версия модели HODACHI/Llama-3.1-8B-EZO-1.1-it, созданная с помощью llama.cpp. Исходная модель разработана на базе Meta AI Llama 3.1 и дообучена компанией Axcxept co., ltd. для повышения качества работы с японскими задачами. Модель предназначена для генерации текста, диалоговых ассистентов и других сценариев, требующих следования инструкциям и многоязычной обработки, при этом основной акцент сделан на японском языке. Архитектура основана на Llama 3.1-8B-Instruct; заявлены языки японский и английский. Формат GGUF и квантизация ориентированы на запуск через совместимые инструменты, включая llama.cpp, однако конкретный уровень квантизации, размер файла и поддерживаемая длина контекста в карточке не указаны. Для обучения использовались отобранные данные из Japanese Wikipedia и FineWeb с последующим instruction tuning. Как и другие большие языковые модели, система может генерировать неточные, предвзятые или проблемные ответы, поэтому перед развёртыванием необходимы тестирование безопасности и настройка под конкретное применение. Использование регулируется Llama 3.1 Community License Agreement. Указанные рекомендации сообщать о коммерческом использовании и указывать авторство являются рекомендациями, а не юридическими требованиями.

itsabdou/llama31-8b-fine-tuned-combined-v2-merged — дообученная плотная авторегрессионная языковая модель семейства Llama 3.1, разработанная itsabdou на базе unsloth/Meta-Llama-3.1-8B-Instruct-bnb-4bit. В модели около 7,5 млрд параметров; она принимает текст и генерирует текст, поддерживает диалоговый режим и интерфейс вызова инструментов. Заявленная длина контекста — 131 072 токена. Модель предназначена для генерации текста и диалоговых сценариев на английском языке. Карточка сообщает, что обучение выполнено с использованием Unsloth и библиотеки TRL от Hugging Face; лицензия — Apache-2.0. Сведения о специализации дообучения и его оценке качества не приведены.

TInkybala/llama-3.1-8b-finetune-test-merged — дообученная языковая модель TInkybala на архитектуре Llama 3.1 с 7,5 млрд параметров. В качестве базовой модели указана unsloth/meta-llama-3.1-8b-unsloth-bnb-4bit; обучение проводилось с использованием Unsloth и библиотеки TRL. Модель предназначена для генерации текста и может использоваться в сценариях диалога и создания текстовых ответов. Метаданные указывают английский язык и контекст до 131 072 токенов. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0. Карточка не описывает специализацию дообучения или результаты оценки качества.

mlx-community/Llama-3.1-8B-Instruct — преобразованная в формат MLX версия инструкционной языковой модели Meta Llama 3.1 8B Instruct, подготовленная сообществом mlx-community. Это плотная авторегрессионная модель класса LlamaForCausalLM с 7,5 млрд параметров и контекстом до 131 072 токенов. Модель предназначена для диалогов, генерации текста и вызова инструментов через соответствующий интерфейс. Её можно использовать в приложениях на Apple Silicon с библиотекой MLX и mlx-lm; заявленные языки включают английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Формат файлов в репозитории — safetensors. Модель основана на meta-llama/Llama-3.1-8B-Instruct и распространяется по лицензии Llama 3.1. Производительность и пригодность для конкретного сценария зависят от аппаратной конфигурации и способа использования; поддержка русского языка в предоставленных сведениях не заявлена.

Apollo Raines представил экспериментальный вариант Llama-3.1-8B-Instruct, изменённый инструментом jBlaze методом representation engineering. По карточке, веса были скорректированы без дополнительного обучения: ослаблены отказы на запросы и подавлены токсичные речевые шаблоны. Модель предназначена для диалогов и генерации текста, включая обсуждение широкого круга тем; примеры также показывают ответы на общие вопросы, простые вычисления и написание кода. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM, примерно 7,5 млрд параметров и контекстом до 131 072 токенов. В метаданных указан английский язык; заявлена лицензия Llama 3.1. Автор описывает выпуск как демонстрационный и намеренно ограниченный по возможностям, поэтому результаты не следует считать показателем полной версии инструмента jBlaze. Ослабление отказов может приводить к ответам на опасные запросы; заявление об отсутствии наблюдавшихся проблем не заменяет независимую оценку безопасности.

ferrazzipietro/Llama-3.1-8B-Instruct-reas-int-065-3-epochs-es — дообученная модель семейства Llama, созданная на основе meta-llama/Llama-3.1-8B-Instruct и предназначенная для генерации текста в диалоговом режиме. Она содержит 7,5 млрд параметров, использует плотную архитектуру LlamaForCausalLM и формат safetensors; для запуска предусмотрена библиотека Transformers. Длина контекста составляет до 131 072 токенов. Модель подходит для диалоговых ответов и генерации текста. README не раскрывает обучающую выборку, конкретные специализации или результаты оценки качества, поэтому профиль дообучения и сильные стороны сверх возможностей базовой модели определить нельзя. Лицензия — Llama 3.1 Community License.

Это GGUF-квантизированная версия инструкционной языковой модели Llama 3.1 8B Instruct Uz, базовая модель которой разработана behbudiy, а квантизацию выполнил mradermacher. Модель обучалась с использованием наборов yahma/alpaca-cleaned, behbudiy/alpaca-cleaned-uz и behbudiy/translation-instruction и ориентирована прежде всего на узбекский и английский языки. Модель предназначена для генерации текста по инструкциям, ответов на вопросы, суммирования и перевода. Она поддерживает распространённый формат GGUF и поставляется в нескольких вариантах квантизации размером примерно от 3,3 до 16,2 ГБ, включая Q2_K, IQ3, Q4_K, Q5_K, Q6_K, Q8_0 и f16. В README не указаны точный размер контекста, мультимодальные возможности, результаты тестирования или конкретные аппаратные требования. Основное преимущество — возможность локального запуска при выборе компактных вариантов квантизации; версии Q4_K_S и Q4_K_M отмечены как быстрые и рекомендуемые, а Q8_0 — как вариант с лучшим качеством среди представленных. Более сильная квантизация уменьшает требования к памяти, но может снижать качество по сравнению с f16. Модель распространяется по лицензии llama3.1.

QuantFactory/Llama-3.1-8B-Instuct-Uz-GGUF — квантизированная версия модели Llama-3.1-8B-Instruct-Uz, созданная QuantFactory с использованием llama.cpp. Исходную модель разработали Eldor Fozilov, Azimjon Urinov и Khurshid Juraev. Модель основана на Meta Llama 3.1 8B Instruct и дообучена на общедоступных и синтетических данных на узбекском и английском языках. Модель предназначена для генерации текста и диалоговых сценариев, машинного перевода между узбекским и английским языками, суммаризации, анализа тональности, классификации узбекских новостей, ответов на вопросы и других задач обработки естественного языка. В карточке указаны наборы данных yahma/alpaca-cleaned, behbudiy/alpaca-cleaned-uz и behbudiy/translation-instruction, а также оценки с использованием метрик BLEU, COMET и accuracy. Ключевая особенность этой версии — квантизация в формате GGUF для запуска через llama.cpp, что может упростить локальное использование по сравнению с полноразмерной моделью. Поддерживаются узбекский и английский языки. Точный вариант квантизации, требования к ресурсам и размер контекстного окна в карточке не указаны. Числовые результаты сравнительных оценок также не приведены, поэтому качество на конкретных задачах следует проверять отдельно. Лицензия указана как llama3.1.

Llama-3.1-8B-Magpie-Align-SFT-v0.1 — языковая модель, созданная проектом Magpie-Align путём дообучения Meta Llama 3.1 8B. Для обучения использованы наборы Magpie-Pro-MT-300K-v0.1 и Magpie-Reasoning-150K; модель предназначена для диалогов и выполнения инструкций, включая задачи рассуждения. Она основана на плотной архитектуре LlamaForCausalLM, содержит 7,5 млрд параметров и имеет контекст длиной до 131 072 токенов. Модель работает с текстом и рассчитана прежде всего на английский язык. Авторы сообщают о результатах, сопоставимых с Llama-3.1-8B-Instruct при обучении только методом SFT; среди приведённых оценок — 24,79 LC и 25,05 WR на Alpaca Eval 2, а также 21,0 на Arena Hard. Для лучшего качества рекомендуется официальный шаблон чата Llama 3. Ограничения включают унаследованные от базовой модели возможные ошибки и ненадёжность ответов; результаты зависят от формулировки запроса. Лицензия — Meta Llama 3.1 Community License для модели; README также указывает на условия Meta Llama 3 Community License для данных.

Модель cluebbers/Llama-3.1-8B-paraphrase-type-generation-etpc разработана Jan Wahle и представляет собой дообученную текстовую генеративную модель семейства Llama 3.1. Она основана на meta-llama/Llama-3.1-8B, содержит около 7,5 млрд параметров и предназначена для генерации текста, связанной с перефразированием по типам преобразований из набора ETPC. Модель принимает текст и генерирует текст; карточка указывает английский язык, а контекстное окно составляет до 131 072 токенов. Модель сохранена в формате Safetensors и рассчитана на работу через Transformers. Лицензия — Apache-2.0. Карточка не приводит подробностей о качестве, методике обучения, метриках или ограничениях перефразирования, поэтому результаты следует проверять на целевых примерах.

Модель Na0s/Llama-3.1-8B-Pruned-4-Layers_LoRA-PEFT — дообученная с помощью LoRA-PEFT языковая модель семейства Llama 3.1, основанная на Na0s/Llama-3.1-8b-Pruned-4-Layers. Она предназначена для генерации текста и может использоваться в сценариях, где нужен ответ или продолжение текста по текстовому запросу. Модель содержит 6,4 млрд параметров, использует архитектуру LlamaForCausalLM и принимает контекст до 131 072 токенов. Для обучения применялся набор Open-Orca/SlimOrca. В README приведён результат 0,2937 на MMLU Pro в режиме zero-shot; данных для сравнения с базовой моделью или оценки качества на других задачах нет. Модель распространяется по лицензии Apache-2.0. Информация о целевых языках и специализированных предметных областях не приведена.

Llama-3.1-8B-Stheno-v3.4-GGUF — это GGUF-квантизированная версия текстовой генеративной модели Llama-3.1-8B-Stheno-v3.4, разработанной Sao10K и квантизированной bartowski. Модель предназначена для генерации текста и запуска локально через llama.cpp, в том числе в LM Studio. В README указаны англоязычная специализация и формат диалога на основе шаблона Llama 3.1. Модель содержит 8 миллиардов параметров и распространяется в вариантах от F16 до Q2_K_L, включая форматы Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и IQ-квантизации. Квантизация выполнена с использованием imatrix и llama.cpp b3825. Варианты различаются размером файла, качеством и требованиями к памяти: Q6_K_L и Q6_K обозначены как почти не уступающие исходной модели, Q4_K_M — как сбалансированный вариант, а младшие форматы подходят для систем с ограниченным объёмом RAM, но снижают качество. Некоторые варианты оптимизированы для ARM и требуют поддержки соответствующих инструкций процессора. Модель ориентирована на англоязычную генерацию текста, включая сценарии диалогов и творческого письма; среди исходных наборов данных указаны Stheno-v3.4-Instruct и Stheno-3.4-Creative-2. В README не приведены сведения о мультимодальности, длине контекста, конкретной архитектуре базовой модели и результатах бенчмарков. Лицензия — CC BY-NC 4.0, поэтому коммерческое использование может быть ограничено условиями лицензии.

Llama3.1-Allades-8B — диалоговая текстовая модель, созданная Allades на основе mlabonne/Meta-Llama-3.1-8B-Instruct-abliterated. Модель дообучена методом ORPO в течение одной эпохи на пяти наборах данных; автор заявляет улучшения в творческом письме, рассуждениях и ролевых диалогах. Модель построена на плотной архитектуре Llama и содержит 7,5 млрд параметров. Она принимает текст и генерирует текст; длина контекста составляет до 131 072 токенов. Репозиторий использует формат safetensors, а для применения указана библиотека Transformers. Лицензия — Llama 3.1.

Модель elanor18/llama31-ics-merged — дообученная разговорная языковая модель семейства Llama 3.1, разработанная elanor18 на основе unsloth/llama-3.1-8b-instruct-unsloth-bnb-4bit. Она предназначена для генерации текста и диалоговых сценариев; метаданные также отмечают интерфейс вызова инструментов. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров и поддерживает контекст до 131 072 токенов. Для обучения использовались Unsloth и библиотека TRL из Hugging Face. В карточке заявлен английский язык. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. Сведения о специальной предметной области и результатах оценки качества не приведены.

ReplaceHumanWithAI/llama3.1_low_F16 — дообученная разговорная языковая модель семейства Llama 3.1, разработанная ReplaceHumanWithAI на базе unsloth/meta-llama-3.1-8b-instruct-bnb-4bit. Модель с плотной архитектурой LlamaForCausalLM содержит 7,5 млрд параметров и предназначена для генерации текста в диалогах; в метаданных также отмечен интерфейс вызова инструментов. Модель принимает текст и выдаёт текст, поддерживает английский язык. Заявленная длина контекста — 131 072 токена. Веса представлены в формате safetensors; для обучения использовались Unsloth и библиотека TRL. Модель распространяется по лицензии Apache-2.0. Карточка не описывает специализацию дообучения или результаты оценки качества, поэтому её пригодность для конкретных сценариев следует проверять отдельно.

unsloth/Llama-3.1-Nemotron-70B-Instruct — текстовая диалоговая модель NVIDIA на архитектуре Llama 3.1, опубликованная Unsloth. Это версия с дообучением NVIDIA Llama-3.1-Nemotron-70B-Instruct-HF; в карточке каталога указан датасет HelpSteer2. Модель предназначена для генерации ответов на инструкции и запросы в диалоге, а также поддерживает интерфейс вызова инструментов. Модель имеет плотную архитектуру LlamaForCausalLM и 69,5 млрд параметров. Она принимает текст и выдаёт текст, поддерживает английский язык и контекст до 131 072 токенов. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Llama 3.1. README направляет к исходной карточке NVIDIA за дополнительными сведениями; подробные ограничения и оценка качества в предоставленных данных не описаны.

Llama-3.1-Nemotron-70B-Instruct-HF-GGUF — крупная языковая модель для генерации текста, разработанная NVIDIA на основе Llama 3.1 Nemotron 70B Instruct. Представленная версия распространяется в формате GGUF; квантизация выполнена bartowski с использованием llama.cpp версии b3901. Модель ориентирована на повышение полезности ответов на пользовательские запросы и предназначена для диалоговых приложений, ассистентов и других сценариев текстовой генерации. Модель содержит 70 миллиардов параметров, поддерживает контекст длиной до 128 тысяч токенов и предназначена прежде всего для работы с английским языком. В README указана специализация на текстовой модальности и приведены результаты оценки: Arena Hard — 85,0, AlpacaEval 2 LC — 57,6 и GPT-4-Turbo MT-Bench — 8,98. В качестве набора данных указан NVIDIA HelpSteer2. К сильным сторонам относятся большой контекст, высокая заявленная полезность ответов и возможность использования GGUF-версии в совместимых инструментах локального запуска. Модель может генерировать неточные, вредные или неподходящие ответы, а README не содержит подробностей о требованиях к аппаратному обеспечению и конкретном варианте квантизации. Лицензия указана как llama3.1; условия её применения следует проверять в исходной карточке модели NVIDIA.

umarigan/llama-3.1-openhermes-tr — дообученная плотная языковая модель семейства Llama, разработанная umarigan на базе unsloth/llama-3-8b-bnb-4bit с использованием Unsloth и библиотеки TRL. Модель содержит 7,5 млрд параметров и рассчитана на работу с текстом; заявленное контекстное окно составляет 131 072 токена. В метаданных указана поддержка английского и турецкого языков. Модель предназначена для генерации текста и ответов на вопросы. Её можно применять в диалоговых системах и для подготовки текстовых ответов по запросам. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. В карточке не приведены результаты оценки качества и подробности обучающих данных.

Это набор GGUF-квантизаций модели Llama-3.1_OpenScholar-8B, подготовленный пользователем bartowski на основе модели OpenScholar/Llama-3.1_OpenScholar-8B. Квантизация выполнена с помощью llama.cpp версии b4132 и метода imatrix. Модель предназначена для генерации текста и локального запуска, в частности через LM Studio и совместимые инструменты llama.cpp. В составе доступны варианты от F16 до низкобитных Q2 и IQ-квантизаций, с размерами файлов примерно от 3,69 до 16,07 ГБ. Более высокие уровни квантования обеспечивают лучшее сохранение качества, а компактные варианты требуют меньше оперативной памяти, но могут заметнее уступать по качеству. Для некоторых файлов указана оптимизация под ARM или AVX; отдельные варианты не рекомендуются для Mac или GPU. Модель работает с текстом, поддерживает английский язык, а формат prompt соответствует шаблону Llama 3.1. Размер контекста и точная архитектура в README не указаны. Распространение заявлено по лицензии Apache-2.0. Ключевые ограничения связаны с компромиссом между размером файла, требованиями к памяти и качеством, зависящим от выбранного типа квантования.

Llama-3.1-Sherkala-8B-Chat — языковая модель Inception (компании G42), MBZUAI и Cerebras Systems, дообученная для выполнения инструкций. Она предназначена прежде всего для казахского языка и также поддерживает английский, русский и турецкий. Модель принимает текст и генерирует текст, подходит для диалоговых помощников, ответов на вопросы и создания контента. В основе лежит причинный трансформер-декодер архитектуры Llama 3.1-8B с позиционным кодированием RoPE и grouped-query attention. Размер модели — 8 млрд параметров, контекст — 8192 токена. Для лучшей токенизации казахского словарь расширен высокочастотными казахскими токенами; обучение включало 45,3 млрд токенов и многоязычную настройку на инструкции. Модель может выдавать неточные, вводящие в заблуждение или предвзятые ответы, поэтому для чувствительных и важных решений необходима проверка человеком. Она не предназначена для коммерческого использования; в карточке указана лицензия CC BY-NC-SA 4.0, а README также требует соблюдать условия лицензии Meta Llama 3.1 Community и связанные политики.

Llama-3.1-SuperNova-Lite-IMat-GGUF — набор GGUF-квантизованных версий модели arcee-ai/Llama-3.1-SuperNova-Lite, подготовленный пользователем legraphista. Модель предназначена для генерации текста и локального запуска через llama.cpp. В README указано, что исходные веса имеют формат BF16, а квантизация выполнена с помощью llama.cpp версии b3726. Доступны варианты от BF16 и FP16 до Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и ряда IQ-квантов размером примерно от 3,18 до 16,07 ГБ. Для многих вариантов применена IMatrix-квантизация, призванная повысить качество при уменьшенной точности; также доступен отдельный файл imatrix.dat. Это позволяет выбирать компромисс между качеством, требованиями к памяти и скоростью локального вывода. Модель относится к текстовым моделям и заявлена для английского языка. README не сообщает точное число параметров, архитектурные детали, размер контекста и результаты тестирования, поэтому эти характеристики нельзя достоверно оценить по имеющимся данным. К ограничениям относятся зависимость качества и требований к ресурсам от выбранного варианта квантизации, а также отсутствие заявленной мультимодальности. Лицензия указана как llama3.

Llama 3.1 Swallow Gen 8B v0.1 — языковая модель, полученная слиянием моделей Tokyo Institute of Technology и BAAI с помощью Mergekit. Она объединяет Llama-3.1-Swallow-8B-Instruct-v0.1 и Infinity-Instruct-7M-Gen-Llama3_1-8B методом dare_ties; архитектура — плотная LlamaForCausalLM, размер — 7,5 млрд параметров, формат весов — safetensors, библиотека — Transformers. Модель предназначена для генерации текста и диалогов на японском и английском языках, включая выполнение текстовых инструкций. Контекст составляет до 8192 токенов. Лицензия в предоставленных данных не указана.

Snowflake AI Research разработала Snowflake/Llama-3.1-SwiftKV-8B-Instruct — инструкционную языковую модель на архитектуре Llama-3.1 с преобразованием SwiftKV для ускорения вывода. Метод оптимизирует обработку входного промпта: перенастраивает модель и применяет дистилляцию с сохранением знаний, чтобы часть токенов при обработке промпта могла пропускать до половины слоёв. Репозиторий содержит веса в формате safetensors; число параметров — 7,5 млрд, контекст — до 131 072 токенов. Модель предназначена для генерации текста и диалоговых сценариев, где важны скорость обработки промптов и эффективность обслуживания запросов. В README заявлены улучшения пропускной способности, задержки и стоимости до 2 раз при небольшой потере точности; для версии 8B приведены результаты бенчмарков, где среднее значение снизилось с 73,71 до 72,70 относительно базовой модели. Поддерживается лицензия Llama 3.1; применяются её условия использования.

Llama-3.1-Tulu-3-70B-SFT — англоязычная инструкция-следующая модель, разработанная AllenAI на основе Meta Llama 3.1 70B. Это плотная авторегрессионная Transformer-модель примерно на 69,5 млрд параметров, дообученная методом supervised fine-tuning на смеси открытых, синтетических и созданных людьми данных. Репозиторий содержит веса в формате safetensors; модель поддерживает контекст до 131 072 токенов и диалоговый шаблон для использования в чат-приложениях. Модель предназначена для диалога и выполнения инструкций, а также для широкого круга задач, включая математические рассуждения и следование заданным форматам. Карточка приводит оценки на MATH, GSM8K и IFEval; опубликованные бенчмарки дают ориентир, но не гарантируют качество в конкретном применении. Разработчики отмечают, что модель в первую очередь рассчитана на английский язык. У модели ограничено обучение безопасности, поэтому она может выдавать проблемный контент, особенно при соответствующих запросах; фильтрация ответов не встроена. Использование регулируется лицензией Llama 3.1 Community License Agreement.