II.6Документация и сопровождение разработки

parmanu-lcs2/Llama-3.1-6B-Instruct — сжатая обрезкой версия Meta-Llama-3.1-8B-Instruct, подготовленная автором репозитория parmanu-lcs2. Модель использует плотную архитектуру Llama для генерации текста и диалогов. После обрезки в ней около 6,03 млрд параметров; метаданные указывают 7,5 млрд. Репозиторий содержит веса в формате safetensors, а библиотека для работы с ними — Transformers. Заявленная длина контекста — 131 072 токена. Обрезка выполнена методом SNIPER с целевым коэффициентом сжатия 25%; после неё модель дообучили LoRA на 2 000 примерах SlimOrca в течение одной эпохи, затем объединили адаптеры с весами. Модель рассчитана на текстовые запросы и ответы в чате. В README указана длина контекста 1 024 токена для этапа восстановительного дообучения, поэтому качество работы на длинном контексте отдельно не подтверждено. Условия лицензии в предоставленных данных не приведены.

Apollo Raines выпустил поведенчески модифицированный вариант Meta Llama 3.1 8B Instruct. Модель предназначена для диалогов и генерации текста с более короткими и прямыми ответами: разработчик сообщает, что убрал многословные вступления и заполнители, сохранив точность и полезность. Изменения внесены инструментом jBlaze непосредственно в веса; README уточняет, что дополнительного обучения не проводилось. Архитектура — LlamaForCausalLM, плотная трансформерная языковая модель; в метаданных указано 7,5 млрд параметров и контекст до 131 072 токенов. Репозиторий содержит веса Safetensors, а README указывает точность bf16. Модель ориентирована на английский язык и поддерживает чатовый интерфейс вызова инструментов. Разработчик характеризует опубликованный вариант как демонстрационный и намеренно ослабленный относительно полной версии. Модель распространяется по лицензии Llama 3.1; применяйте её с учётом условий этой лицензии.

Magpie-Align/Llama-3.1-8B-Magpie-Align-v0.1 — англоязычная диалоговая модель семейства Llama 3.1, разработанная командой Magpie-Align. Это плотная авторегрессионная модель с 7,5 млрд параметров и контекстом до 131 072 токенов; она принимает текст и генерирует текст, используя официальный шаблон чата Llama 3.1. Модель сначала дообучили методом SFT на наборах Magpie-Pro-MT-300K-v0.1 и Magpie-Reasoning-150K, затем применили DPO на датасете UltraFeedback ARMOR. Модель предназначена для диалогов, выполнения инструкций и рассуждений на английском языке. В карточке авторы приводят результаты на MT-Bench, Alpaca Eval 2 и Arena Hard, однако эти оценки не гарантируют качества в конкретном сценарии. Для использования весов заявлена лицензия Llama 3.1 Community License; также авторы указывают необходимость соблюдать лицензию Meta Llama 3 Community License для данных.

Модель promotion/Llama-3.1-8B-NBPO-UltraFeedback-clean разработана на основе meta-llama/Llama-3.1-8B-Instruct и дообучена методом Nash Bargaining Preference Optimization (NBPO) на парах предпочтений из UltraFeedback. В этой версии обучающие пары отфильтрованы так, чтобы их запросы не пересекались с 698 оценочными запросами; после фильтрации осталось 34 026 пар по 5 671 запросу. Модель предназначена для диалоговой генерации текста с выполнением инструкций. Обучение ориентировано на следование инструкциям, правдивость, честность и полезность ответов. Основа — плотная архитектура Llama с 7,5 млрд параметров; заявленный контекст — до 131 072 токенов. Репозиторий использует Transformers и формат safetensors. В README описана исследовательская оценка на отложенных запросах UltraFeedback, но конкретные численные результаты для этой модели не приведены. Модель распространяется по лицензии Llama 3.1; применяются её условия использования.

2023mt13042 выпустил модифицированную и дообученную версию Meta Llama 3.1 8B Instruct, применив методику Abliteration — редактирование представлений модели. Это плотная авторегрессионная трансформерная модель семейства Llama для диалогов и генерации текста; в метаданных указано 7,5 млрд параметров, а контекст составляет до 131 072 токенов. Модель принимает текст и выдаёт текст, карточка заявляет поддержку английского языка. Её можно использовать для диалоговых приложений и генерации текста. Для запуска предусмотрены Transformers и веса safetensors в формате fp16; README приводит ориентир от 16 ГБ видеопамяти для обычного запуска и предлагает квантование для устройств с меньшей памятью. Модель наследует условия лицензии Meta Llama 3.1 Community License. Перед применением в производственной среде следует проверять качество и поведение ответов.

naturalseeker/Llama3.1_8I_ARC — дообученная naturalseeker диалоговая модель на архитектуре Llama 3.1 с 7,5 млрд параметров. Она создана на основе unsloth/Meta-Llama-3.1-8B-Instruct и обучалась с использованием Unsloth и Hugging Face TRL. Модель предназначена для диалогов и генерации текста; доступен интерфейс вызова инструментов. Она принимает текст и выдаёт текст, поддерживает английский язык и контекст до 131 072 токенов. Веса опубликованы в формате safetensors. Модель распространяется по лицензии Apache-2.0. Карточка не описывает специальную предметную область или отдельные возможности дообучения, поэтому качество для конкретных задач следует оценивать на подходящих примерах.

Карточка модели naturalseeker/Llama3.1_8I_ARC_RP на Hugging Face совпадает с карточкой naturalseeker/Llama3.1_8I_ARC, поэтому описание составлено по ней. naturalseeker/Llama3.1_8I_ARC — дообученная naturalseeker диалоговая модель на архитектуре Llama 3.1 с 7,5 млрд параметров. Она создана на основе unsloth/Meta-Llama-3.1-8B-Instruct и обучалась с использованием Unsloth и Hugging Face TRL. Модель предназначена для диалогов и генерации текста; доступен интерфейс вызова инструментов. Она принимает текст и выдаёт текст, поддерживает английский язык и контекст до 131 072 токенов. Веса опубликованы в формате safetensors. Модель распространяется по лицензии Apache-2.0. Карточка не описывает специальную предметную область или отдельные возможности дообучения, поэтому качество для конкретных задач следует оценивать на подходящих примерах.

DavidAU разработал эту текстовую модель генерации на архитектуре Mixtral с четырьмя экспертами в конфигурации MoE. По README, эксперты основаны на Llama 3.1 DeepHermes 3 8B Preview, Llama 3.1 Hermes 3 8B, Llama 3.1 Dolphin 2.9.4 8B и Llama 3.1 SuperNova Lite; метаданные указывают 7,5 млрд параметров, а карточка описывает её как модель «32B (4×8B)». Модель предназначена для диалогов, рассуждений, решения задач, творческого письма и ролевых сценариев; предусмотрен интерфейс вызова инструментов. Она принимает текст и выдаёт текст, поддерживает контекст до 131 072 токенов и требует шаблон Llama 3 Instruct. Для включения рассуждений README рекомендует задавать системный промпт. Карточка советует использовать достаточно длинные инструкции и высокую температуру генерации. Указанные автором улучшения скорости и качества рассуждений не сопровождаются в карточке независимыми результатами оценки. Лицензия — Apache-2.0.

Llama-3.1-Storm-8B-GGUF — это набор GGUF-квантизаций языковой модели Llama-3.1-Storm-8B, подготовленный bartowski на базе модели akjindal53244. Модель предназначена для генерации текста, диалоговых сценариев, следования инструкциям, рассуждений и function calling. Она поддерживает текстовый ввод и вывод, а заявленные языки включают английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Архитектура и размер исходной модели обозначены как Llama-3.1 и 8B; размер контекста в README не указан. Модель распространяется в формате GGUF для запуска через llama.cpp и совместимых приложений, включая LM Studio. Доступны варианты от f32 и Q8_0 до более компактных Q2_K и IQ2_M, поэтому можно выбирать между качеством генерации и требованиями к памяти. Квантизации созданы с использованием imatrix; отдельные варианты применяют Q8_0 для embedding- и output-весов, что заявлено как способ сохранить более высокое качество. Сильными сторонами являются широкий выбор размеров файлов, локальный запуск и поддержка задач instruction following, reasoning и function calling. Ограничения зависят от выбранной квантизации: варианты с низкой битностью имеют заметно более низкое качество, а некоторые прямо не рекомендуются. Лицензия указана как llama3.1; дополнительные условия использования в README не раскрыты.

duyntnet/Llama-3.1-SuperNova-Lite-imatrix-GGUF — набор GGUF-квантизаций модели Llama-3.1-SuperNova-Lite, разработанной Arcee.ai на основе архитектуры Llama-3.1-8B-Instruct. Модель предназначена для генерации текста, выполнения инструкций и широкого спектра прикладных задач, где важны высокая производительность и сниженные требования к ресурсам. Она может использоваться через llama.cpp, KoboldCPP, text-generation-webui и Ollama. Модель содержит около 8 млрд параметров и представляет собой дистиллированную версию Llama-3.1-405B-Instruct: при обучении использовались офлайн-логиты крупной 405B-модели и набор инструкционных данных, созданный с помощью EvolKit. Заявлены сильные стороны в следовании инструкциям, производительности на бенчмарках и адаптации к предметным областям при компактном размере. В README указан английский язык; другие языки, размер контекста и точные характеристики отдельных квантизаций не приведены. Репозиторий содержит именно квантизированные варианты в формате GGUF с использованием imatrix, поэтому фактические требования к памяти и качество зависят от выбранной версии. Лицензия обозначена как other, но её конкретные условия в README не раскрыты.

Snowflake AI Research разработала Snowflake/Llama-3.1-SwiftKV-8B-Instruct — инструкционную языковую модель на архитектуре Llama-3.1 с преобразованием SwiftKV для ускорения вывода. Метод оптимизирует обработку входного промпта: перенастраивает модель и применяет дистилляцию с сохранением знаний, чтобы часть токенов при обработке промпта могла пропускать до половины слоёв. Репозиторий содержит веса в формате safetensors; число параметров — 7,5 млрд, контекст — до 131 072 токенов. Модель предназначена для генерации текста и диалоговых сценариев, где важны скорость обработки промптов и эффективность обслуживания запросов. В README заявлены улучшения пропускной способности, задержки и стоимости до 2 раз при небольшой потере точности; для версии 8B приведены результаты бенчмарков, где среднее значение снизилось с 73,71 до 72,70 относительно базовой модели. Поддерживается лицензия Llama 3.1; применяются её условия использования.

allenai/Llama-3.1-Tulu-3-8B-DPO — англоязычная диалоговая модель AI2 из семейства Tülu 3, дообученная методом DPO на основе allenai/Llama-3.1-Tulu-3-8B-SFT. Это плотная авторегрессионная модель архитектуры Llama с 7,5 млрд параметров и контекстом до 131 072 токенов, предназначенная для следования инструкциям и общения.

Llama-3.1-Tulu-3-8B-SFT — англоязычная инструкционная модель семейства Tülu 3, разработанная AI2 и дообученная на базе meta-llama/Llama-3.1-8B. Это плотная авторегрессионная архитектура LlamaForCausalLM с 7,5 млрд параметров, предназначенная для диалогов и выполнения разнообразных инструкций, включая математические задачи и следование формату ответа. Модель поддерживает контекст до 131 072 токенов и распространяется в формате Safetensors для использования с Transformers. Модель подходит для чат-ботов, ответов на вопросы, решения математических задач и оценки следования инструкциям. Карточка приводит результаты сравнительных тестов, в том числе MMLU, PopQA, GSM8K и IFEval, но они не гарантируют качество в конкретном приложении. По описанию модели, обучение безопасности ограничено, поэтому ответы могут быть проблематичными, особенно при соответствующих запросах. Лицензия — Llama 3.1 Community License Agreement.

QuantFactory/Llama-3.1-Tulu-3-8B-SFT-GGUF — квантизированная версия модели Llama-3.1-Tulu-3-8B-SFT, созданная QuantFactory с использованием llama.cpp. Исходную модель разработал Allen Institute for AI (AI2) на базе meta-llama/Llama-3.1-8B и дообучил на смеси общедоступных, синтетических и созданных людьми наборов данных, включая allenai/tulu-3-sft-mixture. Модель предназначена прежде всего для следования инструкциям, диалоговых сценариев и генерации текста на английском языке. Она ориентирована на широкий круг задач, включая общение, MATH, GSM8K и IFEval. Это текстовая авторегрессионная модель; заявленная конфигурация содержит 8 миллиардов параметров. Для запуска предусмотрен формат GGUF, подходящий для экосистемы llama.cpp и совместимых средств инференса. В README рекомендуется ограничивать максимальную длину контекста до 8192 токенов при использовании vLLM, однако точное значение контекстного окна для этой карточки не указано. К сильным сторонам относятся улучшенное instruction following и возможность локального запуска благодаря квантизации и формату GGUF. Ограничения включают преимущественную ориентацию на английский язык, отсутствие мультимодальных возможностей в описании и ограниченную безопасность: модель может генерировать проблемные ответы, поскольку не оснащена полноценной фильтрацией ответов в процессе использования. Модель распространяется по Llama 3.1 Community License Agreement; условия исходной лицензии необходимо учитывать при применении квантизированной версии.

benjamin/Llama-3.2-1B-Instruct-flax — текстовая разговорная модель семейства Llama 3.2, опубликованная пользователем benjamin в формате Flax для библиотеки Transformers и JAX. Карточка модели создана автоматически и не называет разработчика исходной модели; идентификатор и архитектура указывают на Meta Llama 3.2 1B Instruct. Модель предназначена для генерации текста в диалоговом формате, например для ответов на запросы и ведения беседы. Это плотная авторегрессионная языковая модель примерно на 1,2 млрд параметров с контекстом до 8192 токенов; данные метаданных указывают поддержку чата и интерфейса вызова инструментов. В карточке не приведены сведения о лицензии, обучении или оценке качества, поэтому условия использования следует сверять с лицензией исходной модели.

unsloth/Llama-3.2-3B — версия текстовой модели Meta Llama 3.2, представленная в репозитории Unsloth для использования и дообучения. Это плотная авторегрессионная трансформерная модель класса LlamaForCausalLM с 3,2 млрд параметров и контекстом до 131 072 токенов. README описывает семейство Llama 3.2 как модели для генерации текста и диалога; Unsloth предоставляет ноутбуки для настройки модели на собственных данных и экспорта результата. Модель подходит для генерации и продолжения текста, диалоговых сценариев, суммаризации и помощников с ограниченными вычислительными ресурсами. Семейство официально поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский; конкретная карточка также помечена языком en. Репозиторий использует формат safetensors и библиотеку Transformers. Модель основана на meta-llama/Llama-3.2-3B и распространяется по лицензии Llama 3.2 Community License — специальной лицензии Meta с коммерческими условиями. Качество генерации, фактическая точность и пригодность для конкретного языка или применения зависят от запроса и развертывания; заявленные в README преимущества скорости и экономии памяти относятся к настройке через Unsloth.

bunnycore объединил методом passthrough через mergekit модели huihui-ai/Llama-3.2-3B-Instruct-abliterated и bunnycore/Llama-3.2-3B-General-lora_model. Это плотная авторегрессионная языковая модель семейства Llama 3.2 с архитектурой LlamaForCausalLM и 3,2 млрд параметров, предназначенная для генерации текста и диалогов. Метаданные указывают интерфейс чата и вызова инструментов; модель принимает текст и генерирует текст. Заявленная длина контекста — 131072 токена. Карточка сообщает о результатах оценки на Open LLM Leaderboard, включая среднее значение 21,30 и результат IFEval 66,69, но не приводит подробного описания методики или сценариев, где модель превосходит другие. Файлы опубликованы в формате safetensors и используют bfloat16. Дата публикации на Hugging Face — 27 октября 2024 года. Лицензия в предоставленных данных не указана.

QuantFactory/Llama3.2-3B-Enigma-GGUF — квантизированная версия модели Llama3.2-3B-Enigma, созданная QuantFactory с использованием llama.cpp. Исходная модель разработана ValiantLabs на базе Meta Llama 3.2 3B Instruct и выпущена 30 сентября 2024 года. Модель предназначена для генерации текста, диалоговых сценариев и прежде всего для задач программирования: написания, объяснения и обработки кода. Она использует формат промптов Llama 3.2 Instruct, поддерживает чат-взаимодействие и обучалась на синтетических данных для code-instruct из набора Tachibana, дополненных общими диалоговыми данными из Supernova. В README указан английский язык; другие языки и размер контекстного окна не заявлены. Ключевые характеристики — архитектура Llama, около 3 млрд параметров, текстовая модальность и формат GGUF, подходящий для запуска через llama.cpp и совместимые инструменты. Сильными сторонами являются специализация на инструкциях по программированию и улучшенные общие диалоговые возможности при относительно небольшом размере. Ограничения включают отсутствие заявленных мультимодальных возможностей и недостаточно подробные сведения о конкретном варианте квантизации, контекстном окне и производительности. Модель распространяется по лицензии llama3.2.

MylesGoose Llama-3.2-3B-instruct-abliterated — чат-модель семейства Llama с 3,2 млрд параметров, основанная на Llama 3.2 3B Instruct. По названию репозитория модель прошла abliterated-модификацию, направленную на ослабление отказов; подробности метода и его эффекты в доступной карточке не раскрыты. Модель предназначена для генерации текста в диалоговом формате и поддерживает интерфейс вызова инструментов. Метаданные указывают контекстное окно до 131 072 токенов и формат весов safetensors. Репозиторий создан MylesGoose 27 сентября 2024 года. Лицензия обозначена как other, поэтому условия использования следует проверять в файлах репозитория. Доступная карточка не содержит описания обучения, языкового покрытия или результатов оценки качества.

Llama-3.2-3B-Instruct-GGUF — квантованная версия инструкционной языковой модели Llama-3.2-3B-Instruct, разработанной Meta и преобразованной в формат GGUF компанией Second State Inc. Модель предназначена для генерации текста и диалоговых сценариев, включая чат-взаимодействие и вызов инструментов с формированием JSON-запросов функций. Модель содержит около 3 миллиардов параметров, работает с текстом и поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Заявленный размер контекста составляет 128 000 токенов. Доступны варианты квантования от Q2_K до Q8_0 и F16 с размером файлов примерно от 581 МБ до 1,32 ГБ. В README рекомендуются варианты Q4_K_M, Q5_K_M и Q5_K_S как компромисс между размером и качеством; более агрессивное квантование уменьшает размер, но может заметно ухудшать качество ответов. Модель подходит для локального запуска на устройствах с ограниченными ресурсами и интеграции через LlamaEdge, включая сервисный и командный режимы. Для работы требуется совместимая версия LlamaEdge; в README указана версия v0.16.5 или новее. Ограничения включают снижение качества в младших вариантах квантования, а также отсутствие сведений о мультимодальности и подробных результатах оценки. Модель распространяется по лицензии Llama 3.2.

lahirum/Llama-3.2-3B-Instruct-Q4_0-GGUF — квантованная версия инструкционной языковой модели Llama 3.2 с примерно 3 млрд параметров, представленная пользователем lahirum и основанная на модели Meta. Формат GGUF и квантизация Q4_0 предназначены для запуска через совместимые инструменты, включая llama.cpp, с уменьшенными требованиями к памяти по сравнению с полноразмерными весами. Модель относится к задачам генерации текста и диалогового взаимодействия по инструкциям. Заявлена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Модель может применяться для локальных чат-ботов, ответов на вопросы, подготовки и преобразования текста и других сценариев, где требуется компактная инструкционная LLM. Ключевыми преимуществами являются небольшой размер, возможность локального использования и более низкое потребление ресурсов благодаря Q4_0; ограничениями — возможное снижение точности из-за квантизации и меньшая производительность и полнота ответов по сравнению с более крупными моделями. Размер контекстного окна и другие параметры архитектуры в представленном README не указаны. Модель распространяется по лицензии Llama 3.2 Community License от Meta. При распространении материалов или производных продуктов требуется соблюдать условия лицензии, включая предоставление текста соглашения, указание «Built with Llama» и сохранение атрибуции Meta; также необходимо соблюдать Acceptable Use Policy. Для организаций с более чем 700 млн ежемесячно активных пользователей предусмотрено отдельное лицензионное требование.

tanliboy/llama-3.2-3b-sft — дообученная модель семейства Llama 3.2, созданная на основе tanliboy/llama-3.2-3b с помощью supervised fine-tuning на наборе tanliboy/OpenHermes-2.5-reformat. Это плотная авторегрессионная языковая модель с 3,2 млрд параметров, предназначенная для генерации текста и диалогового общения. Метаданные указывают контекстное окно до 131 072 токенов и интерфейс вызова инструментов. Модель можно применять для генерации ответов в чате и других задач продолжения текста. В README приведено значение loss 0,7216 на оценочном наборе, но подробности методики оценки и характеристик датасета не раскрыты. Модель опубликована в формате Safetensors для библиотеки Transformers под лицензией llama3.2. Языки поддержки не указаны.

bunnycore/Llama-3.2-3B-Stock — языковая модель семейства Llama, созданная методом Model Stock merge с помощью mergekit. В качестве основы использована alpindale/Llama-3.2-3B; в объединение также вошли модели для рассуждений и диалоговые версии Llama 3.2 3B, включая неконтентно ограниченный вариант. Модель содержит 3,2 млрд параметров, использует архитектуру LlamaForCausalLM и формат safetensors; заявленная длина контекста — 131 072 токена. Модель предназначена для генерации текста по запросу и диалоговых сценариев. Карточка не приводит отдельные результаты оценки качества или подробные сведения о поддерживаемых языках. Лицензия в предоставленных данных не указана.

Это 4-битная квантованная версия модели meta-llama/Llama-3.3-70B-Instruct, созданная и протестированная The Kaitchup. Модель сериализована в формате GPTQ с использованием AutoRound и симметричной квантизации. Модель предназначена для задач генерации текста и следования инструкциям на английском языке, включая диалоговые и другие NLP-сценарии, поддерживаемые исходной Llama 3.3 70B Instruct. Ключевая характеристика — размер исходной модели 70 млрд параметров и 4-битное представление весов, что уменьшает требования к памяти по сравнению с полной версией и делает запуск на совместимом GPU более доступным. К преимуществам относятся сохранение возможностей большой instruct-модели при сниженных требованиях к памяти, а также совместимость с инструментами и форматом GPTQ. Ограничения связаны с использованием квантования, которое может влиять на точность и качество генерации; сведения о контексте, поддерживаемых модальностях, производительности и конкретных требованиях к оборудованию в README не указаны. Модель распространяется по лицензии Llama 3.3.

Это разговорная модель семейства Llama 3 с плотной архитектурой LlamaForCausalLM и примерно 7,5 млрд параметров. Репозиторий опубликован Unsloth; веса представлены в формате safetensors и напрямую квантованы до 4 бит с помощью bitsandbytes. Модель предназначена для генерации текста и диалогового общения, в том числе для использования с шаблонами ShareGPT ChatML и Vicuna. Модель может служить основой для ответов на вопросы, ведения диалога и продолжения текста. README также описывает сценарии дообучения Llama 3 8B с использованием ноутбуков Unsloth, но не сообщает, что этот чекпойнт сам был дообучен на конкретном наборе данных. В метаданных указан контекст 8192 токена и английский язык. Лицензия — llama3; применимость конкретных условий следует сверять с лицензией Llama 3.

MaziyarPanahi/Llama-3-8B-Instruct-DPO-v0.3 — диалоговая языковая модель, созданная Maziyar Panahi путём DPO-дообучения Meta-Llama-3-8B-Instruct. Модель содержит 7,5 млрд параметров, построена на архитектуре Llama и предназначена для генерации текста и ответов в формате диалога. Для работы используется шаблон запросов ChatML. Автор сообщает о расширении контекста до 32 000 токенов с помощью настройки rope_theta; в метаданных указано исходное значение 8 192 токена. Модель обучалась на датасете Intel/orca_dpo_pairs. В карточке приведены результаты оценивания на бенчмарках рассуждений и понимания текста. Поддерживаются английский язык и библиотека Transformers. Лицензия — llama3; применяются её условия использования.

VictorDCh/Llama-3-8B-Instruct-MoE-4 — разговорная языковая модель для генерации текста. README указывает базовую модель meta-llama/Meta-Llama-3-8B-Instruct и конфигурацию из восьми экспертов с выбором двух экспертов на токен; метаданные описывают архитектуру как MixtralForCausalLM типа MoE. Размер модели — 7,5 млрд параметров, контекст — 8192 токена. Модель распространяется в формате safetensors и рассчитана на использование через Transformers. Модель подходит для диалогов и генерации текста по запросу. README указывает случайный режим маршрутизации экспертов и не приводит результатов обучения или оценок качества. Разработчик в карточке не назван; лицензия в предоставленных данных не указана.

MaziyarPanahi/Llama-3-8B-Instruct-v0.4 — дообученная диалоговая модель на архитектуре Llama, созданная на основе meta-llama/Meta-Llama-3-8B-Instruct. Она предназначена для генерации текста и ассистентских ответов в диалоге; карточка описывает использование через библиотеку Transformers и шаблон запросов ChatML. Модель содержит 7,5 млрд параметров и поддерживает контекст до 8192 токенов. В метаданных указан английский язык. Репозиторий содержит веса Safetensors; отдельная версия в формате GGUF доступна в другом репозитории. Лицензия обозначена как other, поэтому условия использования следует сверить с лицензией и условиями базовой модели.

QuantFactory/Llama-3-8B-Magpie-Pro-SFT-v0.1-GGUF — квантизированная версия языковой модели Llama-3-8B-Magpie-Pro-SFT-v0.1, созданная с помощью llama.cpp. Исходная модель разработана проектом Magpie-Align на базе Meta Llama 3 8B и дообучена методом supervised fine-tuning на датасете Magpie-Pro-300K-Filtered, содержащем отфильтрованные синтетические инструкции и ответы. Проект Magpie связан с исследователями Zhangchen Xu, Fengqing Jiang, Luyao Niu, Yuntian Deng, Radha Poovendran, Yejin Choi и Bill Yuchen Lin. Модель предназначена для генерации текста и диалоговых сценариев, включая выполнение инструкций и ответы на пользовательские запросы. Это авторегрессионная текстовая модель с архитектурой LlamaForCausalLM; размер базовой модели — 8 млрд параметров. В README указана длина обучающей последовательности 8192 токена, однако точный контекстный размер готовой GGUF-версии не уточнён. Поддерживается текстовая модальность, список языков не указан. Для наилучшей работы следует использовать официальный chat template Llama 3. По заявленным результатам модель достигает показателей, сопоставимых с Llama-3-8B-Instruct при использовании только SFT: Alpaca Eval 2 — 25,08 LC и 29,47 WR, Arena Hard — 18,9. Ограничения включают отсутствие подробных сведений о языковом покрытии, точном формате и уровне квантизации, а также неполное описание поведения за пределами приведённых тестов. Использование регулируется Meta Llama 3 Community License.

Llama3-8B-SuperNova-Spectrum-Hermes-DPO — языковая модель yuvraj17 на архитектуре Llama 3, дообученная методом DPO на диалоговом датасете chatml-OpenHermes2.5-dpo-binarized-alpha-2k. Она предназначена для генерации текста и ведения диалогов. Модель содержит 7,5 млрд параметров, принимает текст и поддерживает контекст до 8192 токенов. При обучении использовалась QLoRA с 4-битной точностью в течение одной эпохи; в README указано, что исходной основой служила объединённая модель yuvraj17/Llama3-8B-SuperNova-Spectrum-dare_ties. Карточка приводит результаты оценивания на IFEval и BBH, но не описывает их методику подробно. Модель распространяется под лицензией Apache-2.0.