I.5Создание и редактирование текста

MeliodasPercival_01_YamShadow — объединённая языковая модель, опубликованная MaziyarPanahi. Она создана слиянием automerger/MeliodasPercival_01-7B и automerger/YamShadow-7B и предназначена для генерации текста. Модель построена на архитектуре Mistral и содержит 7,1 млрд параметров; контекстное окно — до 32 768 токенов. Модель можно применять для генерации продолжений текста и диалоговых ответов. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. README не приводит сравнительных оценок качества или сведений о специализированной настройке модели.

MeliodasPercival_01_YamshadowInex12 — объединённая языковая модель, созданная слиянием automerger/MeliodasPercival_01-7B и automerger/YamshadowInex12-7B. Она предназначена для генерации текста и диалогов. Модель построена на архитектуре Mistral, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Доступна в формате Safetensors по лицензии Apache-2.0. README и метаданные не приводят сведений о поддерживаемых языках или специальных ограничениях.

MeliodasT3q_AlloyingotneoyExperiment26 — объединённая модель для генерации текста на базе архитектуры Mistral, созданная слиянием automerger/MeliodasT3q-7B и automerger/AlloyingotneoyExperiment26-7B. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Она предназначена для генерации текста по текстовому запросу. Веса опубликованы в формате safetensors, лицензия — Apache-2.0. В карточке не описаны специализированные сценарии или языковые возможности модели.

Memalpha-4B — генеративная текстовая модель, опубликованная пользователем YuWangX на Hugging Face. По метаданным она предназначена для генерации текста и поддерживает conversational-сценарии; в тегах также указана связь с семейством Qwen3. Модель рассчитана на работу через библиотеку Transformers и распространяется в формате Safetensors. Модель содержит около 3,7 млрд параметров и поддерживает контекст длиной до 40 960 токенов, что позволяет обрабатывать достаточно длинные диалоги и документы. Её можно применять для создания ответов в чатах, продолжения текста, черновой генерации контента и интеграции в приложения на базе Transformers. README не содержит сведений о разработчиках, лицензии, языках, обучающих данных, результатах оценки, безопасности и рекомендуемых сценариях использования. Поэтому перед применением в продуктивных, чувствительных или коммерческих системах необходимы самостоятельная проверка качества, совместимости и условий распространения.

Arcee Meraj Mini — плотная авторегрессионная языковая модель на 7,1 млрд параметров, разработанная Arcee AI и дообученная на базе Qwen/Qwen2.5-7B-Instruct. Она предназначена прежде всего для арабского языка с сохранением сильных возможностей английского; поддерживает диалоговый шаблон ChatML и контекст до 131 072 токенов. Модель подходит для понимания и генерации текста, ответов на вопросы, рассуждений, образовательных материалов, математических задач, генерации кода, клиентской поддержки и создания контента. В карточке сообщается о высоких результатах на арабских бенчмарках и конкурентоспособных результатах на английских, однако численные результаты здесь не приведены. Весовые файлы опубликованы в формате Safetensors; лицензия — Apache-2.0. Модель текстовая и не предназначена для обработки изображений или аудио.

mahiatlinux/merged1and2 — объединённая автором модель семейства Mistral, созданная с помощью LazyMergekit слиянием mahiatlinux/merged1 и mahiatlinux/merged2 методом SLERP. Это плотная авторегрессионная языковая модель с архитектурой MistralForCausalLM и 7,1 млрд параметров; она предназначена для генерации текста и диалогового взаимодействия. Заявленная длина контекста — 32 768 токенов. Весовые файлы представлены в формате Safetensors, тип данных при слиянии — bfloat16. Модель принимает текст и генерирует текст. Сведения о языковой специализации и лицензии в предоставленных данных отсутствуют, поэтому их нельзя определить. Качество и ограничения унаследованы от объединённых моделей, но карточка не описывает их отдельно.

mergekit-community/mergekit-model_stock-nvgaatl — объединённая модель для генерации текста, созданная сообществом с помощью mergekit и метода Model Stock. В качестве базы использована Qwen/Qwen2.5-14B-Instruct-1M; в слияние также вошли sthenno/tempesthenno-nuslerp-0124 и mergekit-community/mergekit-model_stock-injkqri. Модель имеет плотную архитектуру Qwen2, около 14 млрд параметров и предназначена для диалогов и генерации текста. Метаданные указывают на контекст до 1 010 000 токенов и интерфейс для вызова инструментов; модель работает через Transformers, веса представлены в safetensors. Её можно применять для чат-ответов и работы с длинным текстовым контекстом. Лицензия в предоставленных данных не указана. Качество и поведение после слияния зависят от входящих моделей; отдельные результаты оценки в карточке не приведены.

Карточка модели mergekit-community/mergekit-slerp-bjlsrkr на Hugging Face совпадает с карточкой mergekit-community/mergekit-slerp-jlrpbqb, поэтому описание составлено по ней. Это объединённая модель генерации текста на архитектуре Mistral, созданная сообществом mergekit-community методом SLERP из arcee-ai/sec-mistral-7b-instruct-1.6-epoch и cognitivecomputations/dolphin-2.8-mistral-7b-v02. Модель содержит около 7,1 млрд параметров, рассчитана на диалоговое применение и использует контекст до 32 768 токенов. Модель предназначена для генерации ответов в диалоге и других сценариев генерации текста. Веса доступны в формате Safetensors и имеют тип bfloat16. В метаданных указана библиотека Transformers. Сведения о лицензии и конкретных ограничениях поведения в предоставленных данных отсутствуют.

Карточка модели mergekit-community/mergekit-slerp-dafvhck на Hugging Face совпадает с карточкой mergekit-community/dolphin-mistral-instruct-7b, поэтому описание составлено по ней. Это объединённая языковая модель mergekit-community, созданная методом SLERP на основе arcee-ai/sec-mistral-7b-instruct-1.6-epoch и cognitivecomputations/dolphin-2.8-mistral-7b-v02. Модель построена на архитектуре MistralForCausalLM с плотной архитектурой и содержит 7,1 млрд параметров; опубликованные веса представлены в формате Safetensors, а библиотека запуска — Transformers. Модель предназначена для генерации текста в диалоговых сценариях: она принимает текстовый запрос и формирует текстовый ответ. Контекст составляет до 32 768 токенов. Карточка не описывает отдельные прикладные области или языковые характеристики, поэтому их нельзя уточнить по имеющимся данным. Лицензия в предоставленных данных не указана.

Это объединённая модель генерации текста на архитектуре Mistral, созданная сообществом mergekit-community методом SLERP из arcee-ai/sec-mistral-7b-instruct-1.6-epoch и cognitivecomputations/dolphin-2.8-mistral-7b-v02. Модель содержит около 7,1 млрд параметров, рассчитана на диалоговое применение и использует контекст до 32 768 токенов. Модель предназначена для генерации ответов в диалоге и других сценариев генерации текста. Веса доступны в формате Safetensors и имеют тип bfloat16. В метаданных указана библиотека Transformers. Сведения о лицензии и конкретных ограничениях поведения в предоставленных данных отсутствуют.

Fischerboot/mergekit-slerp-qqnicnt — объединённая методом SLERP языковая модель семейства Llama, созданная с помощью mergekit из Fischerboot/mergekit-slerp-awrvish и Fischerboot/mergekit-slerp-miersap. Это плотная авторегрессионная модель с архитектурой LlamaForCausalLM и 7,5 млрд параметров; она предназначена для генерации текста и диалогового общения. Модель принимает текст и выдаёт текст, поддерживает контекст до 8192 токенов и распространяется в формате safetensors для Transformers. Модель подойдёт для диалоговых приложений и генерации продолжений текста. Сведения о поддерживаемых естественных языках и специализированных областях в карточке не приведены, поэтому их нельзя надёжно уточнить. Лицензия в предоставленных данных не указана.

Это слитая методом SLERP языковая модель на архитектуре Llama с 7,5 млрд параметров, созданная сообществом mergekit из NousResearch/Meta-Llama-3-8B-Instruct и cognitivecomputations/dolphin-2.8-mistral-7b-v02. Модель предназначена для генерации текста и диалогов; конфигурация использует кривую смешивания весов по слоям и формат bfloat16. Модель принимает текстовые запросы и генерирует текст, в том числе ответы в чате. В карточке указано контекстное окно 8192 токена; исходная Meta Llama 3 рассчитана прежде всего на английский язык. Репозиторий использует библиотеку Transformers и содержит веса Safetensors. Лицензия в доступных данных не указана.

Карточка модели mergekit-community/mergekit-slerp-vhzhpmg на Hugging Face совпадает с карточкой mergekit-community/mergekit-slerp-jlrpbqb, поэтому описание составлено по ней. Это объединённая модель генерации текста на архитектуре Mistral, созданная сообществом mergekit-community методом SLERP из arcee-ai/sec-mistral-7b-instruct-1.6-epoch и cognitivecomputations/dolphin-2.8-mistral-7b-v02. Модель содержит около 7,1 млрд параметров, рассчитана на диалоговое применение и использует контекст до 32 768 токенов. Модель предназначена для генерации ответов в диалоге и других сценариев генерации текста. Веса доступны в формате Safetensors и имеют тип bfloat16. В метаданных указана библиотека Transformers. Сведения о лицензии и конкретных ограничениях поведения в предоставленных данных отсутствуют.

Карточка модели mergekit-community/mergekit-slerp-wvyefgo на Hugging Face совпадает с карточкой mergekit-community/dolphin-mistral-instruct-7b, поэтому описание составлено по ней. Это объединённая языковая модель mergekit-community, созданная методом SLERP на основе arcee-ai/sec-mistral-7b-instruct-1.6-epoch и cognitivecomputations/dolphin-2.8-mistral-7b-v02. Модель построена на архитектуре MistralForCausalLM с плотной архитектурой и содержит 7,1 млрд параметров; опубликованные веса представлены в формате Safetensors, а библиотека запуска — Transformers. Модель предназначена для генерации текста в диалоговых сценариях: она принимает текстовый запрос и формирует текстовый ответ. Контекст составляет до 32 768 токенов. Карточка не описывает отдельные прикладные области или языковые характеристики, поэтому их нельзя уточнить по имеющимся данным. Лицензия в предоставленных данных не указана.

Это объединённая модель генерации текста на архитектуре Llama, созданная методом TIES с помощью mergekit. В качестве базовой модели использована huihui-ai/Llama-3.2-3B-Instruct-abliterated; в объединение вошли несколько производных моделей из репозитория Hjgugugjhuhjggg. Модель содержит 3,2 млрд параметров, распространяется в формате Safetensors и имеет контекст длиной до 131 072 токенов. Модель предназначена для генерации текста и диалоговых ответов. Она унаследовала от базовой модели ослабленные отказы, описанные в метаданных. Языки и специализированные предметные области в доступных сведениях не обозначены. Лицензия в предоставленных источниках не указана.

Mergerix-7b-v0.3 — объединённая текстовая модель семейства Mistral, опубликованная MiniMoog. Она создана методом слияния model_stock с помощью LazyMergekit на основе Gille/StrangeMerges_32-7B-slerp, yam-peleg/Experiment26-7B и liminerity/M7-7b; в конфигурации последняя указана как базовая. Модель содержит 7,1 млрд параметров и рассчитана на генерацию текста, в том числе диалоговых ответов. Контекст составляет до 32 768 токенов; веса доступны в формате Safetensors. Модель подходит для генерации текста и ведения диалога. Для неё указана лицензия Apache-2.0. README описывает состав и метод слияния, но не приводит оценки качества или конкретных ограничений; результаты могут зависеть от сценария применения.

MergerixStrangemerges_32-7B — автоматическое слияние моделей, созданное Maxime Labonne на основе Gille/StrangeMerges_32-7B-slerp и MiniMoog/Mergerix-7b-v0.3. В репозитории указаны метод слияния dare_ties, плотность 0,53, вес 0,6 и формат bfloat16; архитектура — плотная MistralForCausalLM с 7,1 млрд параметров. Модель предназначена для генерации текста и поддерживает контекст до 32 768 токенов. Лицензия — Apache-2.0. В README не описаны конкретные языки и специализированные сценарии применения.

MaziyarPanahi/Meta-Llama-3.1-405B-Instruct-GGUF — это набор файлов модели в формате GGUF для Meta-Llama-3.1-405B-Instruct, разработанной Meta (meta-llama) и квантизированной MaziyarPanahi. Модель предназначена для генерации текста и выполнения инструкций, включая диалоговые и прикладные сценарии, в локальных приложениях на базе llama.cpp и совместимых библиотек и интерфейсов. Модель имеет размер 405 миллиардов параметров, относится к текстовым моделям и поддерживает языки английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. В репозитории представлены варианты квантизации с разрядностью 2 и 3 бита; конкретные характеристики зависят от выбранного файла. В примере указано контекстное окно до 131 072 токенов. Формат GGUF упрощает локальный запуск и поддерживается llama.cpp, llama-cpp-python, LM Studio, text-generation-webui и другими инструментами. Сильными сторонами являются большой размер исходной модели, поддержка нескольких языков, инструкционное обучение, длинный контекст и возможность локального использования с квантизированными файлами. Ограничениями остаются очень высокие требования к вычислительным ресурсам, возможные потери качества из-за агрессивной квантизации и отсутствие в README подробных данных о точности, производительности и рекомендуемом оборудовании. Модель распространяется по лицензии Llama 3.1.

Это квантизированная версия Meta-Llama-3.1-70B-Instruct в формате GGUF, подготовленная пользователем MaziyarPanahi на основе исходной модели Meta-Llama-3.1-70B-Instruct, разработанной Meta (meta-llama). Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через совместимые приложения и библиотеки. Модель относится к семейству Llama 3.1 и имеет размер 70B; в README указаны варианты квантования с разрядностью 2, 3, 4, 5, 6 и 8 бит. Поддерживаются текстовые входы и выходы, а заявленные языки включают английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Формат GGUF совместим с llama.cpp, llama-cpp-python, LM Studio, text-generation-webui и другими инструментами локального инференса. Ключевые преимущества — выбор уровней квантования, возможность локального использования и поддержка GPU в ряде совместимых инструментов. Ограничения и требования к лицензии, точный размер контекста, архитектурные детали, качество на отдельных задачах и необходимые аппаратные ресурсы в README не указаны. Условия лицензирования также не приведены, поэтому их следует уточнить в материалах исходной модели Meta-Llama-3.1-70B-Instruct.

Карточка модели Crystalcareai/Meta-llama-3.1-8b-instruct на Hugging Face совпадает с карточкой NousResearch/Meta-Llama-3.1-8B-Instruct, поэтому описание составлено по ней. Meta-Llama-3.1-8B-Instruct — инструктивно дообученная языковая модель семейства Llama 3.1, разработанная Meta. Это плотная авторегрессионная модель на архитектуре Transformer с 7,5 млрд параметров; версия Instruct прошла supervised fine-tuning и обучение с обратной связью от людей. Репозиторий содержит веса в формате safetensors, модель предназначена для генерации текста и диалогов с помощником. Окно контекста — 131 072 токена. Модель рассчитана на многоязычный диалог, ответы на вопросы, написание и преобразование текста, а также может использоваться в приложениях и для создания синтетических данных. Заявлены английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Модель принимает и выдаёт текст; поддержка инструментов зависит от интеграции разработчиком. Модель выпущена Meta 23 июля 2024 года. Лицензия — Llama 3.1 Community License с условиями использования и Acceptable Use Policy; перед коммерческим применением необходимо ознакомиться с её условиями. Это статический чекпойнт, обученный на офлайн-данных. Качество и безопасность ответов могут различаться между языками, а карточка не заявляет поддержку русского языка.

Карточка модели SillyTilly/Meta-Llama-3.1-8B-Instruct на Hugging Face совпадает с карточкой NousResearch/Meta-Llama-3.1-8B-Instruct, поэтому описание составлено по ней. Meta-Llama-3.1-8B-Instruct — инструктивно дообученная языковая модель семейства Llama 3.1, разработанная Meta. Это плотная авторегрессионная модель на архитектуре Transformer с 7,5 млрд параметров; версия Instruct прошла supervised fine-tuning и обучение с обратной связью от людей. Репозиторий содержит веса в формате safetensors, модель предназначена для генерации текста и диалогов с помощником. Окно контекста — 131 072 токена. Модель рассчитана на многоязычный диалог, ответы на вопросы, написание и преобразование текста, а также может использоваться в приложениях и для создания синтетических данных. Заявлены английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Модель принимает и выдаёт текст; поддержка инструментов зависит от интеграции разработчиком. Модель выпущена Meta 23 июля 2024 года. Лицензия — Llama 3.1 Community License с условиями использования и Acceptable Use Policy; перед коммерческим применением необходимо ознакомиться с её условиями. Это статический чекпойнт, обученный на офлайн-данных. Качество и безопасность ответов могут различаться между языками, а карточка не заявляет поддержку русского языка.

Meta-Llama-3.1-8B-Instruct-abliterated-IMat-GGUF — это GGUF-сборка инструкционной языковой модели mlabonne/Meta-Llama-3.1-8B-Instruct-abliterated, подготовленная и квантованная пользователем legraphista с помощью llama.cpp. Модель предназначена для генерации текста и диалогового использования в локальных приложениях, поддерживающих формат GGUF и llama.cpp. Доступны варианты от BF16 и FP16 до квантований Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и IQ4. Для ряда вариантов применена IMatrix-квантизация, призванная сохранить качество при уменьшении размера модели. Размер базовой модели составляет 8B параметров, исходный тип данных — BF16. В README не указаны точный размер контекста, перечень поддерживаемых языков и мультимодальные возможности; по представленным данным это текстовая модель без заявленной поддержки изображений или других модальностей. Сильными сторонами сборки являются широкий выбор уровней квантования, возможность локального запуска и наличие вариантов, оптимизированных по соотношению качества и потребления памяти. Ограничения включают потенциальную потерю качества в низкобитных вариантах, зависимость производительности от оборудования и совместимость с llama.cpp или другим ПО, поддерживающим GGUF. Основа модели обозначена как abliterated и uncensored, поэтому встроенные ограничения безопасности могут быть ослаблены; это следует учитывать при использовании. Указанная лицензия — Llama 3.1.

Meta-Llama-3.1-8B-Instruct-GGUF — это квантизированная GGUF-версия языковой модели Meta-Llama-3.1-8B-Instruct, разработанной Meta Llama и подготовленной для квантизации компанией Second State Inc. Модель предназначена для генерации текста, диалоговых приложений и использования инструментов через структурированные вызовы функций. Она поддерживает текстовый ввод и вывод, а также рассчитана на работу с LlamaEdge и совместимыми средствами запуска GGUF-моделей. Модель основана на архитектуре Llama и содержит 8 миллиардов параметров. Заявленный размер контекста составляет 128 000 токенов. В README указана поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Доступны варианты квантизации от 2 до 8 бит с размером файлов примерно от 3,18 до 8,54 ГБ; варианты Q4_K_M, Q5_K_M и Q5_K_S обозначены как рекомендуемые благодаря балансу размера и качества или минимальным потерям качества. К сильным сторонам относятся большой контекст, многоязычность, поддержка диалогового режима и вызова инструментов, а также возможность локального запуска с уменьшенными требованиями к памяти благодаря квантизации. Ограничения связаны с потерей качества при использовании низкобитных вариантов, особенно Q2_K и некоторых Q3/Q4-конфигураций; конкретные показатели производительности и качества в README не приведены. Модель распространяется по лицензии llama3.1.

Sowmen123 разработал эту плотную авторегрессионную модель семейства Llama, дообучив Meta-Llama-3.1-8B-Instruct на задачи следования инструкциям и диалогового общения. Репозиторий содержит веса PyTorch; модель насчитывает 7,5 млрд параметров и поддерживает контекст до 131 072 токенов. Для ускорения обучения использовались Unsloth и библиотека Hugging Face TRL. Модель предназначена для генерации текста: она подходит для диалогового ассистента, ответов на инструкции, создания текстов и суммаризации. В карточке заявлен английский язык; доступны чатовый интерфейс и интерфейс вызова инструментов. Модель распространяется по лицензии Apache-2.0.

Модель artificialguybr/Meta-Llama-3.1-8B-openhermes-2.5 — дообученная на наборе teknium/OpenHermes-2.5 языковая модель Meta-Llama-3.1-8B для следования инструкциям и решения общих текстовых задач. Она построена на архитектуре LlamaForCausalLM с плотной causal language model архитектурой и содержит 7,5 млрд параметров. Модель принимает текст и генерирует текст; заявленный язык — английский, а нативная длина контекста составляет 131 072 токена. Модель подходит для генерации текста, ответов на вопросы и других сценариев, где требуется выполнять инструкции на естественном языке. В карточке указана лицензия Apache-2.0. Среди ограничений отмечены возможные смещения, связанные с обучающими данными, и риск генерации вредоносного или предвзятого контента.

NousResearch/Meta-Llama-3-8B-Instruct — инструктивная версия семейства больших языковых моделей Llama 3, разработанного Meta. Это плотная авторегрессионная трансформерная модель класса LlamaForCausalLM с Grouped-Query Attention и примерно 7,5 млрд параметров; она принимает текст и генерирует текст, включая код. Контекст — до 8192 токенов. Модель настроена для диалоговых сценариев и работы в роли ассистента: она отвечает на вопросы, поддерживает беседу и выполняет инструкции на английском языке. Настройка включает supervised fine-tuning и обучение с подкреплением на основе человеческой обратной связи. Модель можно запускать через Transformers и использовать в приложениях, которым нужна генерация текста. В карточке указана пользовательская коммерческая лицензия Meta Llama 3. README ориентирует модель прежде всего на английский язык и предостерегает от использования в других языках, хотя допускает дообучение для них при соблюдении условий лицензии и политики допустимого использования. Это статичная модель, обученная на офлайн-данных; для прикладного развёртывания могут потребоваться дополнительные меры безопасности, а ответы модели могут быть ошибочными.

Карточка модели jknottllm/Meta-Llama-3-8B-Instruct-FineTuned на Hugging Face совпадает с карточкой NousResearch/Meta-Llama-3-8B-Instruct, поэтому описание составлено по ней. NousResearch/Meta-Llama-3-8B-Instruct — инструктивная версия семейства больших языковых моделей Llama 3, разработанного Meta. Это плотная авторегрессионная трансформерная модель класса LlamaForCausalLM с Grouped-Query Attention и примерно 7,5 млрд параметров; она принимает текст и генерирует текст, включая код. Контекст — до 8192 токенов. Модель настроена для диалоговых сценариев и работы в роли ассистента: она отвечает на вопросы, поддерживает беседу и выполняет инструкции на английском языке. Настройка включает supervised fine-tuning и обучение с подкреплением на основе человеческой обратной связи. Модель можно запускать через Transformers и использовать в приложениях, которым нужна генерация текста. В карточке указана пользовательская коммерческая лицензия Meta Llama 3. README ориентирует модель прежде всего на английский язык и предостерегает от использования в других языках, хотя допускает дообучение для них при соблюдении условий лицензии и политики допустимого использования. Это статичная модель, обученная на офлайн-данных; для прикладного развёртывания могут потребоваться дополнительные меры безопасности, а ответы модели могут быть ошибочными.

AI-Engine/Meta-Llama-3-8B-Instruct-GGUF — это GGUF-квантизированная версия инструкционно дообученной языковой модели Meta-Llama-3-8B-Instruct, разработанной Meta. Модель предназначена для генерации текста и кода, прежде всего для диалоговых ассистентов, обработки инструкций и других задач генерации на английском языке. Репозиторий содержит варианты квантования для llama.cpp, включая версии с imatrix. Модель имеет авторегрессионную архитектуру на основе оптимизированного Transformer, около 8 млрд параметров и поддерживает только текстовые входы и выходы. Она использует Grouped-Query Attention (GQA), контекстное окно до 8 тысяч токенов, а инструкционная версия обучена с применением supervised fine-tuning и reinforcement learning from human feedback для повышения полезности и безопасности. Данные обучения включали новый набор общедоступных онлайн-данных; дата отсечения знаний указана как март 2023 года. К сильным сторонам относятся ориентация на диалог, генерацию текста и кода, относительно компактный размер 8B и возможность локального запуска через совместимые инструменты GGUF и llama.cpp. Ограничения включают англоязычную специализацию, статичность модели и устаревание знаний после даты отсечения; качество и требования к ресурсам зависят от выбранного уровня квантования. Использование регулируется пользовательской лицензией Meta Llama 3 и соответствующей Acceptable Use Policy; в README указано, что доступна коммерческая лицензия с особыми условиями.

Meta-Llama-3-8B-Instruct-GGUF — квантизированная версия 8-миллиардной инструкционно дообученной языковой модели Meta Llama 3, разработанной Meta. Квантизацию выполнила SanctumAI. Модель предназначена прежде всего для диалоговых сценариев, генерации текста и выполнения инструкций; поддерживает работу через формат GGUF и различные варианты квантизации, рассчитанные на запуск с уменьшенными требованиями к памяти. Модель является текстовой и, согласно карточке, поддерживает английский язык. Исходная модель относится к семейству Llama 3 с размерами 8B и 70B, однако для данной версии указан размер 8B. Доступны варианты от Q2_K до Q8_0, а также f16; размер файлов составляет примерно от 3,18 до 16,07 ГБ, оценочное потребление памяти — от 7,20 до 19,21 ГБ в зависимости от варианта. Карточка не указывает размер контекстного окна и конкретную архитектуру. Сильные стороны модели — оптимизация для диалогов, заявленная высокая эффективность на распространённых отраслевых бенчмарках среди открытых чат-моделей, а также возможность выбрать баланс качества и требований к памяти с помощью квантизации. Ограничения включают возможные неточные, вредные, оскорбительные или вводящие в заблуждение ответы; результаты требуют проверки. Модель распространяется по лицензии Llama 3; точные условия следует уточнять в файле LICENSE.

ThomasBaruzier/Meta-Llama-3-8B-Instruct-GGUF — это версия модели Meta Llama 3 8B Instruct в формате GGUF, подготовленная пользователем ThomasBaruzier. Базовая модель разработана Meta и предназначена для генерации текста на основе инструкций и диалогового взаимодействия. Модель относится к текстовым генеративным моделям и ориентирована на англоязычные сценарии: ответы на запросы, ведение диалога и выполнение текстовых инструкций. В карточке указаны размер 8B, формат GGUF и английский язык; сведения о длине контекста, конкретной архитектуре, вариантах квантования и поддержке других модальностей отсутствуют. К сильным сторонам относятся специализированная настройка для следования инструкциям и возможность использования в экосистеме GGUF. Ограничения включают отсутствие мультимодальности и неполные сведения о конфигурации конкретной сборки; качество ответов и требования к ресурсам зависят от выбранного варианта GGUF. Модель распространяется по Meta Llama 3 Community License. При распространении материалов или производных продуктов требуется соблюдать условия лицензии, Acceptable Use Policy и требования Meta к атрибуции, включая указание «Built with Meta Llama 3» в применимых случаях.