I.5Создание и редактирование текста

unsloth/Llama-3.2-3B-Instruct-bnb-4bit — это 4-битная квантованная версия инструкционно дообученной текстовой модели Llama 3.2 3B Instruct, подготовленная Unsloth на базе модели Meta. Она предназначена для генерации текста, многоязычного диалога, агентского поиска и извлечения информации, суммаризации, а также для локального запуска и последующего дообучения с пониженным потреблением памяти. Модель работает в формате text in/text out и доступна через экосистему Transformers и bnb 4-bit. Архитектура модели — авторегрессионный оптимизированный Transformer с Grouped-Query Attention (GQA). Размер — 3 млрд параметров. Инструкционная версия обучена с применением supervised fine-tuning (SFT) и reinforcement learning with human feedback (RLHF) для повышения полезности и безопасности. Официально поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Длина контекста в предоставленных данных не указана. К сильным сторонам относятся компактный размер, 4-битное представление, сниженные требования к памяти и оптимизация для диалоговых и прикладных текстовых сценариев. Ограничения связаны с тем, что это статическая модель, обученная на офлайн-данных, а также с возможными рисками при использовании языков и задач за пределами заявленных возможностей; качество и безопасность конкретного развертывания требуют отдельной проверки. Использование регулируется кастомной коммерческой лицензией Llama 3.2 Community License и Acceptable Use Policy Meta.

bunnycore/Llama-3.2-3B-TitanFusion-v2 — текстовая языковая модель, созданная слиянием нескольких предварительно обученных моделей семейства Llama 3.2 с помощью mergekit и метода TIES. В качестве базовой использована unsloth/Llama-3.2-3B; в слияние также вошли модели с уклоном в программирование и рассуждения. Модель содержит 3,2 млрд параметров, использует архитектуру LlamaForCausalLM и формат safetensors. Модель предназначена для генерации текста и диалоговых сценариев. Заявленная длина контекста — 131 072 токена. В карточке не приведены сведения о специальных языковых или предметных ограничениях, а также о лицензии, поэтому их нельзя уточнить по доступным данным.

unsloth/Llama-3.2-3B-unsloth-bnb-4bit — это 4-битная квантизованная версия instruction-tuned модели meta-llama/Llama-3.2-3B-Instruct, подготовленная Unsloth на базе модели Meta. Это авторегрессионная языковая модель с оптимизированной архитектурой Transformer и Grouped-Query Attention (GQA), предназначенная для генерации текста и диалоговых сценариев. Модель ориентирована на многоязычный диалог, включая задачи агентного поиска и извлечения информации, суммаризации и общего текстового взаимодействия. Она работает в режиме «текст на входе — текст на выходе» и официально поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Версия содержит около 3 млрд параметров; размер контекста в предоставленных данных не указан. Ключевое преимущество варианта — снижение требований к памяти за счёт 4-битной квантизации Unsloth Dynamic 4-bit, которая выборочно сохраняет отдельные параметры для уменьшения потери точности по сравнению со стандартной 4-битной квантизацией. Ограничения включают меньший размер и, следовательно, потенциально более низкие возможности по сравнению с крупными моделями, а также отсутствие заявленной поддержки изображений и других модальностей. Модель статична и обучена на офлайн-данных, поэтому не обладает встроенными актуальными знаниями. Использование регулируется лицензией Llama 3.2 и соответствующей Acceptable Use Policy. Для языков, не входящих в официальный перечень, допустима дополнительная настройка при соблюдении этих условий.

DavidAU/Llama-3.2-4X3B-MOE-Ultra-Instruct-10B-GGUF — инструкционная текстовая модель на базе Llama 3.2, собранная с использованием Mergekit из четырёх экспертных моделей Llama 3.2 3B. В состав входят базовая модель общего назначения, модель для программирования, модель для логики и рассуждений и модель для работы с промптами. Архитектура Mixture of Experts объединяет около 10 млрд параметров; по умолчанию используются два эксперта, но поддерживается настройка на одного, трёх или четырёх экспертов. Модель предназначена для генерации текста общего назначения, следования инструкциям, программирования, логических задач, prompt engineering, творческого и художественного письма, ролевых сценариев и reasoning. Заявлен контекст до 128 000 токенов. Указан английский язык, формат распространения — GGUF, а для запуска требуется шаблон Llama 3 или Command-R. Количество активных экспертов влияет на баланс между качеством и скоростью: большее число экспертов может повышать качество, но снижает производительность. К заявленным сильным сторонам относятся высокая скорость на совместимом оборудовании, стабильная генерация, низкая perplexity и особенно развитые способности к созданию подробной прозы и художественных текстов. При этом результаты могут заметно различаться между повторными генерациями из-за смены выбранных экспертов, а слишком высокая температура способна ухудшать следование инструкциям. Модель распространяется по лицензии Apache 2.0.

MaziyarPanahi/Llama-3.3-70B-Instruct-GGUF — это набор квантованных файлов модели Llama-3.3-70B-Instruct в формате GGUF. Исходную модель разработала meta-llama, а квантованные версии подготовил MaziyarPanahi. Модель предназначена для генерации текста и работы в диалоговых сценариях с инструкциями. Доступны варианты квантования с разрядностью 2, 3, 4, 5, 6 и 8 бит, что позволяет выбирать баланс между размером файла, требованиями к памяти, скоростью работы и качеством вывода. Формат GGUF ориентирован на локальный запуск через llama.cpp и совместимые инструменты, включая llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и другие приложения с поддержкой GGUF. Модель работает с текстом; сведения о мультимодальности, поддерживаемых языках и размере контекстного окна в README не указаны. К сильным сторонам относятся возможность локального использования, широкий выбор уровней квантования и совместимость с популярной экосистемой llama.cpp. К ограничениям относятся потенциальная потеря качества в более компактных вариантах квантования, высокие требования к ресурсам для 70-миллиардной модели и зависимость от совместимого программного обеспечения. Лицензия в предоставленных данных не указана.

shb777/Llama-3.3-8B-Instruct-128K — доработанная версия Llama 3.3 8B Instruct, созданная на основе allura-forge/Llama-3.3-8B-Instruct. Это плотная авторегрессионная языковая модель с архитектурой LlamaForCausalLM и примерно 7,5 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия. В карточке указано, что для версии включена полная длина контекста — 131 072 токена; также добавлены настройки rope_scaling, шаблон чата Unsloth в конфигурации токенизатора и обновлена конфигурация генерации. Модель можно использовать для ответов в чате, продолжения текста и других сценариев генерации. Метаданные отмечают интерфейс для вызова инструментов, но README не описывает его поведение или качество. Модель опубликована в формате safetensors и распространяется по лицензии llama3.3. README также ссылается на GGUF-варианты, однако этот репозиторий описан как safetensors-модель.

Llama3-70B-EnSecAI-Ru-Chat — чат-модель EnSec AI, полученная дообучением Meta Llama 3.1 70B на открытых наборах SFT и DPO. Она предназначена для диалога и генерации текста с упором на понимание и ответы на русском языке. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 69,5 млрд параметров и поддерживает контекст до 8192 токенов; в репозитории представлены веса safetensors для Transformers. Карточка сообщает о результатах выше исходной Llama 3 70B Instruct на бенчмарке MERA и о меньшем числе переключений с русского на английский во внутренней оценке. Модель подходит для русскоязычных диалоговых помощников, ответов на вопросы и генерации текста. Она также поддерживает английский язык, однако основной акцент дообучения — русский. Лицензия — Llama 3.1 Community License (llama3); следует учитывать её условия при использовании и распространении.

xinlai/Llama-3-70B-SFT-Step-DPO — разговорная языковая модель семейства Llama 3, представленная в формате safetensors. Она предназначена для генерации текста и диалогового общения. Модель плотная, содержит 69,5 млрд параметров и поддерживает контекст до 8192 токенов. Название указывает на supervised fine-tuning и обучение методом Direct Preference Optimization, однако README не содержит описания обучения или оценки качества. Модель распространяется по лицензии Apache-2.0.

Dogge/llama-3-70B-uncensored — дообученная Dogge разговорная языковая модель семейства Llama 3 с плотной архитектурой LlamaForCausalLM и 69,5 млрд параметров. Базовая модель — unsloth/llama-3-70b-bnb-4bit; для обучения использовались Unsloth и библиотека Hugging Face TRL. Модель предназначена для генерации текста и диалоговых ответов на английском языке. Контекст составляет 8192 токена. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0.

unsloth/llama-3-8b — плотная авторегрессионная языковая модель семейства Llama 3, разработанная Meta и представленная в репозитории Unsloth. Модель содержит 7,5 млрд параметров, принимает текст и генерирует текст; заявленная длина контекста — 8192 токена. В метаданных указан английский язык. Репозиторий содержит веса в формате Safetensors. Модель подходит для генерации продолжений текста и диалоговых сценариев. README Unsloth также предлагает ноутбуки для дообучения Llama 3 8B, включая разговорный формат ShareGPT ChatML/Vicuna и завершение произвольного текста; сам README описывает инструменты и примеры настройки обучения, а не отдельную специализацию чекпойнта. Репозиторий указывает лицензию Llama 3 (llama3); условия использования определяются лицензией Meta Llama 3.

Это 4-битная версия модели Llama 3 8B Instruct, подготовленная сообществом mlx-community для запуска с MLX. Модель преобразована из gradientai/Llama-3-8B-Instruct-262k с помощью mlx-lm 0.10.0; она использует плотную архитектуру LlamaForCausalLM и содержит 7,5 млрд параметров. Модель предназначена для диалоговой генерации текста и принимает текстовые запросы. Заявленная длина контекста — 1 048 576 токенов; карточка указывает поддержку английского языка. Репозиторий использует формат safetensors. Лицензия — llama3. README отсылает к карточке исходной модели за дополнительными сведениями о возможностях и условиях использования.

casperhansen/llama-3-8b-instruct-awq — квантизированная AWQ-версия Meta Llama 3 8B Instruct, опубликованная пользователем casperhansen на Hugging Face на основе модели Meta. Это авторегрессионная языковая модель для генерации текста и кода, прежде всего для диалоговых ассистентов, следования инструкциям и локального инференса. Модель принимает текст и генерирует текст; мультимодальность не заявлена. Модель содержит около 8 млрд параметров и использует оптимизированную Transformer-архитектуру Llama с Grouped-Query Attention. В репозитории указана 4-битная AWQ-квантизация с group size 128, а максимальная длина контекста в конфигурации составляет 8192 токена. Исходная Meta Llama 3 8B Instruct предназначена главным образом для английского языка, коммерческого и исследовательского применения. Квантизация ориентирована на более экономичное по памяти развертывание, однако может снижать точность по сравнению с полной точностью; стандартные ограничения языковых моделей, включая ошибки и остаточные риски безопасности, сохраняются. Использование регулируется кастомной Meta Llama 3 Community License и Acceptable Use Policy, условия которых необходимо соблюдать при применении и распространении модели или производных работ.

MaziyarPanahi/Llama-3-8B-Instruct-DPO-v0.2 — диалоговая языковая модель, созданная MaziyarPanahi методом DPO дообучения Meta Llama 3 8B Instruct. Модель использует архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров и рассчитана на контекст до 8192 токенов. Она принимает текстовые сообщения в шаблоне ChatML и генерирует текстовые ответы.

MaziyarPanahi/Llama-3-8B-Instruct-v0.1 — дообученная чат-модель на архитектуре Llama 3, разработанная Maziyar Panahi на основе MaziyarPanahi/Llama-3-8B-Instruct-DPO-v0.2. Она предназначена для генерации текста в диалоге и запускается через библиотеку Transformers; для общения используется шаблон ChatML. Модель содержит 7,5 млрд параметров и поддерживает контекст до 8192 токенов. Модель принимает текстовые сообщения и генерирует текстовые ответы. В метаданных указан английский язык. Репозиторий содержит веса в формате safetensors; README также ссылается на отдельную GGUF-версию. Лицензия указана как other, поэтому перед использованием следует проверить условия лицензии на странице модели.

llama-3-8b-slow-DUS-max-layer-method2 — объединённая модель на архитектуре Llama, созданная ryan0712 с помощью LazyMergekit из двух моделей: ryan0712/llama-3-8b-slow-DUS-max-layer1-method2 и ryan0712/llama-3-8b-slow-DUS-max-layer2-method2. При слиянии использован метод SLERP с настройками смешивания для слоёв self-attention и MLP. Модель предназначена для генерации текста и диалоговых сценариев на основе текстовых запросов. В репозитории указаны веса Safetensors в формате bfloat16. Метаданные сообщают о 4 млрд параметров и контекстном окне до 8192 токенов. Использование регулируется лицензией Llama 3; применяйте модель в соответствии с её условиями. Данных о специализированной предметной области или языковой специализации нет.

Llama-3-8B-Ultra-Instruct-GGUF — квантованные версии инструкционной языковой модели Llama-3-8B-Ultra-Instruct. Исходная модель связана с elinas/Llama-3-8B-Ultra-Instruct и базируется на Undi95/Meta-Llama-3-8B-Instruct-hf; квантования подготовлены bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и выполнения инструкций в локальных сценариях, где важны автономность и умеренные требования к памяти. Это текстовая модель с примерно 8 млрд параметров, представленная в формате GGUF и совместимая с llama.cpp. Доступны варианты квантования от Q8_0 до IQ1_M размером примерно от 2,16 до 8,54 ГБ. Более качественными считаются Q6_K, Q5_K_M, Q5_K_S и ряд вариантов Q4; низкобитные версии экономят память, но снижают качество. В README не указаны языки, размер контекста, поддержка других модальностей и результаты бенчмарков. Для работы следует использовать специальный chat-шаблон Llama 3 с ролями system, user и assistant. Модель подходит для локальных чат-ботов, генерации и преобразования текста, а также других задач следования инструкциям. Сильные стороны — широкий выбор квантований, возможность запуска на ограниченных ресурсах и сохранение высокого качества в старших вариантах. Ограничения связаны с потерями качества при сильном квантовании; варианты Q3 и ниже имеют заметно более низкое качество, а IQ1_M не рекомендуется. Лицензия указана как llama3.

Alecator/llama-3-Buzzy — дообученная языковая модель Alecator на базе unsloth/Meta-Llama-3.1-8B-Instruct-bnb-4bit. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM и примерно 7,5 млрд параметров. Модель предназначена для генерации текста и диалогового взаимодействия; в метаданных также указана поддержка интерфейса вызова инструментов. Контекстное окно составляет до 131 072 токенов, основной язык карточки — английский. Модель можно использовать для диалоговых помощников, генерации и продолжения текста, а также сценариев с вызовом инструментов. В README указано, что обучение проводилось с Unsloth и библиотекой TRL. Модель распространяется по лицензии Apache-2.0. Данных о специальных ограничениях качества или областях применения в карточке нет.

Llama-3-Chinese-8B-Instruct-v3 — диалоговая языковая модель семейства Llama, опубликованная HFL. Это инструкционная модель на архитектуре LlamaForCausalLM с 7,5 млрд параметров и контекстом до 8192 токенов. По карточке, она создана на основе объединения трёх моделей: hfl/Llama-3-Chinese-8B-Instruct, hfl/Llama-3-Chinese-8B-Instruct-v2 и meta-llama/Meta-Llama-3-8B-Instruct. Модель предназначена для диалогов, ответов на вопросы и генерации текста. Заявлены китайский и английский языки; поддержка чата указана в метаданных. Репозиторий содержит веса safetensors. Использование регулируется лицензией Apache-2.0 в метаданных; README также требует соблюдать лицензионные условия исходной Meta Llama 3.

birgermoell/Llama-3-dare_ties — диалоговая языковая модель, созданная слиянием моделей Meta-Llama-3 с помощью LazyMergekit и метода DARE-TIES. В конфигурации указаны Meta-Llama-3-8B и Meta-Llama-3-8B-Instruct; веса сохранены в формате safetensors с точностью bfloat16. В метаданных указаны 7,5 млрд параметров и контекст до 8192 токенов. Модель предназначена для генерации текста и диалоговых сценариев: ответов на запросы, продолжения текста и работы в роли ассистента. Карточка не описывает дополнительную специализацию или результаты сравнительных оценок. Указанная лицензия — llama2.

DiscoResearch Llama3-German-8B-32k — плотная авторегрессионная языковая модель семейства Llama 3, разработанная DiscoResearch на основе Meta Llama 3 8B. Модель адаптирована для немецкого языка продолжительным предобучением на 65 млрд токенов и предназначена для генерации текста с длинным контекстом. В метаданных указаны 7,5 млрд параметров, контекст до 65 536 токенов, формат safetensors и библиотека Transformers; README обозначает эту версию как вариант с расширенным контекстом на 32k. Модель подходит для генерации и продолжения немецких текстов, а также для ответов на вопросы и работы с длинными документами. В README приведены начальные результаты экспериментов по нескольким бенчмаркам, включая TruthfulQA и ARC; они показывают улучшения при использовании описанного алгоритма упаковки обучающих последовательностей. Модель распространяется по лицензии Llama 3; условия лицензии следует учитывать при использовании.

nbeerbower/llama3-KawaiiMahouSauce-8B — слитая языковая модель на архитектуре Llama 3, созданная автором карточки с помощью mergekit. В неё объединены nbeerbower/KawaiiMahou-llama3-8B и nbeerbower/llama-3-sauce-v2-8B методом SLERP; опубликованные веса имеют формат safetensors и точность bfloat16. Модель содержит 7,5 млрд параметров и рассчитана на контекст до 8192 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. Её можно применять для черновиков, ответов на вопросы, продолжения текста и ролевых диалогов. Карточка не сообщает целевые языки или специализированную предметную область. Лицензия — llama3; следует учитывать условия лицензирования исходных моделей и Llama 3.

Locutusque разработал Locutusque/llama-3-neural-chat-v2.2-8B как дообученную модель Meta Llama 3 8B. Модель с архитектурой LlamaForCausalLM содержит 7,5 млрд параметров и рассчитана на генерацию текста в диалоговом формате; заявленный контекст — 8192 токена. Для обучения использовались SFT и DPO-Positive, а данные были изменены для усиления навыков программирования, математики и письма. Модель предназначена для разговорного ИИ, генерации текстов, помощи с кодом и решения математических задач. В README приведены результаты оценок TruthfulQA и GSM8K, но подробный рецепт обучения не опубликован. Модель описана как очень малоцензурированная и может отвечать на широкий круг запросов. Указана лицензия Llama 3; в метаданных лицензия обозначена как other.

Llama-NextGen-9b — объединённая языковая модель на архитектуре Llama, созданная с помощью LazyMergekit из gradientai/Llama-3-8B-Instruct-Gradient-1048k и failspy/Llama-3-8B-Instruct-MopeyMule. Это плотная авторегрессионная модель объёмом 9,2 млрд параметров, предназначенная для генерации текста и диалогов. Репозиторий содержит веса в формате safetensors; конфигурация слияния использует метод passthrough и объединённый токенизатор. Модель подходит для чат-ответов и генерации текста. В каталожных метаданных указано контекстное окно 8192 токена, хотя одна из исходных моделей описана как имеющая контекст до 1 048 576 токенов; это значение базовой модели не следует считать контекстом данного слияния. Языки и специализированные области применения в карточке не определены. Условия лицензии в предоставленных данных не указаны.

Llama3-PBM-Nova-70B — диалоговая языковая модель, разработанная PKU-Baichuan-MLSysLab на основе Llama-3-70B. Модель содержит 69,5 млрд параметров, использует плотную архитектуру Llama и рассчитана на контекст до 8192 токенов. Для адаптации к диалогам базовую модель дообучили с помощью supervised fine-tuning (SFT) и обучения с подкреплением на основе обратной связи людей (RLHF), используя очищенные и синтетические открытые данные. Модель предназначена для генерации текста в формате чата и может применяться для ответов на вопросы, ведения диалогов и подготовки текстовых черновиков. В README приведены результаты сравнительных оценок на Arena-Hard, MixEval-Hard и Alpaca-Eval 2.0, но эти показатели не гарантируют качество в конкретных сценариях. Доступны веса в формате safetensors для библиотеки Transformers. Лицензия — Llama 3 License; перед использованием следует учитывать её условия.

llama-3-stella-8B — объединённая авторами nbeerbower языковая модель семейства Llama 3 для генерации текста и диалогов. Модель создана методом Model Stock с помощью mergekit на основе nbeerbower/llama-3-bophades-v3-8B и объединяет несколько языковых моделей, включая варианты, настроенные для диалогов, прозы, научного текста и других тематик. Модель имеет плотную архитектуру LlamaForCausalLM и около 7,5 млрд параметров. Она принимает текст и генерирует текст; заявленное контекстное окно — 8192 токена. Репозиторий содержит веса Safetensors. Карточка указывает лицензию Meta Llama 3 Community License Agreement, поэтому использование регулируется её условиями.

Llama3-TenyxChat-70B — чат-модель на базе Llama 3, разработанная Tenyx Research. Модель объёмом 69,5 млрд параметров дообучена методом Direct Preference Optimization (DPO) на наборе предпочтений UltraFeedback с применением фирменного подхода Tenyx к тонкой настройке. Она использует архитектуру LlamaForCausalLM и шаблон чата Llama 3; заявленная длина контекста — 8192 токена. Модель предназначена для диалоговых ответов и работы в роли полезного ассистента: она может помогать с письмом, извлечением сведений, программированием, математическими и STEM-вопросами, а также общими вопросами и рассуждениями. В карточке сообщается о результатах на MT-Bench и других бенчмарках, однако авторы отмечают, что модель может испытывать трудности с рассуждениями и математикой и иногда отвечает слишком многословно. Её специально не настраивали на соответствие предпочтениям безопасности людей, поэтому при провокационных запросах возможны нежелательные ответы. Модель рассчитана на английский язык. Лицензия — Meta Llama 3 Community License.

psx7/llama4B — текстовая модель семейства Llama, представленная в формате MLX; README указывает, что её преобразовали из rasyosef/Llama-3.1-Minitron-4B-Chat с помощью mlx-lm 0.18.1. По метаданным, модель содержит 3,9 млрд параметров, использует плотную архитектуру LlamaForCausalLM и поддерживает контекст до 131 072 токенов. Каталог связывает её с базовой моделью nvidia/Llama-3.1-Minitron-4B-Width-Base и датасетом OpenHermes-2.5; модель предназначена для генерации текста и диалогового использования. Репозиторий содержит веса в GGUF и safetensors, а README описывает использование через mlx-lm. Указана лицензия «other», поэтому точные условия использования следует проверять в файлах лицензии репозитория.

Llama-4-Scout-17B-16E-Instruct-GGUF — квантизированная версия инструкционной модели Llama 4 Scout, разработанной Meta. Вариант опубликован в формате GGUF сообществом lmstudio-community и квантизирован bartowski. Модель предназначена для генерации текста и выполнения задач по инструкциям, включая диалоговые сценарии, ответы на вопросы, создание и преобразование текста, а также локальный запуск в совместимом программном обеспечении. Из доступных данных известно, что базовая модель называется Llama-4-Scout-17B-16E-Instruct; обозначение указывает на конфигурацию 17B-16E, однако точные сведения об архитектуре, размере активной части модели, контекстном окне, поддерживаемых языках и модальностях в README не приведены. Формат GGUF удобен для локального вывода и может снизить требования к ресурсам, но квантизация способна повлиять на качество по сравнению с исходными весами; конкретный уровень квантизации также не указан. Модель распространяется по Llama 4 Community License от Meta с требованиями к атрибуции, маркировке «Built with Llama», соблюдению Acceptable Use Policy и специальными коммерческими условиями для продуктов с более чем 700 миллионами активных пользователей в месяц.

RedHatAI/Llama-4-Scout-17B-16E-Instruct-quantized.w4a16 — мультимодальная instruct-модель, разработанная Red Hat совместно с Neural Magic на основе Meta Llama-4-Scout-17B-16E-Instruct. Она предназначена для диалоговых приложений, генерации и обработки текста, а также задач image-text-to-text с изображениями и текстовыми запросами на входе и текстом на выходе. Поддерживаются арабский, немецкий, английский, испанский, французский, хинди, индонезийский, итальянский, португальский, тайский, тагальский и вьетнамский языки. Модель использует архитектуру Llama4ForConditionalGeneration. Её веса квантизированы в INT4 по схеме W4A16 без квантизации активаций, что примерно на 75% снижает требования к памяти GPU и размер на диске по сравнению с представлением весов в 16 бит. Для инференса предусмотрена интеграция с vLLM, Red Hat AI Inference Server, Red Hat Enterprise Linux AI и OpenShift AI; модель валидирована в RHOAI 2.20, RHAIIS 3.0, RHELAI 1.5 и vLLM 0.8.4. К сильным сторонам относятся мультимодальность, поддержка нескольких языков и сниженные требования к ресурсам благодаря квантизации. README не указывает число активируемых параметров, максимальную длину контекста, точные показатели качества или аппаратные требования, поэтому производительность в конкретных сценариях следует проверять отдельно. Модель выпущена 25 апреля 2025 года и распространяется по лицензии Llama 4; применяются условия лицензии Meta Llama 4.

Llama-Nephilim-Metamorphosis-v2-8B — объединённая языковая модель на архитектуре Llama, созданная автором репозитория с помощью mergekit. В неё с небольшим весом добавлена модель grimjim/llama-3-Nephilim-v3-8B, дообученная на основе Instruct, а основой служит Meta-Llama-3.1-8B-Instruct. После объединения дополнительное обучение не проводилось. Модель предназначена для прямого диалога и генерации текста. Она содержит около 7,5 млрд параметров, рассчитана на контекст до 131 072 токенов и сохраняет возможности обработки длинного контекста; автор сообщает о тестировании до 16 тыс. токенов. Используются архитектура Llama и формат safetensors. Карточка отмечает преимущественно сохранённое поведение безопасности. Модель принимает текст и генерирует текст. Она распространяется по лицензии llama3.1; применяйте её с соблюдением условий этой лицензии.