I.5Создание и редактирование текста

Llama-3.1-Tulu-3-8B-GGUF — текстовая генеративная модель, созданная Allen Institute for AI (AI2) на базе Llama 3.1 Tulu 3 8B. Она предназначена для генерации текста и решения разнообразных задач, включая сценарии, где важны высокая производительность и работа с длинным контекстом. Модель доступна в формате GGUF для использования через llama.cpp и совместимых приложений, включая LM Studio. Модель содержит 8 млрд параметров, поддерживает контекст длиной до 128 тысяч токенов и, согласно карточке, ориентирована на английский язык. Исходная модель, а также данные, код и рецепты обучения заявлены как полностью открытые. GGUF-квантизация выполнена bartowski на основе llama.cpp b4132; конкретные варианты квантизации в README не указаны. Модель распространяется по лицензии llama3.1. README не содержит подробных результатов бенчмарков, сведений о дополнительных модальностях или точных ограничениях качества, поэтому её возможности следует оценивать с учётом возможных неточных или неподходящих ответов генеративной модели.

Llama-3.1-Tulu-3-8B-SFT-GGUF — это GGUF-квантизированная версия языковой модели Llama-3.1-Tulu-3-8B-SFT, разработанной Allen Institute for AI (Ai2). Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix; в качестве данных для квантизации применялся специализированный набор. Модель предназначена для генерации текста и диалоговых сценариев, включая запуск локально через llama.cpp или LM Studio. Указан формат промпта с ролями system, user и assistant. Модель содержит 8 миллиардов параметров и работает с текстом на английском языке. Доступны варианты от исходных весов F16 размером около 16,07 ГБ до различных квантизаций Q8, Q6, Q5, Q4, Q3 и Q2 размером примерно от 3,7 ГБ до 8,54 ГБ. Более крупные варианты сохраняют более высокое качество, а компактные требуют меньше оперативной памяти, но могут заметно уступать в качестве. Для большинства сценариев автор рекомендует варианты Q4_K_M, Q5 и Q6; некоторые варианты оптимизированы для ARM или AVX и имеют ограничения совместимости. Модель поддерживает только текстовую модальность; сведения о длине контекста в README не указаны. Лицензия обозначена как llama3.1. README не содержит подробных результатов тестирования, поэтому точные сильные и слабые стороны базовой модели, кроме компромисса между размером квантизации и качеством, оценить нельзя.

bunnycore/Llama-3.2-1b-Chatml-RP — объединённая языковая модель семейства Llama 3.2, созданная автором bunnycore методом TIES с помощью mergekit. В состав вошли unsloth/Llama-3.2-1B-Instruct, bunnycore/Llama-3.2-1b-chatml-lora_model и bunnycore/Llama-3.2-1b-Mixer; размер модели — 1,2 млрд параметров, архитектура — плотная LlamaForCausalLM. Модель предназначена для генерации текста в диалоговом формате. Она принимает текст и выдаёт текст; метаданные указывают поддержку чата и интерфейса вызова инструментов. Заявленная длина контекста — 131 072 токена. Карточка не уточняет целевые языки, поэтому многоязычность базовой модели не позволяет определить языки, для которых именно этот merge рассчитан в первую очередь. Модель сохранена в формате safetensors и использует лицензию базовой модели unsloth/Llama-3.2-1B-Instruct — Llama 3.2 Community License. Результаты объединения могут отличаться от поведения каждой исходной модели; качество и надёжность вызова инструментов в карточке не оценены.

Llama-3.2-1B-Instruct-4bit — компактная инструкционная языковая модель семейства Llama 3.2, разработанная Meta и представленная в формате mlx-community. По идентификатору модели, она содержит около 1 миллиарда параметров и использует 4-битное квантование, что ориентировано на более экономичное локальное выполнение. Модель предназначена для генерации текста и диалоговых сценариев, включая выполнение инструкций, ответы на вопросы и другие задачи обработки естественного языка. В карточке указаны поддерживаемые языки: английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Модель относится к задачам text-generation и совместима с экосистемой Transformers; наличие формата MLX указывает на целевую оптимизацию для соответствующей среды. Ключевые ограничения — меньший размер по сравнению с крупными моделями и возможное снижение точности из-за 4-битного квантования; данные о размере контекстного окна, результатах тестирования и мультимодальности не предоставлены. Использование регулируется Llama 3.2 Community License от Meta. Лицензия предоставляет ограниченные неисключительные права на использование, воспроизведение, распространение и модификацию при соблюдении условий, включая передачу текста лицензии, указание «Built with Llama», сохранение атрибуции и соблюдение Acceptable Use Policy. Для продуктов или сервисов с более чем 700 миллионами ежемесячных активных пользователей требуется отдельное разрешение Meta.

Это языковая модель Llama 3.2-1B-Instruct-bf16, представленная сообществом mlx-community и основанная на модели Llama 3.2, разработанной Meta. Модель предназначена для генерации текста и выполнения инструкций в сценариях, требующих компактной универсальной LLM, включая диалоговые приложения, ответы на вопросы, создание и преобразование текста. Модель имеет размер 1 миллиард параметров, относится к семейству Llama и распространяется в формате BF16 для использования с MLX; в карточке также указана совместимость с библиотекой Transformers. Поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Модальность — текстовая, назначение — text-generation. Размер контекстного окна и точные архитектурные характеристики в README не указаны. Компактный размер делает модель более подходящей для локального запуска и устройств с ограниченными ресурсами, однако по качеству и способности обрабатывать сложные задачи она может уступать более крупным моделям. Модель распространяется по Llama 3.2 Community License компании Meta. Лицензия разрешает использование, копирование, модификацию и распространение на указанных условиях, включая соблюдение Acceptable Use Policy, сохранение уведомления об авторских правах и требования к атрибуции; для продуктов с более чем 700 миллионами активных пользователей в месяц предусмотрены дополнительные условия.

RedHatAI/Llama-3.2-1B-Instruct-quantized.w8a8 — квантизированная версия Llama-3.2-1B-Instruct, разработанная Neural Magic на базе модели Meta. Это текстовая autoregressive-модель архитектуры Llama-3, предназначенная прежде всего для диалоговых ассистентов, генерации текста и многоязычных коммерческих и исследовательских сценариев. Поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Модель использует INT8-квантизацию весов и активаций по схеме W8A8. Для весов применяется статическая симметричная поканальная квантизация, для активаций — динамическая симметричная потокенная квантизация; при подготовке использовались SmoothQuant и GPTQ. По заявлению разработчика, это примерно на 50% снижает требования к памяти GPU и размер модели на диске, а также примерно вдвое повышает пропускную способность матричных умножений. В опубликованных тестах показатели находятся в пределах 5% от неквантизированной версии на MMLU, ARC-Challenge, GSM-8K, HellaSwag, Winogrande и TruthfulQA. Для эффективного развёртывания рекомендуется vLLM; в примере указана максимальная длина контекста 8192 токена. К сильным сторонам относятся компактный размер в 1B параметров, сниженные требования к ресурсам, ускоренное выполнение и сохранение близкой к исходной точности. Ограничения связаны с небольшим размером модели и возможной потерей качества из-за квантизации; README не содержит подробных результатов по каждому языку, полной спецификации контекстного окна и детального анализа безопасности. Модель распространяется по лицензии Llama3.2; использование должно соответствовать применимым законам и нормативным требованиям.

Это дообученная модель генерации текста artificialguybr на базе Meta Llama 3.2 1B, настроенная на наборе инструкций и диалогов OpenHermes-2.5. Она построена на плотной авторегрессионной архитектуре LlamaForCausalLM и содержит около 1,2 млрд параметров; заявленная длина контекста — 131 072 токена. Модель принимает и генерирует текст, включая код, и рассчитана прежде всего на английский язык, с возможностью работы на других языках Llama 3.2. Модель предназначена для диалогового помощника и агентных сценариев: следования инструкциям, поиска знаний, суммаризации и переформулирования запросов. Компактный размер упрощает запуск по сравнению с крупными моделями, но качество и надёжность могут быть ограничены размером базовой модели и данными дообучения. Возможны смещения и неподходящие ответы; для чувствительных сценариев необходима проверка результатов. Лицензия — Llama 3.2 Community License (llama3.2), с соблюдением её условий и Acceptable Use Policy.

Llama-3.2-3B-All-Mix — объединённая модель семейства Llama, созданная bunnycore с помощью mergekit и метода TIES на основе huihui-ai/Llama-3.2-3B-Instruct-abliterated, с включением bunnycore/Llama-3.2-3B-Pure-RP и Lyte/Llama-3.2-3B-Overthinker. Модель содержит 3,2 млрд параметров, использует архитектуру LlamaForCausalLM и рассчитана на контекст до 131 072 токенов. Модель предназначена для генерации текста и диалогов, ролевых сценариев, рассуждений с развёрнутыми ответами, ответов на вопросы и суммаризации. Карточка заявляет сбалансированную работу в разных задачах и областях, но не приводит количественных оценок качества. Модель принимает текстовые запросы и генерирует текст; интерфейс поддерживает чат и вызов инструментов. Файлы модели опубликованы в формате safetensors для Transformers. Язык и лицензия в предоставленных данных не указаны, поэтому их нельзя надёжно определить.

bunnycore/Llama-3.2-3B-Blend — объединённая языковая модель, созданная с помощью mergekit методом Model Stock. В качестве базовой использована huihui-ai/Llama-3.2-3B-Instruct-abliterated; в слияние также вошли модели для цепочек рассуждений, RP и диалогов, а также адаптер Smart-v1-lora. Модель построена на архитектуре Llama с 3,2 млрд параметров и предназначена для генерации текста и диалогового взаимодействия. Модель можно применять для ответов на запросы, следования инструкциям и генерации текста с рассуждениями. В метаданных также заявлен интерфейс вызова инструментов. Заявленная длина контекста — 131 072 токена; поддержка конкретных языков в карточке не описана. Репозиторий содержит веса в формате safetensors. Лицензия не указана в предоставленных данных.

Jackrong/llama-3.2-3B-Chinese-Elite — чат-модель на базе Meta Llama 3.2 3B Instruct, дообученная автором методом SFT на примерно 50 тысячах примеров, дистиллированных из Qwen3-235B-A22B-Instruct-2507. Репозиторий предоставляет веса в формате GGUF; модель рассчитана на генерацию текста и диалоговое использование на китайском и английском языках. Модель предназначена для повседневного общения, создания и пересказа текстов, перевода, объяснения учебных материалов, творческого письма и простых рассуждений. Компактный размер ориентирован на быстрый запуск на ограниченных ресурсах, включая локальные компьютеры и CPU, а GGUF-веса подходят для автономного развертывания. Автор сообщает об улучшениях относительно исходной модели в китайском диалоге, форматировании ответов и простых рассуждениях, однако эти оценки представлены в карточке модели и не являются независимым сравнительным тестированием. Указанные ограничения включают слабые результаты на сложных математических и многошаговых задачах, ограниченность в специализированных областях и возможное несоответствие отдельных ответов человеческим предпочтениям. Лицензия репозитория — Apache-2.0.

QuantFactory/Llama-3.2-3B-GGUF — это компактная квантизированная версия языковой модели Llama 3.2 с примерно 3 млрд параметров, представленная QuantFactory на базе модели Meta. Формат GGUF предназначен для удобного локального запуска и использования средствами, поддерживающими этот формат; в README указана библиотека Transformers и задача генерации текста. Модель рассчитана на текстовые сценарии: генерацию и продолжение текста, диалоговые приложения и другие задачи обработки естественного языка. Заявлена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Сведения о размере контекста, конкретном методе и уровне квантования, архитектурных деталях, обучении и результатах оценки в README отсутствуют, поэтому производительность и требования к ресурсам определить по этим данным нельзя. Модель распространяется по лицензии Llama 3.2 Community License от Meta. Она разрешает использование, воспроизведение, распространение, модификацию и создание производных работ на указанных условиях, включая передачу текста лицензии, обязательное отображение отметки «Built with Llama» при распространении и соблюдение Acceptable Use Policy. Для организаций с более чем 700 млн ежемесячных активных пользователей предусмотрены дополнительные лицензионные ограничения; модель предоставляется «как есть», без гарантий.

noaebbot/llama3.2-3B-insights — дообученная noaebbot языковая модель семейства Llama 3.2 на базе unsloth/llama-3.2-3b-instruct-bnb-4bit. Это плотная авторегрессионная модель с архитектурой LlamaForCausalLM и 3,2 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия. В карточке указано, что обучение выполнялось с использованием Unsloth и библиотеки TRL; заявленная длина контекста — 131 072 токена. Модель подходит для генерации ответов в чате и других текстовых сценариев. Метаданные указывают английский язык; отдельные специализированные области применения не заявлены. Репозиторий содержит веса PyTorch в формате Safetensors. Лицензия — Apache-2.0; карточка не приводит результатов оценки качества или подробного описания настроек дообучения.

SanctumAI/Llama-3.2-3B-Instruct-GGUF — квантизированная версия языковой модели Meta Llama 3.2 3B Instruct, подготовленная SanctumAI. Это текстовая модель формата GGUF с генерацией текста на входе и выходе, предназначенная для многоязычного диалога, агентского поиска с извлечением данных и суммаризации. Модель имеет 3 млрд параметров и поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. В репозитории доступны варианты квантизации Q2_K–Q8_0, а также f16; их размер составляет примерно от 1,36 до 6,43 ГБ, а требуемый объём памяти — от 4,66 до 9,38 ГБ. Квантизация облегчает локальный запуск на устройствах с ограниченными ресурсами, однако может снижать точность по сравнению с исходной моделью. README не содержит сведений о размере контекстного окна и конкретной архитектуре. Модель ориентирована на прикладные сценарии общения и обработки текста, но, как и другие компактные языковые модели, может генерировать неточные, вредные или неподходящие ответы. Для использования рекомендуется применять шаблон чата Llama 3. Лицензия указана как Llama 3.2; исходная модель принадлежит Meta, при этом SanctumAI отвечает за квантизацию данного варианта.

RRNicole1014 обучил эту чат-модель дообучением unsloth/Llama-3.2-3B-Instruct-unsloth-bnb-4bit с помощью Unsloth и библиотеки Hugging Face TRL. Это плотная языковая модель семейства Llama 3.2 с 3,2 млрд параметров, предназначенная для генерации текста в диалоге; указанное в метаданных контекстное окно составляет 131 072 токена. Карточка не описывает специализацию на конкретной предметной области или дополнительные возможности помимо чата и генерации текста. Модель распространяется по лицензии Apache-2.0.

Hugging-quants/Llama-3.2-3B-Instruct-Q4_K_M-GGUF — это квантизированная версия инструкционно дообученной языковой модели Meta Llama 3.2 3B Instruct, подготовленная в формате GGUF с использованием схемы квантования Q4_K_M. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на запросы пользователя, выполнение инструкций и локальный inference через совместимые инструменты, такие как llama.cpp. Модель относится к текстовым моделям и поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Размер базовой модели — 3 миллиарда параметров. Квантизация Q4_K_M снижает требования к памяти и может упростить запуск на локальном оборудовании, однако README не содержит точных требований к ресурсам, данных о контекстном окне, показателей качества или подробностей архитектуры. Модель подходит для локальных чат-ботов, генерации текста и прикладных задач, где важны компактность и поддержка нескольких языков. Ограничения включают возможные потери качества из-за квантизации, отсутствие заявленных количественных оценок и неизвестные характеристики производительности в конкретных сценариях. Использование регулируется Llama 3.2 Community License от Meta. При распространении материалов или производных продуктов необходимо соблюдать условия лицензии, включая предоставление текста лицензии, указание «Built with Llama», сохранение атрибуции, соблюдение Acceptable Use Policy и применимых законов; для продуктов с более чем 700 миллионами ежемесячных активных пользователей предусмотрено отдельное лицензионное требование.

Модель goethe0101 — дообученная текстовая модель семейства Llama 3.2 с плотной архитектурой и 3,2 млрд параметров. Она основана на unsloth/llama-3.2-3b-instruct-bnb-4bit и обучалась с использованием Unsloth и библиотеки Hugging Face TRL. Модель предназначена для генерации текста и диалогового взаимодействия на английском языке. Она принимает текст и выдаёт текст; заявленная длина контекста составляет 131 072 токена. Репозиторий содержит веса в формате PyTorch, а лицензия — Apache-2.0. Карточка не описывает специализацию дообучения или результаты оценки качества.

Llama-3.2-3B-ProdigyPlus — диалоговая языковая модель на базе архитектуры Llama, созданная bunnycore объединением нескольких моделей с помощью TIES и mergekit. В объединение вошли модели для научных рассуждений, длинных рассуждений, программирования, ролевого общения и следования инструкциям; в качестве основы README указывает huihui-ai/Llama-3.2-3B-Instruct-abliterated. Число параметров — 3,2 млрд, контекст — до 131 072 токенов; модель работает с текстом и распространяется в формате safetensors. Модель предназначена для диалогов по инструкциям, ролевых сценариев, творческого письма и помощи с базовыми задачами программирования. README также заявляет способности к научным и протяжённым рассуждениям через включённые компоненты с такими специализациями, но не приводит оценок качества. По метаданным поддерживается генерация текста и чат; отдельные языки не указаны. Лицензия в предоставленных данных не приведена.

DavidAU выпустил эту чат-модель для генерации текста. В метаданных указана архитектура MixtralForCausalLM с механизмом смеси экспертов (MoE), библиотека Transformers и контекст до 131 072 токенов. В README модель описана как полноточный исходный вариант в формате SafeTensors; автор отмечает возможность менять число активных экспертов, что влияет на скорость генерации. Название указывает на объединение Llama 3.2 8×3B с настройкой Instruct, однако карточка не раскрывает точный состав объединения и сценарии обучения. Модель предназначена для диалоговой генерации текста; метаданные также отмечают интерфейс вызова инструментов. Весовой репозиторий можно использовать напрямую или как источник для создания квантованных форматов. Автор рекомендует подбирать параметры и сэмплеры для конкретной среды запуска. В карточке не указаны языки и лицензия, поэтому условия распространения и коммерческого применения по этим данным определить нельзя.

LLaMa-3.2-Instruct-JankMixBread-v0.1-3B — объединённая диалоговая языковая модель, созданная с помощью mergekit на основе Meta Llama 3.2. В состав слияния вошли meta-llama/Llama-3.2-3B-Instruct и PJMixers-Dev/LLaMa-3.2-Instruct-JankMix-v0.1-SFT-3B; использован метод breadcrumbs_ties. Модель имеет плотную архитектуру LlamaForCausalLM и около 3,2 млрд параметров. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на запросы и следование инструкциям. Заявленный размер контекста — 131 072 токена; репозиторий содержит веса safetensors и использует библиотеку Transformers. Метаданные указывают на мультиязычную основу, но конкретный перечень языков для этой модели не приведён. Модель распространяется по лицензии Llama 3.2. В README приведены результаты Open LLM Leaderboard, включая IFEval 50,41 и BBH 22,76; подробные результаты в доступной карточке отсутствуют. Слияние моделей не гарантирует улучшения качества относительно исходных чекпойнтов.

Bllossom/llama-3.2-Korean-Bllossom-3B — корейская дообученная языковая модель на архитектуре Llama 3.2, разработанная командой Bllossom при поддержке AICA. Модель содержит 3,2 млрд параметров и предназначена для генерации текста и диалоговых сценариев на корейском и английском языках. Модель представлена в формате Safetensors и использует библиотеку Transformers. Метаданные указывают на контекст до 131 072 токенов и поддержку чат-интерфейса и интерфейса вызова инструментов. В README приведён пример решения арифметической текстовой задачи на корейском языке. Авторы отмечают, что в декабре 2024 года обновили проект до более мощной модели Bllossom-AICA-5B. Модель дообучена на базе meta-llama/Meta-Llama-3.2-3B. Лицензия — Llama 3.2; применяются её условия использования.

kosbu/Llama-3.3-70B-Instruct-AWQ — это 4-битная версия модели Meta AI Llama-3.3-70B-Instruct, подготовленная с использованием квантования AWQ. Модель предназначена для генерации текста и диалоговых сценариев на основе инструкций и интегрируется с библиотекой Transformers. Заявлена поддержка английского, французского, итальянского, португальского, хинди, испанского, тайского и немецкого языков. Размер исходной модели составляет 70 миллиардов параметров; README не уточняет архитектурные детали, размер контекста, поддерживаемые модальности и конкретные требования к оборудованию. Квантование до 4 бит может снизить требования к памяти и упростить развёртывание по сравнению с полной версией, однако README не содержит данных о точности, производительности или известных ограничениях. Модель распространяется по лицензии llama3.3. README не указывает дополнительные условия использования, результаты тестирования или сравнительные преимущества квантованной версии.

DavidAU/Llama-3.3-8B-Thinking-Gemini-Flash-11000x-128k — дообученная модель семейства Llama 3.3, созданная DavidAU на базе allura-forge/Llama-3.3-8B-Instruct с помощью Unsloth на 11 000 примерах датасета TeichAI/gemini-2.5-flash-11000x в течение трёх эпох. Это плотная авторегрессионная модель на 7,5 млрд параметров с контекстом до 131 072 токенов и интерфейсом чата. Модель предназначена для генерации текста с пошаговыми рассуждениями, объяснений, планирования и творческого письма, включая рассказы, продолжение сцен и ролевые диалоги. В README указаны примеры запросов по научным темам и художественным жанрам; автоматическая активация режима рассуждений зависит от формулировки запроса. Карточка перечисляет английский, французский, немецкий, испанский, итальянский, португальский, китайский, японский, русский и корейский языки. Автор предупреждает, что у модели могут сохраняться проблемы Llama, включая устаревшие знания; режим рассуждений активируется не всегда, а результаты могут зависеть от настроек генерации и интерфейса. Модель распространяется под лицензией Apache-2.0.

Lumi-tess — объединённая языковая модель на архитектуре Llama 3, созданная ryzen88 методом breadcrumbs_ties из Llama 3 Instruct Gradient 262k, Lumimaid и Tess. Модель содержит 69,5 млрд параметров и предназначена для диалоговой генерации текста с длинным контекстом; автор указывает контекст до 262 144 токенов и широкую совместимость с настройками сэмплирования. Модель подходит для диалогов и генерации текста в сценариях, где полезны длинный контекст и менее ограниченные ответы. Карточка не приводит результаты сравнительных оценок или перечень поддерживаемых языков. Репозиторий использует формат safetensors и библиотеку Transformers. Лицензия в предоставленных данных не указана.

lainshower/Llama3-8b-alpaca — дообученная в режиме полного fine-tuning модель Llama 3, созданная на основе Llama 3 8B с использованием инструкционных данных Stanford Alpaca. Это плотная авторегрессионная языковая модель с 7,5 млрд параметров и контекстом до 8192 токенов; веса опубликованы в формате safetensors. Модель предназначена для генерации ответов на инструкции и запросы с дополнительным контекстом. В README приведён шаблон диалога Alpaca и пример ответа на вопрос с выбором варианта; заявлено обучение в течение одной эпохи в BF16, поскольку более длительное обучение приводило к переобучению. Для инференса автор рекомендует Float32. Карточка не указывает лицензию, поэтому условия использования определить нельзя.

QuantFactory/Llama3-8B-Chinese-Chat-GGUF — это квантизированная GGUF-версия модели shenzhi-wang/Llama3-8B-Chinese-Chat, созданная с помощью llama.cpp. Исходная модель дообучена на базе Meta-Llama-3-8B-Instruct с использованием метода ORPO и фреймворка LLaMA-Factory; в README автором указана QuantFactory. Модель предназначена для диалогового применения и генерации текста на китайском и английском языках: она ориентирована на ответы на китайские запросы, написание и редактирование текстов, решение математических задач, программирование и соблюдение базовых ограничений безопасности. По сравнению с исходной Meta-Llama-3-8B-Instruct она должна реже отвечать на китайские вопросы по-английски, меньше смешивать языки и использовать меньше эмодзи, обеспечивая более формальный стиль. Указана длина контекста 8192 токена; архитектура — семейство Llama 3, размер — 8 млрд параметров. Модель работает в текстовой модальности, а формат GGUF предназначен для использования с совместимыми инструментами, включая llama.cpp. К ограничениям относятся возможные ошибки в фактах, рассуждениях, математике и коде, что видно по приведённым примерам, а также отсутствие гарантии полной безопасности или качества ответов. В README не указаны конкретный вариант квантизации, требования к памяти и производительности, поэтому совместимость и скорость необходимо проверять для выбранной конфигурации. Лицензия обозначена как other с названием llama3; применимые условия следует уточнять в файле LICENSE и лицензии исходной модели.

MaziyarPanahi/Llama-3-8B-Instruct-DPO-v0.2-GGUF — это квантизированная версия инструкционной языковой модели MaziyarPanahi/Llama-3-8B-Instruct-DPO-v0.2, разработанная и опубликованная MaziyarPanahi. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через llama.cpp и совместимые приложения и библиотеки. Для взаимодействия используется шаблон ChatML. Модель представлена в формате GGUF и доступна в вариантах квантизации от 2 до 8 бит, что позволяет выбирать компромисс между размером файлов, требованиями к памяти и качеством генерации. В названии указано 8B, то есть модель относится к классу примерно 8-миллиардных параметров; базовая архитектура связана с семейством Llama 3. README не содержит точных сведений о поддерживаемых языках, размере контекста, результатах тестирования или ограничениях качества. Сильная сторона модели — возможность локального использования с GPU-ускорением через llama.cpp, llama-cpp-python, LM Studio и другие совместимые инструменты. Лицензия в представленном README не указана, поэтому условия распространения и коммерческого использования необходимо уточнять в материалах исходной модели и репозитория.

VictorDCh/Llama-3-8B-Instruct-MoE-3 — разговорная языковая модель для генерации текста, размещённая пользователем VictorDCh на Hugging Face. Это модель типа Mixture of Experts на базе четырёх копий meta-llama/Meta-Llama-3-8B-Instruct; для каждого токена выбираются два эксперта, а режим маршрутизации указан как случайный. В метаданных заявлены 7,5 млрд параметров, контекст 8192 токена, архитектура MixtralForCausalLM и формат safetensors. Модель предназначена для диалоговой генерации текста и работы в чат-сценариях. Карточка не описывает специализированные области применения, обучающие данные или результаты оценивания. Лицензия в доступных данных не указана, поэтому условия использования определить нельзя.

Llama-3-8B-Instruct-Portuguese-v0.3 — языковая модель на архитектуре Llama, предназначенная для генерации текста на португальском языке. Модель содержит 7,5 млрд параметров, использует формат Safetensors и поддерживает контекст до 8192 токенов. В карточке указан датасет adalbertojunior/openHermes_portuguese. Модель можно применять для генерации ответов и диалогового текста на португальском языке. Она создана на основе семейства Llama 3 и ориентирована на инструкции, однако доступные сведения не уточняют способ её обучения или конкретные результаты оценки качества. Лицензия в предоставленных данных не указана.

Llama-3-8B-Instruct-Portuguese-v0.4 — языковая модель на архитектуре Llama, представленная пользователем adalbertojunior. Она предназначена для генерации текста и диалоговых сценариев на португальском языке. Модель содержит 7,5 млрд параметров, принимает текст и выдаёт текст, а её контекст составляет 8192 токена. В метаданных указан обучающий набор adalbertojunior/openHermes_portuguese. Модель опубликована в формате safetensors и помечена лицензией из метаданных?

Llama-3-8B-Instruct-v0.3 — плотная авторегрессионная языковая модель семейства Llama, разработанная MaziyarPanahi на основе серии MaziyarPanahi/Llama-3-8B-Instruct-DPO. Она предназначена для диалогов и генерации текста; в карточке указана поддержка ChatML-шаблона, а метаданные отмечают возможность общения в чате. Модель содержит 7,5 млрд параметров и поддерживает контекст до 8192 токенов. Модель подходит для создания чат-ботов, ответов на вопросы и генерации текста на английском языке. Репозиторий содержит веса в формате safetensors, а для запуска README рекомендует библиотеку Transformers. Лицензия указана как other, без уточнения её условий в доступных данных.