I.5Создание и редактирование текста

Marco-Nano-Base — компактная разреженная языковая модель семейства Marco-MoE, разработанная Alibaba International Digital Commerce. Это decoder-only Transformer с архитектурурой Mixture-of-Experts: по README, из 8 млрд параметров на каждый токен активируются около 0,6 млрд. Модель создана на основе Qwen3-0.6B-Base с помощью разбиения матриц и Drop-Upcycling; в метаданных указаны архитектура Qwen3 MoE и 507,9 млн параметров, поэтому фактический размер репозитория отличается от описания в README. Модель предназначена для генерации текста и диалогов на 29 языках, включая английский, китайский, русский, арабский, японский и другие. Поддерживает контекст до 32 768 токенов и интерфейс вызова инструментов. README приводит результаты сравнительных тестов: модель показывает конкурентные результаты на англоязычных и многоязычных бенчмарках при низком числе активных параметров. Для запуска используются Transformers и веса Safetensors. Лицензия — Apache-2.0. Как базовая модель, она предназначена для дальнейшей адаптации; README не описывает ограничения по качеству для отдельных языков или сценариев, поэтому результаты бенчмарков не гарантируют качество на конкретных пользовательских задачах.

Marcoroni-neural-chat-7B-v2-Mistral-7B-Instruct-v0.2-slerp — объединённая диалоговая языковая модель, созданная методом SLERP из mistralai/Mistral-7B-Instruct-v0.2 и Toten5/Marcoroni-neural-chat-7B-v2. Она предназначена для генерации текста и ответов на инструкции в формате диалога. Модель построена на плотной архитектуре MistralForCausalLM и содержит 7,1 млрд параметров. Поддерживает контекст до 32 768 токенов; опубликованные веса представлены в формате safetensors. Карточка не приводит сведения о поддерживаемых языках. Модель можно применять для диалоговых помощников, ответов на вопросы и генерации текста. Репозиторий распространяется по лицензии Apache-2.0. Качество ответов и конкретные языковые возможности в карточке не описаны.

Marv-Instruct — разговорная модель генерации текста, разработанная пользователем theplayboy117 путём дообучения unsloth/Qwen2.5-7B-Instruct-bnb-4bit. Она предназначена для диалогов и ответов на запросы; в метаданных также отмечен интерфейс вызова инструментов. Модель построена на плотной архитектуре Qwen2, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Для обучения использовались Unsloth и библиотека TRL от Hugging Face. Модель принимает текст и генерирует текст. В карточке указан английский язык. Модель распространяется по лицензии Apache-2.0. README не сообщает о результатах оценки качества или специализированной области применения, поэтому её возможности за пределами общего диалога и заявленного интерфейса инструментов не уточнены.

MasherAI-7B-v4 — языковая модель на архитектуре Mistral, опубликованная mahiatlinux. Это дообученная версия Kukedlc/Neural-Krishna-Multiverse-7b-v3, предназначенная для генерации текста и диалогового общения. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. В карточке указаны английский язык и формат PyTorch; обучение проводилось с использованием Unsloth и библиотеки TRL. Модель распространяется по лицензии Apache-2.0.

MasherAI-v6.1-7B-checkpoint3-code4 — дообученная плотная языковая модель семейства Mistral, опубликованная mahiatlinux. Она предназначена для генерации текста и диалогов на английском языке; поддерживает контекст до 32 768 токенов и содержит 7,1 млрд параметров. Модель обучалась с использованием Unsloth и библиотеки TRL. Репозиторий распространяется в форматах PyTorch и Safetensors по лицензии Apache-2.0. В карточке заявлена генерация текста; конкретная специализация версии code4 не описана.

QuantFactory/Matter-0.1-7B-DPO-preview-GGUF — это GGUF-версия языковой модели Matter 7B 0.1, дообученной методом DPO на основе Mistral 7B. Исходная модель разработана 0-hero, а данная версия подготовлена QuantFactory для запуска с помощью движка llama.cpp. Обучение проводилось на наборе Matter, сформированном из более чем 35 датасетов и содержащем свыше 6 миллиардов токенов. Модель предназначена для генерации текста и ведения диалогов на английском языке, включая сценарии conversational AI. Она поддерживает формат промптов ChatML и function calling с использованием специальных токенов для начала и завершения вызова функции и её ответа. Размер модели — 7 миллиардов параметров; архитектура основана на Mistral 7B. Модель может быть удобна для локального инференса благодаря формату GGUF и совместимости с llama.cpp, однако конкретный вариант квантования, размер контекста и требования к ресурсам в README не указаны. Лицензия — Apache 2.0.

Matter-0.1-Slim-7B-B — дообученная авторами проекта 0-hero языковая модель на архитектуре Mistral с 7,1 млрд параметров. Это полное дообучение на slim-B версии набора Matter, сформированного из более чем 35 наборов данных и содержащего свыше 6 млрд токенов; обучение длилось три эпохи. Модель предназначена для диалоговой генерации текста и поддерживает формат запросов ChatML, а также вызов функций. Модель принимает текст и генерирует текст; заявленная длина контекста — 32 768 токенов. В метаданных указан английский язык. Репозиторий содержит веса PyTorch в формате safetensors. Лицензия — Apache-2.0, допускающая коммерческое использование в соответствии с её условиями. Карточка не приводит результатов сравнительных тестов или подробностей о качестве и ограничениях; возможности вызова функций заявлены, но примеры токенов в README отображаются неполно. Перед использованием стоит проверить качество на целевых сценариях и корректность формата вызова инструментов.

Matter 8x22B 0.2 — разговорная языковая модель, выпущенная 0-hero и дообученная на датасете Matter 0.2. Она предназначена для диалога с ассистентом и генерации текста; поддерживает формат запросов ChatML и вызов функций. Архитектура — Mixtral MoE с классом MixtralForCausalLM; в репозитории находятся веса PyTorch в формате safetensors. Модель содержит 22 млрд параметров и поддерживает контекст до 65 536 токенов. Карточка рекомендует использовать системную инструкцию «You are a helpful assistant». Модель ориентирована на английский язык. Она распространяется по лицензии Apache-2.0. Карточка не сообщает результаты бенчмарков или конкретные ограничения качества, поэтому пригодность для заданной области следует оценивать на собственных примерах.

Maverick-8B — диалоговая языковая модель примерно на 7,5 млрд параметров, созданная bunnycore путём объединения трёх моделей с помощью mergekit и метода model_stock. В состав объединения входят bunnycore/Cognitron-8B, failspy/Llama-3-8B-Instruct-abliterated и TIGER-Lab/MAmmoTH2-8B-Plus; архитектура — плотная Llama с классом LlamaForCausalLM. Модель предназначена для генерации текста и диалоговых ответов, а её контекст составляет до 8192 токенов. Репозиторий содержит веса safetensors в формате bfloat16. Для использования применяется лицензия Llama 3. Среди компонентов есть модель, ориентированная на английские математические рассуждения, однако карточка Maverick-8B не описывает отдельную специализацию или языковой охват самой объединённой модели. Из карточки также нельзя установить её качество на конкретных задачах.

Maya_Hermes-2.5-Mistral-7B — диалоговая языковая модель на архитектуре Mistral, представленная пользователем luqmanxyz. Это вариант, дообученный методом DPO на наборе argilla/distilabel-intel-orca-dpo-pairs. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста в диалоговом формате: она может отвечать на запросы и поддерживать беседу. В карточке приведены результаты оценивания на бенчмарках AI2 Reasoning Challenge и HellaSwag. Файлы опубликованы в формате safetensors; лицензия — Apache-2.0.

eslamxm/mbart-finetuned-fa — модель абстрактивной суммаризации на основе mBART-large-50, дообученная на наборе данных pn_summary. Она предназначена для создания краткого пересказа текста на фарси. Модель содержит около 457,4 млн параметров, использует архитектуру MBartForConditionalGeneration и принимает контекст до 1024 токенов. В карточке приведены результаты оценки на тестовом наборе: ROUGE-1 — 44,07, ROUGE-2 — 25,81, ROUGE-L — 38,96 и BERTScore — 78,95; средняя длина сгенерированного текста — 41,7. Опубликована в формате PyTorch. Лицензия в предоставленных данных не указана.

MBX-7B — языковая модель, созданная Flemming Miguel слиянием leveldevai/MarcDareBeagle-7B и leveldevai/MarcBeagle-7B с помощью LazyMergekit и метода SLERP. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, рассчитанная на генерацию текста и имеющая контекстное окно до 32 768 токенов. Веса представлены в формате Safetensors; модель распространяется по лицензии Apache-2.0. Модель предназначена для генерации продолжений и ответов на текстовые запросы. README описывает способ слияния и его параметры, но не приводит оценки качества, подробных сценариев применения или списка поддерживаемых естественных языков.

M-DIE-M-10.7B — разговорная языковая модель, разработанная Ados на основе upstage/SOLAR-10.7B-Instruct-v1.0. Это плотная модель семейства Llama с 10,6 млрд параметров, рассчитанная на генерацию текста и диалоговое использование; заявленная длина контекста — 4096 токенов. Обучающая выборка преимущественно корейская (73%) и английская (24%), с небольшой долей других языков. В неё входят примеры вопросов и ответов, многоходовых диалогов, выполнения инструкций, суммаризации и перевода. Модель предназначена для диалогов и выполнения текстовых инструкций, включая ответы на вопросы, краткое изложение и перевод. В README приведён шаблон диалога с системным сообщением OLLM, ориентированным на работу в локальной инфраструктуре. Модель опубликована в формате Safetensors и распространяется по лицензии CC BY-NC-SA 4.0, которая ограничивает коммерческое использование и требует соблюдения условий атрибуции и распространения производных материалов. Результаты зависят от языка и качества запроса; обучение преимущественно на корейском и английском, поэтому качество для других языков может быть ниже. README не приводит количественных оценок качества.

BattlescarZa/medibuddy-llm-9B — диалоговая языковая модель, разработанная BattlescarZa на основе VAGOsolutions/Llama-3.1-SauerkrautLM-8b-Instruct. Это плотная авторегрессионная модель семейства Llama с 7,5 млрд параметров, дообученная для генерации текста; карточка указывает использование Unsloth и Hugging Face TRL при обучении. Модель принимает текст и генерирует текст, поддерживает контекст до 131 072 токенов. Модель предназначена для диалоговых текстовых сценариев. Базовая модель рассчитана на немецкий и английский языки, однако карточка этой производной модели не описывает отдельную медицинскую специализацию или подтверждённые медицинские возможности. Лицензия — Apache-2.0.

MegaBeam-Mistral-7B-512k-GGUF — набор GGUF-квантизаций модели MegaBeam-Mistral-7B-512k, разработанной aws-prototyping и подготовленной для llama.cpp пользователем bartowski. Модель предназначена для генерации текста и локального запуска, в частности через llama.cpp и LM Studio. Она относится к семейству Mistral и имеет размер 7B параметров; поддерживает контекст до 512 тысяч токенов. Данные о языках и мультимодальности не указаны, поэтому модель следует рассматривать как текстовую. Доступны варианты от F16 до низкобитных Q2 и IQ-квантизаций, размером примерно от 2,50 до 14,48 ГБ. Более высокие разрядности обеспечивают лучшее сохранение качества, а низкие снижают требования к памяти ценой качества; в README рекомендуются, среди прочих, варианты Q4_K_M, Q5 и Q6. Квантизации созданы с использованием imatrix и llama.cpp b3600. Модель не поддерживает системный промпт и требует формата приглашения «<s> [INST] {prompt} [/INST]». В обновлённой версии заявлены улучшения пользовательского опыта и исправление проблем с повторениями. Распространяется по лицензии Apache-2.0. README не содержит результатов бенчмарков или подробного описания качества, поэтому фактические возможности модели в конкретных задачах требуют самостоятельной проверки.

FoxEngineAi/Mega-Destroyer-8x7B — языковая модель, созданная Dampf совместно с FoxEngineAi с помощью mergekit. Это слияние нескольких моделей Mixtral 8x7B методом DARE TIES на базе mistralai/Mixtral-8x7B-v0.1; среди компонентов — Mixtral Instruct, Open_Gpt4, Air-Striker, LimaRP и Typhon. Архитектура Mixtral — Mixture of Experts, число параметров по метаданным — 7,1 млрд, контекст — до 32 768 токенов. Модель предназначена для генерации текста по инструкциям, диалогов, творческого письма и ролевых сценариев. README заявляет, что модель рассчитана на широкий круг задач и поддерживает разные шаблоны запросов, включая Alpaca, Vicuna, ChatML и Llama 2 Chat. Лицензия — CC BY 4.0. Качество и поведение могут меняться в зависимости от шаблона запроса; README не приводит количественных результатов оценки. Несмотря на заявленную пригодность для широкого круга задач, специализация компонентов на ролевых сценариях и творческом письме может влиять на ответы в других сценариях.

appvoid/megasalad-1 — компактная языковая модель семейства Llama, созданная автором appvoid слиянием предобученных моделей через mergekit. В качестве базовой модели использована appvoid/arco; в слияние также вошли appvoid/text-arco, appvoid/massive, appvoid/arco-2 и Fizzarolli/clite-500m. Метод слияния — TIES. Модель предназначена для генерации текста и диалоговых сценариев. Она содержит 464,4 млн параметров, использует архитектуру LlamaForCausalLM и поддерживает контекст до 8192 токенов. Репозиторий использует библиотеку Transformers и формат весов safetensors. Языки и специализированные области применения в доступных данных не обозначены. Условия лицензирования в предоставленных данных не приведены.

Megatron_v3_2x7B — двуязычная языковая модель архитектуры Mixtral с механизмом Mixture of Experts (MoE), опубликованная Eurdem. Она предназначена для генерации текста и диалоговых ответов на английском и турецком языках. Модель содержит 7,1 млрд параметров, поддерживает контекст до 32 768 токенов и распространяется в формате Safetensors по лицензии Apache-2.0. Карточка заявляет, что модель понимает инструкции и отвечает на них на обоих языках. Подробные результаты оценки и специфические ограничения в карточке не приведены.

Megrez2-3x7B-A3B — большая языковая модель с архитектурой Mixture-of-Experts от Infinigence. Она обучена на 8 трлн токенов и предназначена для генерации текста и диалоговых сценариев. В README указан общий размер 3×7B параметров и 3B активных параметров; метаданные Hugging Face указывают 2,7 млрд параметров. Модель поддерживает контекст длиной до 163 840 токенов и рассчитана на английский и китайский языки. Модель можно запускать через Transformers, ModelScope, llama.cpp, vLLM и SGLang. README описывает её как компактную для своего класса модель с MoE, а также приводит рекомендации по параметрам генерации и форматированию запросов для математических задач и вопросов с выбором ответа. Лицензия — Apache-2.0. Разработчики отмечают, что возможности рассуждения и работы в роли агента планируется улучшать.

JetBrains/Mellum2-12B-A2.5B-Thinking-GGUF-Q4_K_M — это квантизированная GGUF-версия рассуждающей языковой модели Mellum2, разработанной JetBrains. Модель предназначена для генерации текста и решения задач, требующих пошагового рассуждения, и может запускаться локально через llama.cpp, Ollama, LM Studio и другие совместимые среды. Модель использует архитектуру Mixture-of-Experts с 64 экспертами, из которых для каждого токена активируются 8. Заявленный контекст составляет 131 072 токена. Модель поддерживает английский язык и выводит цепочку рассуждений в блоках <think>...</think> перед финальным ответом. Вариант Q4_K_M использует 4-битное k-квантизирование, занимает около 8,1 ГБ и обеспечивает сбалансированное соотношение качества и размера: совпадение наиболее вероятного токена с BF16-версией составляет около 89,8% на указанном тесте. Основные преимущества — возможность локального запуска, большой контекст, MoE-архитектура и заметное уменьшение размера по сравнению с BF16-версией. Ограничения связаны с потерями точности из-за 4-битного квантизирования, необходимостью совместимого рантайма и тем, что README не содержит подробных результатов оценки исходной модели. Модель распространяется по лицензии Apache 2.0.

Memgpt-slerp-7b-1 — объединённая языковая модель, созданная автором liminerity с помощью LazyMergekit из starsnatched/MemGPT и starsnatched/MemGPT-3. Это плотная авторегрессионная модель семейства Mistral с архитектурой MistralForCausalLM и 7,1 млрд параметров; веса сохранены в формате safetensors. Модель предназначена для генерации текста и диалогового общения. Контекст модели составляет до 32 768 токенов. В конфигурации слияния использован метод slerp с базовой моделью starsnatched/MemGPT и точностью bfloat16. README не описывает отдельные сценарии применения, языки, результаты оценки или ограничения качества. Сведения о лицензии в предоставленных данных отсутствуют.

jeiku/mergefodder1 — слитая языковая модель, созданная с помощью mergekit из jeiku/neurodeed и jeiku/luxemaelstrom методом SLERP. Модель построена на плотной архитектуре LlamaForCausalLM и содержит 3,9 млрд параметров; заявленная длина контекста — 131 072 токена. Модель предназначена для генерации текста в диалоговом формате и чат-сценариев. Она принимает текст и выдаёт текст. Репозиторий содержит веса в формате safetensors; лицензия в предоставленных данных не указана.

Карточка модели mergekit-community/mergekit-slerp-aywerbb на Hugging Face совпадает с карточкой mergekit-community/mergekit-slerp-gpprpds, поэтому описание составлено по ней. mergekit-community/mergekit-slerp-gpprpds — языковая модель для генерации текста, созданная сообществом слиянием Equall/Saul-Base и HuggingFaceH4/zephyr-7b-beta методом SLERP через mergekit. Это плотная авторегрессионная модель семейства Mistral с архитектурой MistralForCausalLM, примерно 7,1 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для диалогов, ответов на вопросы и выполнения инструкций на английском языке. Слияние сочетает компоненты двух предварительно обученных моделей; репозиторий содержит веса Safetensors. Поддержка русского языка или специализированных прикладных областей в карточке не заявлена. Лицензия в предоставленных данных не указана.

Это языковая модель на архитектуре Mistral, созданная сообществом mergekit путём слияния методом SLERP моделей Calme-7B-Instruct-v0.9 и Not-WizardLM-2-7B. Модель содержит 7,1 млрд параметров и рассчитана на генерацию текста; заявленная длина контекста — 32 768 токенов. Модель предназначена для диалоговых ответов и генерации связного текста. В настройке слияния указана V-образная кривая: вклад Hermes сильнее во входных и выходных слоях, а WizardMath — в средних слоях. Репозиторий содержит веса в формате safetensors. Лицензия в предоставленных данных не указана.

Карточка модели mergekit-community/mergekit-slerp-jovftfd на Hugging Face совпадает с карточкой mergekit-community/mergekit-slerp-gpprpds, поэтому описание составлено по ней. mergekit-community/mergekit-slerp-gpprpds — языковая модель для генерации текста, созданная сообществом слиянием Equall/Saul-Base и HuggingFaceH4/zephyr-7b-beta методом SLERP через mergekit. Это плотная авторегрессионная модель семейства Mistral с архитектурой MistralForCausalLM, примерно 7,1 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для диалогов, ответов на вопросы и выполнения инструкций на английском языке. Слияние сочетает компоненты двух предварительно обученных моделей; репозиторий содержит веса Safetensors. Поддержка русского языка или специализированных прикладных областей в карточке не заявлена. Лицензия в предоставленных данных не указана.

unsloth/Meta-Llama-3.1-70B-Instruct — квантованная версия Meta-Llama-3.1-70B-Instruct, разработанная на основе модели Meta компанией Unsloth. Модель предназначена для диалоговых приложений, генерации и продолжения текста, а также дообучения на собственных наборах данных с использованием инструментов Unsloth. Она ориентирована прежде всего на англоязычные сценарии. Модель относится к семейству Llama 3.1, имеет размер 70B параметров и поддерживается библиотекой Transformers. README не содержит подробностей об архитектуре, модальностях и размере контекстного окна; по представленным данным модель является текстовой. Unsloth позиционирует свои инструменты как позволяющие ускорять дообучение и снижать потребление памяти, а также экспортировать результат в GGUF и использовать его через vLLM, однако эти характеристики относятся к процессу дообучения и экосистеме Unsloth, а не обязательно к самой модели. К сильным сторонам относятся большой размер модели и возможность адаптации под пользовательские данные. Ограничения включают отсутствие заявленной поддержки других языков и модальностей, а также отсутствие в README подробных оценок качества, требований к оборудованию и характеристик инференса. Модель распространяется по лицензии llama3.1; конкретные условия этой лицензии следует учитывать перед использованием.

Undi95/Meta-Llama-3.1-8B-Claude — дообученная версия Llama 3.1 8B Instruct, созданная Undi95 на примерах диалогов и инструкций, сформированных на основе ответов Claude Opus и Sonnet. По карточке, модель обучена на 9 млн токенов из перечисленных наборов данных за два прохода; она использует архитектуру Llama для генерации текста и диалогов. Подходит для чат-ответов и выполнения инструкций в формате Llama 3. В репозитории указаны веса Safetensors и контекстное окно 131 072 токена. Карточка не приводит отдельной оценки качества или подробных ограничений; результаты могут отличаться от исходных моделей Claude. Лицензия в предоставленных данных не указана.

gaverfraxz/Meta-Llama-3.1-8B-Instruct-HalfAbliterated-DELLA — текстовая модель на архитектуре Llama, созданная методом слияния DELLA на основе Meta-Llama-3.1-8B и двух инструктивных вариантов: Meta-Llama-3.1-8B-Instruct и его версии abliterated от mlabonne. Модель рассчитана на генерацию текста и диалоговые ответы; слияние сочетает instruct-модель с вариантом, у которого ослаблены ограничения на ответы. Модель содержит 7,5 млрд параметров, работает с текстом и имеет контекстное окно до 131 072 токенов. Для запуска предусмотрена библиотека Transformers, веса опубликованы в формате safetensors. Лицензия — llama3.1. Слияние с abliterated-вариантом означает, что защитные ограничения могут быть ослаблены; качество и поведение на конкретных запросах могут отличаться от исходной instruct-модели.

RedHatAI/Meta-Llama-3.1-8B-Instruct-quantized.w4a16 — это квантизированная версия Meta-Llama-3.1-8B-Instruct, разработанная Neural Magic на базе модели Meta. Модель предназначена для генерации текста и диалоговых сценариев в формате ассистента, включая коммерческое и исследовательское применение на английском языке. Она принимает текст на вход и генерирует текст на выходе, поддерживает чатовый режим и может использоваться с backend vLLM, включая OpenAI-совместимую службу. Модель имеет архитектуру LlamaForCausalLM и содержит 8 миллиардов параметров в исходной версии. Веса линейных операторов трансформерных блоков квантизированы в формат INT4 с симметричным покомпонентным масштабированием для групп по 128 параметров. По сравнению с представлением FP16 это примерно на 75% снижает размер модели на диске и требования к памяти GPU. Квантизация выполнена с использованием AutoGPTQ и калибровочного набора Neural Magic. В README приведены результаты восстановления качества относительно неквантизированной версии: 93,0% для Arena-Hard, 98,9% для OpenLLM v1, 96,1% для OpenLLM v2, 99,7% для HumanEval pass@1 и 97,4% для HumanEval+ pass@1. К сильным сторонам относятся уменьшенные требования к памяти и возможность эффективного развертывания при сохранении большей части качества исходной instruct-модели. Ограничением является заявленная область применения преимущественно на английском языке; использование на других языках указано как выходящее за рамки назначения, несмотря на наличие нескольких языков в метаданных карточки. Лицензия — Llama3.1; также необходимо соблюдать ограничения исходной лицензии Meta и применимые законы и нормы.

Meta-Llama-3-8B-Instruct-abliterated-v3-IMat-GGUF — это GGUF-квантизованная версия модели failspy/Meta-Llama-3-8B-Instruct-abliterated-v3, подготовленная пользователем legraphista с использованием llama.cpp. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через совместимые инструменты, такие как llama.cpp. В основе лежит модель размером 8 миллиардов параметров с исходным форматом BF16 и архитектурой семейства Meta Llama 3. Репозиторий содержит варианты с точностью от 1 до 16 бит, включая BF16, FP16, Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и Q2_K. Для ряда вариантов применена IMatrix-квантизация, призванная лучше сохранять качество при уменьшении размера модели. Доступны файлы размером примерно от 3,18 до 16,07 ГБ; точные поддерживаемые языки и размер контекстного окна в README не указаны. Сильные стороны модели — выбор разных уровней квантизации, возможность локального запуска и снижение требований к памяти по сравнению с полноразмерными вариантами. При этом более агрессивная квантизация может приводить к снижению качества, а конкретные характеристики зависят от выбранного файла. Модель распространяется по лицензии Llama 3; условия использования следует уточнять в тексте этой лицензии.