II.6Документация и сопровождение разработки

Eric111/Mistral-7B-Instruct-v0.2_openchat-3.5-0106 — диалоговая языковая модель, созданная слиянием Mistral AI и OpenChat с помощью mergekit. В слиянии использован метод SLERP; базовая модель — Mistral-7B-Instruct-v0.2, а веса сохранены в формате bfloat16. Модель предназначена для генерации текста в диалоге и ответов на инструкции. Она содержит 7,1 млрд параметров, построена на плотной архитектуре Mistral и поддерживает контекст до 32 768 токенов. Лицензия — Apache-2.0.

wang7776/Mistral-7B-Instruct-v0.2-sparsity-30-v0.1 — разреженная версия чат-модели Mistral-7B-Instruct-v0.2, созданная методом Wanda с целевой разреженностью 30%. В карточке сказано, что pruning выполнен без дообучения и изменения весов. Модель основана на Mistral-7B-Instruct-v0.2; её архитектура — плотный трансформер MistralForCausalLM с Grouped-Query Attention и Sliding-Window Attention. Репозиторий содержит веса Safetensors; в метаданных указаны 7,1 млрд параметров и контекст до 32 768 токенов. Модель предназначена для диалогов и генерации ответов по инструкциям, подаваемым в формате Mistral с маркерами [INST] и [/INST]. Она принимает текст и генерирует текст. Карточка не задаёт основной язык модели. Лицензия — Apache-2.0. По заявлению карточки, разреживание сохраняет конкурентоспособное качество, но конкретные результаты оценки не приведены. У модели нет встроенных механизмов модерации, поэтому её ответы могут требовать отдельной проверки и фильтрации.

Mistral-7B-Instruct-v0.3-GGUF — набор квантизированных GGUF-версий модели Mistral-7B-Instruct-v0.3 от Mistral AI, подготовленный и опубликованный bartowski. Квантизация выполнена с использованием llama.cpp и метода imatrix; доступны варианты от IQ1 и IQ2 до Q8_0, различающиеся размером файла, требованиями к памяти и качеством генерации. Модель предназначена для генерации текста и выполнения инструкций в локальных приложениях на базе llama.cpp и совместимых инструментов. Модель подходит для диалоговых сценариев, ответов на запросы и других задач текстовой генерации. Для работы используется формат запроса <s>[INST] {prompt} [/INST]</s>; системные сообщения не поддерживаются. В README не указаны контекстное окно, поддерживаемые языки и точная архитектура базовой модели, поэтому эти характеристики нельзя достоверно определить по имеющимся данным. Более высокие уровни квантизации обычно обеспечивают лучшее качество, а низкие позволяют снизить потребление памяти, но сопровождаются заметным ухудшением качества. Распространение указано под лицензией Apache-2.0.

Mistral-7B-Instruct-v0.3-GPTQ-4bit — это квантизированная версия инструкционной языковой модели Mistral-7B-Instruct-v0.3, разработанной Mistral AI и опубликованной в каталоге RedHatAI. Модель предназначена для генерации текста и выполнения задач по инструкциям, включая ответы на вопросы, рассуждения, решение математических задач и работу с типовыми тестовыми запросами. Она работает с текстовыми данными; сведения о поддерживаемых языках и размере контекста в README не указаны. В модели применена весовая квантизация GPTQ до 4 бит с group_size=128. Указано, что квантизация обеспечивает восстановление 99,75% точности относительно неквантизированной версии. Средняя точность на наборе тестов Open LLM Leaderboard составляет 65,05%; приведены результаты для ARC, MMLU, HellaSwag, Winogrande, GSM8K и TruthfulQA. Сильными сторонами являются снижение требований к памяти и возможность оптимизированного инференса с использованием Marlin mixed-precision kernels в vLLM. К ограничениям относятся потенциальная потеря качества по сравнению с полной точностью и отсутствие в README подробностей о фактических требованиях к оборудованию, языках и контексте. Модель распространяется по лицензии Apache-2.0. README также указывает готовность к использованию в vLLM в качестве сервера инференса.

Mistral-7B-v0.1 — предварительно обученная генеративная языковая модель команды Mistral AI с плотной архитектурой Transformer и примерно 7,1 млрд параметров. Она предназначена для генерации продолжения текста и служит базовой моделью для дальнейшей адаптации под конкретные задачи. Модель использует Grouped-Query Attention, Sliding-Window Attention и токенизатор Byte-fallback BPE. Родной контекст составляет 32 768 токенов. Карточка указывает английский язык; модель доступна в форматах PyTorch и safetensors и рассчитана на работу с библиотекой Transformers. По заявлению разработчиков, на проверенных ими бенчмарках модель превосходила Llama 2 13B. Это базовая модель без механизмов модерации, поэтому сгенерированный текст может быть нежелательным или небезопасным. Лицензия — Apache-2.0.

Это объединённая модель MaziyarPanahi, созданная методом SLERP на основе Mistral-7B-Instruct-v0.2 и Mistral-7B-v0.1-sharded. Она предназначена для генерации текста в диалогах и выполнения инструкций. Модель использует плотную архитектуру MistralForCausalLM и содержит 7,1 млрд параметров; длина контекста — до 32 768 токенов. Весы опубликованы в формате Safetensors. Модель принимает текст и выдаёт текст. Метаданные не определяют конкретные языки, поэтому их нельзя указать. Репозиторий распространяется по лицензии Apache-2.0. README описывает состав и параметры слияния, но не приводит сравнительных оценок качества или подробных ограничений применения.

Mistral-7B-v0.2-OpenHermes — языковая модель macadeliccc, дообученная методом SFT на базе alpindale/Mistral-7B-v0.2. Модель с плотной архитектурой MistralForCausalLM содержит 7,1 млрд параметров и рассчитана на генерацию текста и диалоговое взаимодействие; шаблон запросов — ChatML. В карточке отмечена пригодность модели для сценариев RAG. Её можно использовать для ответов на вопросы и генерации текста в диалоговых приложениях; для конкретной базы знаний автор рекомендует дополнительное дообучение. Заявлена длина контекста 32 768 токенов. Обучение выполнено на наборе OpenHermes-2.5 с использованием Unsloth и TRL; README приводит результаты нескольких бенчмарков, но не описывает протокол оценки полностью. Модель работает с текстом и поддерживает английский язык. Опубликованные веса доступны в формате Safetensors; в README также упомянуты варианты квантования GGUF, AWQ, HQQ-4bit и ExLlamaV2. Лицензия — Apache-2.0.

Mistral-MBX-7B-slerp — языковая модель на 7,1 млрд параметров, созданная AutoSynthetix AI слиянием Mistral-7B-v0.1 и MBX-7B-v3 методом SLERP с помощью LazyMergekit. Модель предназначена для генерации текста и может использоваться в приложениях, которым нужны ответы и продолжение текста на основе текстового запроса. Модель использует плотную архитектуру MistralForCausalLM и поддерживает контекст длиной до 32 768 токенов. Веса доступны в формате safetensors; метаданные указывают лицензию OpenRAIL, а README также упоминает лицензии Apache 2.0 для исходных моделей и LGPL-3.0 для MergeKit, поэтому условия использования следует сверять по карточке модели и лицензиям компонентов. README не приводит сведения о языковой специализации или оценках качества.

Mistral-Narwhal-7b — разговорная языковая модель на основе Mistral 7B, созданная путём слияния Dolphin 2.1 и Zephyr 7B Alpha. Модель предназначена для генерации текста и диалоговых сценариев; её архитектура — плотная MistralForCausalLM, размер — 7,1 млрд параметров, контекст — до 32 768 токенов. Репозиторий содержит веса PyTorch и safetensors. Модель может использоваться для диалоговых помощников, ответов на вопросы и генерации текста. В карточке указана лицензия Apache-2.0, однако README также требует учитывать лицензии исходных моделей Dolphin 2.1 и Zephyr 7B Alpha.

Mistral-Nemo-Instruct-2407-FP8 — инструкционная авторегрессионная плотная transformer-модель объёмом 12 млрд параметров, разработанная совместно Mistral AI и NVIDIA. Репозиторий Furiosa AI содержит вариант модели RedHatAI/Mistral-Nemo-Instruct-2407-FP8, подготовленный для запуска на аппаратной платформе FuriosaAI RNGD с использованием Furiosa-LLM. Модель принимает текст и генерирует текст, поддерживает диалоги с ролями system, user и assistant и предназначена для обычной, нерассуждающей генерации ответов в ассистентских сценариях. Линейные веса слоёв Transformer статически квантизованы в FP8, активации динамически квантизуются в FP8 для каждого токена во время инференса, а KV-кэш сохраняется в 16-битной точности. На RNGD используется tensor parallelism с размером 16 PE, что соответствует двум картам RNGD. Основной поддерживаемый стек в этом репозитории — Furiosa-LLM, однако исходная модель также может запускаться через vLLM, SGLang и Transformers. Указан английский язык; сведения о размере контекста и других языках отсутствуют. Модель подходит для чат-ботов, генерации текста и интеграции через OpenAI-совместимый API. К её сильным сторонам относятся инструкционная настройка, FP8-квантизация для эффективного инференса и поддержка специализированного ускорителя FuriosaAI RNGD. Ограничения включают нерassуждающий характер модели, зависимость данного варианта от Furiosa-LLM и оборудования RNGD, а также отсутствие в предоставленных данных подробных оценок качества. Лицензия — Apache-2.0.

mistralopithecus-v1-dpo-7b-Mistral-7B-Instruct-v0.1 — чат-модель на базе архитектуры Mistral, созданная слиянием Mistral AI и DopeorNope/mistralopithecus-v1-dpo-7b методом SLERP. Модель содержит 7,1 млрд параметров, использует формат safetensors и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации текста в ответ на инструкции и диалоговые запросы. Её можно применять для создания чат-ботов и ведения диалогов на естественном языке. В README указан тип объединения и параметры смешивания слоёв внимания и MLP; модель распространяется по лицензии Apache-2.0.

Mistral-v0.3-7B-ORPO — языковая модель llmat для генерации текста и диалогового общения. Она дообучена методом ORPO на базе unsloth/mistral-7b-v0.3-bnb-4bit с использованием Unsloth и библиотеки TRL. Модель построена на плотной архитектуре MistralForCausalLM и содержит 7,1 млрд параметров. Она принимает текст и генерирует текст; заявленная длина контекста — 32 768 токенов. В метаданных указан английский язык. Модель предназначена для текстовых запросов и чата. Модель распространяется по лицензии Apache-2.0. README не приводит результаты оценки качества или подробности обучающих данных, поэтому пригодность для конкретных задач следует проверять отдельно.

MixTAO-7Bx2-MoE-Instruct-v7.0 — инструктивная языковая модель семейства Mixtral, опубликованная пользователем mixtao на Hugging Face. Она использует архитектуру смеси экспертов (MoE) и предназначена для генерации текста в ответ на инструкции и сообщения в чате. Карточка описывает шаблон диалога, в котором роли system, user и assistant задают контекст и порядок реплик. В метаданных указаны 7,1 млрд параметров, контекст до 32 768 токенов и формат safetensors. Модель можно применять для диалога, ответов на вопросы и других задач генерации текста. README приводит результаты Open LLM Leaderboard, включая среднюю оценку 76,55 и оценки на отдельных тестах рассуждения и понимания текста. Лицензия — Apache-2.0. Языки обучения или целевого применения в доступных данных не обозначены.

Это преобразованная для MLX 4-битная версия Mixtral-8x22B-v0.1, опубликованная сообществом mlx-community; конвертацию выполнил Prince Canuma с помощью mlx-lm 0.4.0. Модель относится к архитектуре Mixtral с разреженной смесью экспертов (MoE) и предназначена для генерации текста, в том числе диалоговых ответов и продолжения текстовых запросов. В метаданных указаны 22 млрд параметров и контекст до 65 536 токенов. Версия использует 4-битное представление весов в формате safetensors и ориентирована на запуск через MLX на совместимом оборудовании Apple. Карточка перечисляет английский, французский, итальянский, немецкий и испанский языки. Репозиторий распространяется по лицензии Apache-2.0. Качество и скорость генерации зависят от оборудования и выбранных настроек MLX; подробности о сильных сторонах и ограничениях исходной модели следует сверять с её карточкой.

Карточка модели jduhmbd/Mixtral-8x7B-Instruct-v0.1-custom на Hugging Face совпадает с карточкой kallam/Mixtral-8x7B-It-v0.1, поэтому описание составлено по ней. kallam/Mixtral-8x7B-It-v0.1 — диалоговая instruction-модель на основе Mixtral-8x7B от Mistral AI. Это генеративная разреженная архитектура Mixture of Experts, предназначенная для выполнения инструкций и ведения диалога. Модель поддерживает контекст до 32 768 токенов и, согласно README, предназначена для запуска через vLLM; в репозитории также приведены сведения о совместимости с Transformers, хотя карточка предупреждает, что веса пока нельзя непосредственно инициализировать через HF Transformers. Файлы представлены в формате safetensors; лицензия — Apache 2.0. Модель подходит для диалоговых помощников, ответов на инструкции и генерации текста на французском, итальянском, немецком, испанском и английском языках. README описывает её как демонстрацию возможностей дообучения базовой модели и отмечает высокие результаты Mixtral-8x7B в сравнении с Llama 2 70B на проверенных авторами бенчмарках. У модели нет встроенных механизмов модерации, поэтому ответы могут требовать внешних ограничителей и проверки.

kallam/Mixtral-8x7B-It-v0.1 — диалоговая instruction-модель на основе Mixtral-8x7B от Mistral AI. Это генеративная разреженная архитектура Mixture of Experts, предназначенная для выполнения инструкций и ведения диалога. Модель поддерживает контекст до 32 768 токенов и, согласно README, предназначена для запуска через vLLM; в репозитории также приведены сведения о совместимости с Transformers, хотя карточка предупреждает, что веса пока нельзя непосредственно инициализировать через HF Transformers. Файлы представлены в формате safetensors; лицензия — Apache 2.0. Модель подходит для диалоговых помощников, ответов на инструкции и генерации текста на французском, итальянском, немецком, испанском и английском языках. README описывает её как демонстрацию возможностей дообучения базовой модели и отмечает высокие результаты Mixtral-8x7B в сравнении с Llama 2 70B на проверенных авторами бенчмарках. У модели нет встроенных механизмов модерации, поэтому ответы могут требовать внешних ограничителей и проверки.

Модель vicky4s4s/Mixtral-instruct-56B — разговорная языковая модель на архитектуре Mixtral, опубликованная Vignesh. Карточка описывает её как instruct-версию Mixtral-8x7B: разреженную Mixture of Experts для генерации текста и диалога. Метаданные указывают 7,1 млрд параметров и контекст до 32 768 токенов; доступны веса в safetensors и интерфейс чата. Модель предназначена для диалоговых ответов и генерации текста по инструкциям. В карточке приведён пример использования через Transformers и шаблон диалога Mixtral. Языковые метки охватывают английский, французский, итальянский, немецкий и испанский; датасеты карточки включают UltraChat 200K и LLaVA-Instruct-150K. Лицензия — Apache-2.0. В README отмечено, что веса происходят из оригинального релиза Mixtral, но формат и имена параметров изменены; также указана несовместимость с прямой инициализацией через Hugging Face Transformers. Модель не имеет встроенных механизмов модерации, поэтому её ответы могут требовать внешних ограничителей. Название репозитория заявляет 56B, однако метаданные указывают 7,1 млрд параметров, поэтому размер описан по метаданным.

liminerity/mm4.ascii.star — языковая модель семейства Llama, разработанная liminerity и дообученная на основе liminerity/mm4.star. Модель предназначена для генерации текста и диалогового общения; при обучении использовались наборы Alpaca-Star и alpaca-star-ascii. Модель имеет плотную архитектуру LlamaForCausalLM и содержит 2,7 млрд параметров. Контекстное окно составляет 32 768 токенов. В карточке указано обучение с использованием Unsloth и TRL. Лицензия — Apache-2.0. Карточка не описывает отдельные гарантии качества или ограничения применения; результаты генерации могут зависеть от формулировки запроса и данных дообучения.

A1rboy/model — дообученная языковая модель, разработанная A1rboy на базе unsloth/DeepSeek-R1-Distill-Qwen-7B-unsloth-bnb-4bit. Она предназначена для генерации текста и диалоговых сценариев; в метаданных также отмечен интерфейс вызова инструментов. Модель использует плотную архитектуру Qwen2ForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 131 072 токенов. Для обучения применялись Unsloth и библиотека Hugging Face TRL. Карточка указывает английский язык. Модель принимает текст и генерирует текст. Она распространяется по лицензии Apache-2.0. Карточка не описывает специализированную область применения или отдельные ограничения качества.

Sakalti/model-3-decem — языковая модель для генерации текста и диалогов, созданная слиянием моделей методом TIES с помощью mergekit. В качестве базовой модели указана Sakalti/model-3; в слиянии также участвовала qfq/Qwen2.5-7B-Instruct-20241204-114939. Модель построена на архитектуре Qwen2, содержит 7,1 млрд параметров и принимает текст, выдавая текст. Для работы с весами используется формат safetensors; заявленная длина контекста — 131 072 токена. Модель предназначена для диалоговых сценариев и генерации ответов, а метаданные также отмечают интерфейс вызова инструментов. В карточке не приведены сведения о языках обучения или качествах модели. Лицензия в предоставленных данных не указана.

Monarch-7B — языковая модель mlabonne, полученная слиянием моделей OmniTruthyBeagle-7B-v0, NeuBeagle-7B и NeuralOmniBeagle-7B с помощью LazyMergekit. В конфигурации также указан Mistral-7B-v0.1 как базовая модель; слияние выполнено методом dare_ties. Модель построена на архитектуре Mistral с плотной структурой и содержит 7,1 млрд параметров. Модель предназначена для генерации текста и решения широкого круга языковых задач. В карточке приведены оценки на наборах Nous и Open LLM Leaderboard; заявлено первое место на YALL leaderboard на дату обновления 13 февраля 2024 года. Контекстное окно составляет 32 768 токенов. Лицензия CC-BY-NC-4.0 разрешает использование с указанием авторства, но некоммерческое использование בלבד.

MotherEarth-Hermes-8B — объединённая диалоговая языковая модель, созданная с помощью mergekit методом SLERP на основе MotherEarth/MotherEarth-1.0-8B и mlabonne/Hermes-3-Llama-3.1-8B-lorablated. Она построена на плотной архитектуре LlamaForCausalLM, содержит 7,5 млрд параметров и рассчитана на контекст до 8192 токенов. Модель предназначена для генерации текста и ведения диалогов. В конфигурации с V-образным распределением весов вклад Hermes усилен на входе и выходе, а средние слои ориентированы на WizardMath. Сведения о лицензии в предоставленных данных отсутствуют.

Kaoeiri/MS_Moingooistral-2409-22B — объединённая языковая модель, созданная Kaoeiri с помощью mergekit методом task arithmetic на основе unsloth/Mistral-Small-Instruct-2409 и Kaoeiri/Moingooistrial-22B-V1-Lora. Это плотная авторегрессионная модель семейства Mistral с архитектурой MistralForCausalLM, размером 22 млрд параметров и контекстом до 131 072 токенов. Модель предназначена для генерации текста и диалогов; метаданные также отмечают интерфейс вызова функций. Репозиторий содержит веса safetensors; в README указаны bfloat16 и объединённый токенизатор. Сведения о конкретных языках и специализации по предметной области в доступных данных отсутствуют. Лицензия в предоставленных источниках не указана.

korvo/MS-RandomMergeTest_v3-TIES-22B — объединённая 22-миллиардная языковая модель на архитектуре Mistral, собранная с помощью mergekit. В основе слияния лежит concedo/Beepo-22B; в него также вошли anthracite-org/magnum-v4-22b, allura-org/MS-Meadowlark-22B, crestf411/MS-sunfall-v0.7.0, TheDrummer/Cydonia-22B-v1.3, TheDrummer/Cydonia-22B-v1.2 и DigitalSouls/BlackSheep-DigitalSoul-22B. Использован метод слияния della_linear. Модель предназначена для генерации текста и диалоговых сценариев. Она принимает текст и выдаёт текст, поддерживает контекст длиной до 32 768 токенов и распространяется в формате safetensors для библиотеки Transformers. В метаданных также отмечен интерфейс вызова инструментов. Лицензия в предоставленных данных не указана.

zelk12/MT1-Gen3-BB-gemma-2-MTg2S2-9B — объединённая языковая модель на архитектуре Gemma 2, созданная с помощью mergekit методом SLERP из zelk12/MT-Gen2-gemma-2-9B и allknowingroger/Gemmaslerp2-9B. Модель содержит 9 млрд параметров и предназначена для генерации текста и диалогового общения; поддерживает чатовый сценарий. Нативное контекстное окно — 8192 токена. Модель принимает текст и генерирует текст. Репозиторий использует формат safetensors, а карточка указывает библиотеку Transformers. Лицензия в предоставленных данных не указана.

zelk12/MT2-Gen2-gemma-2-9B — слитая модель генерации текста на основе Gemma 2, созданная с помощью mergekit методом SLERP из zelk12/MT2-Gen2-BGMAMU-gemma-2-9B и zelk12/MT2-Gen2-IMM-gemma-2-9B. Модель разработана автором репозитория zelk12; README указывает, что в объединении использована конфигурация с коэффициентом t=0,25 и типом данных bfloat16. Модель с архитектурой Gemma2ForCausalLM и 9 млрд параметров предназначена для генерации текста и диалогового общения. Её контекст составляет 8192 токена. В README приведены результаты оценки на Open LLM Leaderboard, включая IFEval и BBH; эти показатели дают ориентир по следованию инструкциям и решению сложных задач, но не гарантируют качество в конкретном сценарии. Метаданные указывают библиотеку Transformers и формат весов safetensors. Сведения о лицензии и поддерживаемых естественных языках в предоставленных данных отсутствуют, поэтому условия использования и языковую специализацию определить нельзя.

zelk12/MT-Merge2-MA-gemma-2-MT4g2MTg2-9B — объединённая модель генерации текста на архитектуре Gemma 2, созданная методом SLERP с помощью mergekit из zelk12/MT4-Gen2-gemma-2-9B и zelk12/MT-Gen2-gemma-2-9B. Модель предназначена для текстовых ответов и диалогового общения; размер составляет 9 млрд параметров, нативная длина контекста — 8192 токена. Репозиторий содержит веса Safetensors, а README также описывает вариант GGUF Static. Модель подходит для чат-ботов и генерации текста в приложениях на базе Transformers. Метаданные не определяют целевые языки или специализированные предметные области, поэтому их нельзя уверенно указать. В README приведены параметры слияния: SLERP, тип данных bfloat16 и коэффициент t=0.25. Сведения о лицензии и конкретных ограничениях качества в доступных материалах отсутствуют.

multi-qa-mpnet-base-dot-v1 — модель для создания текстовых эмбеддингов, разработанная командой Sentence Transformers в рамках проекта Hugging Face Community Week. Она кодирует вопросы, предложения и абзацы в плотные векторы размерностью 768 для семантического поиска: по запросу можно находить релевантные фрагменты текста. Модель основана на MPNet-base и дообучена на примерно 215 млн пар «вопрос — ответ» из разных источников с контрастивной целью обучения. Для сравнения векторов используется скалярное произведение; эмбеддинги не нормализуются. Модель рассчитана прежде всего на поиск ответов и документов по вопросам и текстовым запросам. Она поддерживает английский язык, построена на MPNet и доступна в форматах PyTorch, Safetensors, ONNX и OpenVINO. Максимальная длина входа составляет 512 токенов, однако обучение проводилось на текстах длиной до 250 токенов, поэтому качество на более длинных фрагментах может снижаться. Условия лицензии в предоставленных данных не описаны.

MyNewModel-ReleaseRepo — выпуск MyNewModel от небольшой команды разработчиков. Это плотная авторегрессионная языковая модель семейства Llama для генерации текста; в README описаны улучшения после более длительного этапа постобучения и изменения состава данных. Модель предназначена для диалогового помощника, многошаговых рассуждений, решения математических задач, ответов на вопросы и работы с инструментами через формат function calling. Авторы сообщают об улучшении результатов на задачах рассуждения и программирования, а также о снижении ошибок в коротких фактологических ответах. Для сложных задач модель использует больше токенов рассуждения; README приводит пример роста доли решённых олимпиадных задач по алгебре с 61% до 79%. В метаданных указаны библиотека Transformers, формат PyTorch и лицензия Apache-2.0. Размер модели, контекстное окно и поддерживаемые естественные языки в предоставленных данных не описаны.

MysticGem-v1.3-Guanaco-L2-13B — объединённая текстовая языковая модель на базе Llama 2, подготовленная автором репозитория v000000 с помощью mergekit. В линейное слияние вошли v000000/MysticGem-v1.3-L2-13B и Mikael110/llama-2-13b-guanaco-qlora; в README также сказано, что к MysticGem 1.3 применялась LoRA. Архитектура — плотная LlamaForCausalLM, размер — 12,9 млрд параметров, родной контекст — 4096 токенов. Модель предназначена для генерации текста и диалогового использования с шаблонами запросов Alpaca и Metharme. В репозитории доступны веса Safetensors; README упоминает также варианты GGUF и GGUF imatrix, подготовленные mradermacher. Язык лицензии и условия использования в предоставленных данных не описаны.