II.1Анализ требований и архитектура ПО

Gemma 4 12B JANG4M CRACK — мультимодальная модель на основе Google Gemma 4 12B IT, опубликованная dealignai. Это дообученная и квантизованная версия с плотной унифицированной архитектурой для обработки текста и изображений; в README также заявлена поддержка аудиовхода. Модель предназначена для диалогов, ответов на вопросы, многошаговых рассуждений, генерации кода и работы с визуальными входами. Квантизация JANG_4M использует 8-битные веса для attention и 4-битные для MLP. Авторы сообщают о сохранении возможностей базовой модели, включая vision и audio, и приводят результаты собственных проверок MMLU и HarmBench. Метаданные указывают библиотеку MLX и формат safetensors; для запуска README требует Apple Silicon и vMLX с поддержкой Gemma 4. Модель описана как abliterated: авторы заявляют об удалении отказов и высокой доле выполнения запросов из категорий HarmBench. Это важное ограничение для сценариев, где требуется безопасное ограничение ответов. Лицензия — Gemma; авторы указывают исследовательское назначение и возлагают на пользователей ответственность за соблюдение применимых законов.

moebiusT7/gemma-4-26b-a4b-mobius-custom-c1 — это модель для генерации текста на базе Google Gemma-4 26B-A4B-it, представленной в формате GGUF с QAT q4_0. Архитектура MoE использует 26 млрд параметров при примерно 4 млрд активных параметров. Модель ориентирована на английский и японский языки и рассчитана на запуск через llama.cpp, LM Studio, Ollama или совместимый OpenAI API-сервер. Указанный разработчиком рабочий контекст — 32 768 токенов; рекомендуется ограничивать reasoning budget значением 4096. Для работы на полном контексте требуется около 14,7 ГБ VRAM, поэтому практически необходима свободная видеокарта с 16 ГБ памяти. Модель предназначена для ответов на вопросы, суммаризации, работы с переданным контекстом и сценариев, где важны маршрутизация запросов, запрос уточнений и отказ от ответа при недостатке данных или небезопасных запросах. В поставляемой конфигурации используются системный промпт L0 Essentials compact v1.1, детерминированный защитный слой для пустых и некоторых небезопасных запросов, а также опциональный RCGov для управления retrieved-контекстом. По заявленным тестам модель показала 0 из 12 выдуманных ответов на вопросы с ложными предпосылками, 9 из 9 корректных отказов от персональных рекомендаций в высокорисковых ситуациях, 60 из 60 обычных ответов без лишних уточнений и скорость генерации около 155,7 токена в секунду на RTX 5070 Ti. Ограничение состоит в том, что сами веса Google не содержат governance-компонентов: при запуске GGUF без специального промпта и обвязки работает обычная Gemma-4. Модель распространяется по лицензии Gemma.

granite-4.2-8b-MLX-8bit — 8-битная квантованная версия модели granite-4.2-8b, разработанной командой IBM Granite (ibm-granite). Квантование выполнено командой LM Studio с использованием mlx_lm, а модель оптимизирована для работы на устройствах Apple Silicon. Модель предназначена для генерации текста и поддерживает сценарии рассуждений, «thinking» и вызова инструментов. В README указаны следующие языки: английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский. Модель имеет 8 миллиардов параметров в исходной версии; конкретное значение контекстного окна и сведения о мультимодальности не указаны. Ключевые преимущества — сниженное потребление памяти благодаря 8-битному представлению и оптимизация для Apple Silicon. Ограничения включают зависимость от совместимой MLX-среды и возможное появление неточного, вредного или неподходящего контента. Модель распространяется по лицензии Apache-2.0. LM Studio не является разработчиком или владельцем модели и не гарантирует её точность, безопасность, доступность или соответствие конкретным требованиям.

GWQ-9B-Preview — дообученная на синтетическом наборе Chain of Continuous Thought языковая модель семейства Gemma 2 от prithivMLmods. Это плотная decoder-only Transformer-модель с 9 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия на английском языке. Заявленные сценарии включают ответы на вопросы, суммаризацию, рассуждения, творческое письмо и выполнение инструкций. Модель принимает текст и выдаёт текст. Использует архитектуру Gemma2ForCausalLM, формат весов safetensors и контекст длиной до 8192 токенов. Лицензия — Gemma. Карточка предупреждает о возможных фактических ошибках и предвзятости, а также о требованиях к вычислительным ресурсам для модели такого размера.

Hermes-3-Llama-3.1-405B-GGUF — это квантизированная версия текстовой генеративной модели Hermes-3-Llama-3.1-405B, разработанной NousResearch и подготовленной в формате GGUF пользователем bartowski. Модель предназначена для диалогов, генерации текста, ролевых сценариев, следования инструкциям, работы с ChatML, function calling и вывода в формате JSON. Указана поддержка английского языка и текстовая модальность. Модель основана на архитектуре Llama 3.1 и содержит 405 миллиардов параметров. Доступны варианты квантизации Q8_0, Q6_K, Q5_K_M, Q4_K_L, Q4_K_M, Q4_K_S, IQ4_XS и другие, размером примерно от 93,5 до 431,24 ГБ. Более высокие уровни квантизации обычно обеспечивают лучшее качество, но требуют значительно больше оперативной или видеопамяти; низкие уровни позволяют экономить ресурсы ценой снижения качества. Квантизации созданы с использованием llama.cpp и imatrix, запуск рекомендуется через LM Studio. Сильными сторонами являются большой размер модели, поддержка инструкций, диалогового формата, function calling и JSON mode, а также широкий выбор вариантов квантизации. Ограничениями выступают исключительно текстовая специализация, заявленная языковая поддержка английского языка и очень высокие требования к памяти даже у компактных вариантов. Контекстное окно в представленном README не указано. Модель распространяется по лицензии llama3.

InnerILLM-0x00d0-Ox0dad0-Nous-Yarn-Mistral-7B-slerp — плотная языковая модель семейства Mistral на 7,1 млрд параметров, созданная InnerI объединением моделей NousResearch/Yarn-Mistral-7b-128k и InnerI/InnerILLM-0x00d0-Ox0dad0-nous-nous-v2.0-7B-slerp методом SLERP с помощью LazyMergekit. Она предназначена для генерации текста и диалоговых сценариев. Базовая модель Yarn-Mistral рассчитана на работу с длинным контекстом; для этой модели указано окно в 32 768 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0. README не описывает отдельные языковые специализации или результаты оценки качества.

ClaudioItaly/Inside-7B — объединённая плотная языковая модель семейства Qwen2, созданная автором репозитория с помощью mergekit и метода TIES на базе happzy2633/qwen2.5-7b-ins-v3. В объединение вошли AIDC-AI/Marco-o1 и prithivMLmods/QwQ-LCoT-7B-Instruct; модель содержит 7,1 млрд параметров и рассчитана на генерацию текста в диалоговом формате. Модель подходит для диалога, следования инструкциям и многошагового решения задач; максимальный контекст составляет 32 768 токенов. Модель опубликована в формате safetensors и доступна через библиотеку Transformers. Лицензия в предоставленных данных не указана.

K2-Horizon-MoVA-36B-A4B-GGUF — набор GGUF-квантизаций модели K2-Horizon-MoVA-36B-A4B, разработанной Institute of Foundation Models (IFM) при MBZUAI и выпущенной 3 сентября 2026 года. Модель предназначена для генерации текста, рассуждений и работы с длинным контекстом; заявлена поддержка английского языка. Формат GGUF ориентирован на запуск через llama.cpp и совместимые инструменты. Модель использует архитектуру k2_horizon и сочетает разреженную Mixture-of-Experts (MoE) с механизмом Mixture-of-Values (MoVA), применяющим разреженную маршрутизацию внутри attention. Всего предусмотрено около 36 млрд параметров, из которых примерно 4 млрд активируются для каждого токена. Архитектура включает 48 слоёв, 100 маршрутизируемых экспертов с 8 активными и одним общим экспертом на MoE-слой, а также 64 value-эксперта с 4 активными на attention-слой. Нативное контекстное окно составляет до 524 288 токенов. Доступны варианты от BF16 до низкобитных Q2 и IQ-квантизаций, что позволяет выбирать между качеством, размером файлов и требованиями к памяти. При этом активация только 4 млрд параметров на токен не означает, что модель требует память уровня 4 млрд параметров: все веса объёмом около 10–70 ГиБ должны находиться в RAM или VRAM, а память под KV-кэш и служебные расходы учитывается отдельно. Для загрузки GGUF необходима ветка model/K2Horizon форка llama.cpp от MBZUAI-IFM либо версия upstream после добавления поддержки архитектуры k2_horizon. Лицензия модели — Apache 2.0.

KangalKhan-RawEmerald-7B — языковая модель для диалогов и генерации текста, созданная Yuma42. Это слияние моделей argilla/CapybaraHermes-2.5-Mistral-7B и argilla/distilabeled-OpenHermes-2.5-Mistral-7B с помощью LazyMergekit. Модель построена на плотной архитектуре MistralForCausalLM и содержит 7,1 млрд параметров; заявленная длина контекста — 32 768 токенов. Модель предназначена для общения в формате ChatML, ответов на вопросы и генерации текста. В карточке приведены результаты оценки на Open LLM Leaderboard. Автор предупреждает, что варианты GGUF от стороннего автора могут иногда выдавать опечатки и рекомендует в таком случае вариант Q4_K_S GGUF. Модель распространяется по лицензии Apache-2.0.

KONI-Llama3-8B-20240630 — языковая модель, разработанная Donghun Yang из KISTI. Это продолженное предварительное обучение Llama 3 с 8 млрд параметров на корпусе объёмом 200 ГБ на корейском и английском языках, включающем научно-технические материалы. Модель использует авторегрессионную архитектуру Transformer и принимает текст, генерируя текст и код; контекст составляет 8192 токена. Модель предназначена для генерации текста и кода, а также для адаптации к разным задачам генерации естественного языка. В карточке указана предварительная версия от 30 июня 2024 года. Ограничения лицензии: CC-BY-NC-SA-4.0 и лицензия Llama 3; перед использованием следует соблюдать условия обеих лицензий и применимые правила использования Llama 3.

LeoScorpius-7B-Chat-DPO-Mistral-7B-Instruct-v0.1 — чат-модель, созданная MaziyarPanahi слиянием Mistral-7B-Instruct-v0.1 и LeoScorpius-7B-Chat-DPO методом SLERP. Она предназначена для генерации ответов на инструкции и ведения диалогов. Модель использует плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель принимает текст и генерирует текстовые ответы. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0. Метаданные не указывают языковую специализацию модели.

LeoScorpius-7B-Chat-DPO-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная слиянием mistralai/Mistral-7B-Instruct-v0.2 и viethq188/LeoScorpius-7B-Chat-DPO методом SLERP с помощью Mergekit. Модель семейства Mistral имеет плотную архитектуру MistralForCausalLM и около 7,1 млрд параметров. Модель предназначена для генерации текста в диалоговом формате и выполнения инструкций. Её можно использовать для ответов на вопросы, ведения беседы и создания текстовых черновиков. Поддерживается контекст до 32 768 токенов; файлы представлены в формате Safetensors. Модель распространяется по лицензии Apache-2.0. Карточка не приводит результатов оценки качества или специальных ограничений применения, поэтому качество ответов для конкретных сценариев следует проверять отдельно.

Ling-3.0-flash-GGUF — это набор GGUF-конвертаций модели Ling-3.0-flash, разработанной inclusionAI и опубликованной пользователем bloomer010 для запуска через llama.cpp. Модель предназначена для генерации текста, диалоговых и агентских сценариев, включая вызов инструментов, рассуждения и speculative decoding. В основе лежит гибридная архитектура KDA и gated MLA с Mixture-of-Experts на 512 экспертов: общий размер составляет около 124 млрд параметров, из которых активно примерно 5,1 млрд. Конвертации напрямую созданы из BF16 safetensors и включают блок MTP/NextN, поэтому отдельная drafter-модель для этого режима не требуется. Поддерживается контекст до 256K токенов; README не указывает набор языков и наличие мультимодальных возможностей. Доступны варианты квантования от BF16 и Q8_0 до сильно сжатых IQ1 и MXFP4_MOE, что позволяет адаптировать модель к разному объёму памяти. Качество обычно выше у крупных файлов, а малые варианты требуют меньших ресурсов, но могут сильнее терять точность и стабильность. Для эффективного speculative decoding также предлагаются отдельные DSpark draft-модели. Агентское использование в llama.cpp зависит от поддержки актуальных изменений, связанных с Ling parser и обработкой некорректных UTF-8-последовательностей; без них возможны сбои при вызове инструментов в незавершённых блоках рассуждений. Модель распространяется по лицензии MIT.

LLaDA2.2-mini — компактная по числу активируемых при инференсе параметров языковая модель InclusionAI из серии LLaDA2.2. Это диффузионная модель Mixture-of-Experts (MoE) с архитектурой LLaDA2MoeModelLM; метаданные указывают 1,2 млрд параметров, а карточка описывает 16 млрд общих параметров и 1,4 млрд активируемых при инференсе. Модель рассчитана на генерацию текста и диалог, включая многошаговое взаимодействие с инструментами и исправление ошибок. Контекстное окно составляет 128K токенов. Механизм Levenshtein Editing с управляющими токенами DELETE и INSERT позволяет удалять и вставлять фрагменты при генерации, а Block Routing ограничивает активацию MoE-экспертов на уровне блоков диффузии. В README рекомендованы Transformers версии 5.2.0 или новее; для длинноконтекстных сценариев с инструментами предлагается SGLang. Качество и скорость зависят от порогов денойзинга: низкие пороги могут ускорить инференс, но приводить к повторяющимся или нестабильным ответам. Модель распространяется по лицензии Apache-2.0. В предоставленных материалах языки обучения или поддерживаемые естественные языки не перечислены.

Карточка модели Enronld/llama3.1 на Hugging Face совпадает с карточкой meta-llama/Llama-3.1-8B, поэтому описание составлено по ней. Meta Llama 3.1 8B — авторегрессионная языковая модель на оптимизированной архитектуре Transformer с Grouped-Query Attention. Это базовая предварительно обученная версия семейства Llama 3.1; веса представлены в формате Safetensors и предназначены для генерации текста и последующей адаптации под разные задачи. Модель принимает текст и генерирует текст. Модель подходит для генерации естественного языка, создания диалоговых и прикладных систем после настройки, а также для подготовки синтетических данных. В карточке семейства заявлена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Для этой базовой версии README не заявляет оптимизацию под диалоговые сценарии: она отличается от instruction-tuned вариантов, которые обучались с SFT и RLHF. Разработчик — Meta. Для использования действует специальная коммерческая лицензия Llama 3.1 Community License и Acceptable Use Policy. Модель обучена на статическом наборе данных; качество и безопасность генерации могут различаться между языками, а применение на языках за пределами восьми заявленных требует дополнительной настройки и мер контроля.

nreHieW/Llama-3.1-8B-Instruct — копия Meta Llama 3.1 8B Instruct от Meta, опубликованная пользователем nreHieW. Это плотная авторегрессионная языковая модель семейства Llama с архитектурой LlamaForCausalLM и примерно 7,5 млрд параметров. Она предназначена для генерации текста и диалогового взаимодействия; заявленная длина контекста составляет 131 072 токена. Модель принимает текст и генерирует текст. README отсылает к репозиторию Meta для условий лицензии и рекомендует получить одобрение перед использованием; дополнительные сведения о языках и специализированных областях применения в предоставленных данных отсутствуют.

Llama-3.1-8B-Magpie-Align-SFT-v0.1 — языковая модель, созданная проектом Magpie-Align путём дообучения Meta Llama 3.1 8B. Для обучения использованы наборы Magpie-Pro-MT-300K-v0.1 и Magpie-Reasoning-150K; модель предназначена для диалогов и выполнения инструкций, включая задачи рассуждения. Она основана на плотной архитектуре LlamaForCausalLM, содержит 7,5 млрд параметров и имеет контекст длиной до 131 072 токенов. Модель работает с текстом и рассчитана прежде всего на английский язык. Авторы сообщают о результатах, сопоставимых с Llama-3.1-8B-Instruct при обучении только методом SFT; среди приведённых оценок — 24,79 LC и 25,05 WR на Alpaca Eval 2, а также 21,0 на Arena Hard. Для лучшего качества рекомендуется официальный шаблон чата Llama 3. Ограничения включают унаследованные от базовой модели возможные ошибки и ненадёжность ответов; результаты зависят от формулировки запроса. Лицензия — Meta Llama 3.1 Community License для модели; README также указывает на условия Meta Llama 3 Community License для данных.

Llama-3.1-Tulu-3-405B-DPO — большая языковая модель семейства Tülu 3, разработанная Allen Institute for AI (Ai2). Это плотная авторегрессионная модель на архитектуре Llama 3.1 с 403,7 млрд параметров, дообученная методом DPO на основе allenai/Llama-3.1-Tulu-3-405B-SFT. Она предназначена для диалогов и следования инструкциям, а также для широкого круга текстовых задач, включая математические рассуждения и выполнение заданий по заданным критериям. Контекстное окно составляет до 131 072 токенов; основной язык — английский. Модель подходит для создания чат-ассистентов, ответов на вопросы и решения сложных текстовых задач. Карточка приводит результаты оценки на нескольких бенчмарках, включая MATH, GSM8K и IFEval, и описывает её как модель с сильными результатами на разнообразных задачах. Для запуска доступны веса PyTorch и библиотека Transformers. Модель распространяется по Llama 3.1 Community License Agreement. Авторы отмечают, что обучение безопасности ограничено: без дополнительной фильтрации модель может выдавать проблемные ответы, особенно при соответствующих запросах. Для инференса также нужны значительные вычислительные ресурсы из-за размера модели.

donswt подготовил дообученную модель на архитектуре Llama 3.2 Instruct с 3,2 млрд параметров. Она предназначена для генерации текста и диалогового взаимодействия; в метаданных также заявлен интерфейс вызова инструментов. Модель обучалась с использованием Unsloth и библиотеки Hugging Face TRL, а в репозитории представлены веса в формате safetensors. Модель принимает текст и генерирует текст. Указанное в метаданных родительское семейство поддерживает контекст до 131 072 токенов. Модель распространяется по лицензии Apache-2.0.

DavidAU дообучил модель семейства Llama 3.3 для генерации текста с короткими рассуждениями, следуя стилю Claude Haiku, на 1700 примерах датасета TeichAI/claude-haiku-4.5-high-reasoning-1700x. Это плотная авторегрессионная модель на 7,5 млрд параметров с архитектурой LlamaForCausalLM и контекстом до 131 072 токенов; в карточке указано, что обучение затронуло около 2,05% параметров. Модель предназначена для диалогов, пошагового обдумывания запросов, объяснений, планирования и творческого письма, включая рассказы и ролевые сценарии. Карточка сообщает о поддержке нескольких языков, в том числе русского, английского, французского, немецкого, испанского, итальянского, португальского, китайского, японского и корейского. Возможны устаревшие знания и проблемы, унаследованные от Llama; качество и форматирование зависят от настроек генерации и уровня квантования. Лицензия — Apache-2.0.

Llama-3-8B-ProLong-64k-Base — длинноконтекстная языковая модель Princeton NLP, созданная авторами семейства ProLong на основе Meta Llama 3 8B Instruct. Модель продолжительно обучали на длинных текстах; в метаданных указан датасет princeton-nlp/prolong-data-64K, а число параметров составляет 7,5 млрд. Архитектура — плотная LlamaForCausalLM, веса представлены в safetensors; модель предназначена для генерации текста и диалогового взаимодействия. Модель рассчитана на сценарии, где нужно анализировать и генерировать текст с длинным контекстом. Метаданные указывают контекстное окно 65 536 токенов. README описывает семейство ProLong и приводит обучение моделей на данных до 512K токенов, но не подтверждает такое окно для данного 64k чекпойнта. Базовая модель ориентирована на английский язык; явного списка языков для этой версии нет. Разработчики сообщают о высокой производительности семейства ProLong на оценке HELMET, однако приведённое в README сравнение относится к основным instruct-моделям семейства, а не явно к этой Base-версии. Лицензия — Llama 3; перед использованием следует соблюдать её условия.

Llama 3 Tulu V2+DPO 70B — языковая модель-инструкция от Allen Institute for AI (AI2), созданная дообучением Llama 3 Tulu 2 70B на предпочтениях UltraFeedback методом DPO. Это плотная авторегрессионная модель семейства Llama с 69,5 млрд параметров, предназначенная для диалогов и выполнения пользовательских инструкций; принимает текст и генерирует текст. Основной язык — английский, а длина контекста составляет 2048 токенов. Модель подходит для диалоговых помощников, ответов на вопросы, следования инструкциям и генерации текста. В опубликованных оценках показаны результаты на тестах знаний, математики, программирования, следования инструкциям и предпочтений. Модель не проходила этап RLHF для безопасных ответов и не имеет встроенной фильтрации, поэтому может генерировать проблемный контент, особенно по прямому запросу. Выпущена под лицензией Apache 2.0; в карточке также отмечено наличие лицензии сообщества Meta Llama 3.

Sakalti/Magro-7b-v1.1 — объединённая модель для генерации текста и диалогового общения, созданная автором репозитория с помощью mergekit. В основе слияния лежит HuggingFaceH4/zephyr-7b-alpha; также включена Sakalti/magro-7B. Использован метод TIES, итоговые веса указаны в формате bfloat16. Модель построена на архитектуре Mistral с плотной причинно-языковой моделью примерно на 7,1 млрд параметров. Она принимает текстовые запросы и генерирует текстовые ответы; заявленная длина контекста — 32 768 токенов. Подходит для диалоговых приложений и генерации ответов. Лицензия — MIT.

Manticore 13B Chat Pyg — языковая модель для диалогового и инструкционного текстового взаимодействия, разработанная Open Access AI Collective. Данная версия распространяется в формате GGUF и является квантизированным вариантом исходной модели Manticore 13B Chat Pyg; квантизацию выполнил TheBloke. Модель основана на архитектуре LLaMA, содержит около 13 миллиардов параметров и предназначена для генерации текста по шаблону диалога Vicuna: ответов на вопросы, объяснений, инструкций и других чат-сценариев. В метаданных указан английский язык, а среди использованных наборов данных — коллекции ShareGPT, WizardLM, Alpaca, GPT4-LLM, ScienceQA, GSM8K и другие наборы для обучения инструкциям, диалогам, рассуждениям и программированию. Файлы GGUF доступны с различными уровнями квантизации от 2 до 8 бит, что позволяет выбирать баланс между размером, скоростью и качеством вывода. Модель совместима с llama.cpp и рядом сторонних интерфейсов и библиотек, включая text-generation-webui, KoboldCpp, LM Studio, llama-cpp-python и ctransformers, с поддержкой CPU+GPU-инференса. Мультимодальность и размер контекстного окна в README не указаны; модель предназначена для работы только с текстом. Лицензия обозначена как other, но ее конкретные условия не приведены, поэтому перед использованием необходимо проверить лицензию исходной модели и условия распространения квантизированных файлов.

Это 4-битная версия Meta-Llama-3.1-405B-Instruct, преобразованная сообществом mlx-community из формата исходной модели в формат MLX с помощью mlx-lm 0.16.0. Модель построена на плотной архитектуре LlamaForCausalLM и содержит 408 млрд параметров; она предназначена для генерации текста и диалогового использования на устройствах Apple Silicon, поддерживающих MLX. Модель принимает текстовые запросы и выдаёт текст. Контекстное окно составляет до 131 072 токенов. В карточке указана поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Качество и удобство локального запуска зависят от доступных вычислительных ресурсов; 4-битное представление снижает требования к памяти по сравнению с полной точностью. Модель распространяется по лицензии Llama 3.1, условия которой следует соблюдать при использовании.

ThomasBaruzier/Meta-Llama-3-8B-Instruct-GGUF — это версия модели Meta Llama 3 8B Instruct в формате GGUF, подготовленная пользователем ThomasBaruzier. Базовая модель разработана Meta и предназначена для генерации текста на основе инструкций и диалогового взаимодействия. Модель относится к текстовым генеративным моделям и ориентирована на англоязычные сценарии: ответы на запросы, ведение диалога и выполнение текстовых инструкций. В карточке указаны размер 8B, формат GGUF и английский язык; сведения о длине контекста, конкретной архитектуре, вариантах квантования и поддержке других модальностей отсутствуют. К сильным сторонам относятся специализированная настройка для следования инструкциям и возможность использования в экосистеме GGUF. Ограничения включают отсутствие мультимодальности и неполные сведения о конфигурации конкретной сборки; качество ответов и требования к ресурсам зависят от выбранного варианта GGUF. Модель распространяется по Meta Llama 3 Community License. При распространении материалов или производных продуктов требуется соблюдать условия лицензии, Acceptable Use Policy и требования Meta к атрибуции, включая указание «Built with Meta Llama 3» в применимых случаях.

MFANN-Llama3.1-Abliterated-SLERP-V5 — объединённая методом SLERP языковая модель, созданная разработчиком netcat420 с помощью mergekit на основе mlabonne/Meta-Llama-3.1-8B-Instruct-abliterated и netcat420/MFANNv0.25. Это плотная причинно-авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM и 7,5 млрд параметров, предназначенная для диалогов и генерации текста. Модель принимает текст и выдаёт текст; заявленный размер контекста — 131 072 токена. Модель рассчитана на интерактивные беседы и генерацию ответов. Базовая модель описана в каталоге как диалоговая Llama 3.1 8B Instruct с ослабленными ограничениями на ответы. Файлы представлены в формате safetensors; метаданные указывают библиотеку Transformers. Лицензия в предоставленных данных не указана.

MaziyarPanahi/Mistral-7B-Alpaca-52k-v0.1 — дообученная модель семейства Mistral, созданная на основе mistralai/Mistral-7B-v0.1 с использованием набора инструкций Alpaca из 52 тысяч примеров. Она предназначена для генерации текста по инструкциям и ответов на запросы в диалоговом формате. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и рассчитана на контекст до 32 768 токенов. Модель работает с текстом и подходит для широких задач следования инструкциям; в карточке приведены результаты оценивания на наборах для рассуждений и понимания текста. Она выпущена в формате PyTorch и распространяется по лицензии Apache-2.0. README не приводит подробностей о целевых языках или ограничениях качества, поэтому они здесь не уточняются.

Inferor 0.1 — текстовая генеративная модель на 12,1 млрд параметров, созданная Infermatic объединением нескольких языковых моделей методом Model Stock с помощью mergekit. В качестве основы использована mistralai/Mistral-Nemo-Instruct-2407; в объединение также вошли MN-12b-Sunrose, Magnum v4 12B и Mistral-Nemo-Gutenberg-Doppel-12B-v2. Модель построена на архитектуре Mistral для Transformers, веса доступны в формате safetensors. Модель предназначена для диалогов и генерации текста по запросу. Заявленная длина контекста — 131 072 токена; метаданные также отмечают интерфейс вызова инструментов. Карточка не уточняет языковое покрытие, сравнительные результаты или рекомендуемые настройки для этой версии. Лицензия в предоставленных данных не указана.

MoNeuTrix-7B-v1 — слитая языковая модель CultriX на архитектуре Mistral с 7,1 млрд параметров. Она создана методом DARE-TIES с помощью LazyMergekit на основе нескольких моделей, включая Kukedlc/NeuralMaxime-7B-slerp, mlabonne/Monarch-7B и eren23/ogno-monarch-jaskier-merge-7b; конфигурация также указывает CultriX/MonaTrix-v4 как базовую модель слияния. Модель предназначена для генерации текста и общих языковых задач, а контекст поддерживает до 32 768 токенов. Репозиторий содержит веса в формате safetensors, в конфигурации слияния указан bfloat16. Лицензия — Apache-2.0.