II.1Анализ требований и архитектура ПО

Magpie-Align/Llama-3.1-8B-Magpie-Align-v0.1 — англоязычная диалоговая модель семейства Llama 3.1, разработанная командой Magpie-Align. Это плотная авторегрессионная модель с 7,5 млрд параметров и контекстом до 131 072 токенов; она принимает текст и генерирует текст, используя официальный шаблон чата Llama 3.1. Модель сначала дообучили методом SFT на наборах Magpie-Pro-MT-300K-v0.1 и Magpie-Reasoning-150K, затем применили DPO на датасете UltraFeedback ARMOR. Модель предназначена для диалогов, выполнения инструкций и рассуждений на английском языке. В карточке авторы приводят результаты на MT-Bench, Alpaca Eval 2 и Arena Hard, однако эти оценки не гарантируют качества в конкретном сценарии. Для использования весов заявлена лицензия Llama 3.1 Community License; также авторы указывают необходимость соблюдать лицензию Meta Llama 3 Community License для данных.

NVIDIA Llama 3.1 8B Medusa FP8 — текстовая генеративная модель на архитектуре Transformer Llama 3.1, основанная на Meta-Llama-3.1-8B-Instruct. В README указано, что модель не принадлежит NVIDIA и была подготовлена по требованиям стороннего заказчика. Она сочетает дообученные Medusa-головы для спекулятивного декодирования с квантизацией FP8; размер составляет около 7,5 млрд параметров, длина контекста — до 128K токенов по README и до 131 072 токенов по метаданным. Модель принимает текст и генерирует текст. Она предназначена для диалогов и генерации ответов с ускоренным инференсом в режиме Medusa speculative decoding через TensorRT-LLM. README сообщает результат 68,3 на MMLU в режиме 5-shot и средний acceptance rate Medusa 2,07. README заявляет готовность к коммерческому и некоммерческому использованию; конкретные условия лицензии в предоставленных данных не приведены. Использование рассчитано на TensorRT-LLM и указанные в карточке поколения NVIDIA Blackwell, Hopper и Lovelace под Linux.

QuantFactory/Llama3.1-8B-ShiningValiant2-GGUF — квантизированная версия чат-модели Shining Valiant 2, созданная QuantFactory с использованием llama.cpp на основе ValiantLabs/Llama3.1-8B-ShiningValiant2. Исходную модель разработала Valiant Labs; она дообучена на базе Meta-Llama-3.1-8B-Instruct, релиз от 6 августа 2024 года. Модель предназначена для диалогов и генерации текста, включая общие вопросы, объяснение научных и инженерных тем, технические задачи и структурированное рассуждение. Она ориентирована на дружелюбные, воодушевляющие, содержательные и познавательные ответы. Указан английский язык, текстовая модальность и архитектура Llama; размер — 8 миллиардов параметров. Модель использует формат промптов Llama 3.1 Instruct. Размер контекста в README не указан. К сильным сторонам относятся специализация на научно-технических знаниях, улучшенная согласованность ответов и гибкость общения. К ограничениям относятся зависимость качества от базовой модели и выбранного квантизированного формата; сведения о точности, конкретных вариантах квантования, системных требованиях и ограничениях безопасности не приведены. Лицензия указана как llama3.1.

Llama-3.1-8B-Ultra-Instruct-GGUF — это квантизированное представление инструкционной языковой модели Llama-3.1-8B-Ultra-Instruct, разработанное Dampfinchen и опубликованное в формате GGUF пользователем bartowski. Модель предназначена для генерации текста и работы с инструкциями; её можно запускать локально через llama.cpp и LM Studio. В README также указано, что исходная модель является merge-моделью, собранной с использованием mergekit. Модель содержит 8 миллиардов параметров и работает в текстовой модальности. Для неё доступны варианты от F16 размером 16,07 ГБ до квантизаций Q4, Q5, Q6 и Q8 размером примерно от 4,92 до 8,54 ГБ. Квантизация выполнена с использованием imatrix; варианты Q6_K и Q6_K_L отмечены как близкие к исходному качеству, а Q4_K_M рекомендован как компромисс между размером и качеством. В README приведён специальный формат промпта Llama 3.1. Языки и размер контекстного окна не указаны. Сильная сторона модели — возможность локального запуска на менее мощном оборудовании благодаря нескольким уровням квантизации при сохранении высокого качества. На Open LLM Leaderboard для исходной модели указаны результаты: 80,81% на IFEval, 32,49% на BBH, 14,95% на MATH Level 5, 5,59% на GPQA, 8,61% на MuSR и 31,4% на MMLU-PRO; эти показатели зависят от методики оценки и не гарантируют аналогичные результаты конкретного квантизированного файла. Лицензия указана как llama3.

bunnycore/LLama-3.1-8b-Ultra-Max-Pro — объединённая разговорная языковая модель на архитектуре Llama 3.1, созданная с помощью mergekit методом DARE TIES. В качестве основы использована vicgalle/Configurable-Llama-3.1-8B-Instruct; в объединение также вошли Artificium, Lexi Uncensored V2, Ultra-Instruct, Hermes 3 и LLama-3.1-Hyper-Stock. Модель содержит 7,5 млрд параметров, рассчитана на генерацию текста и поддерживает контекст до 131 072 токенов. Модель предназначена для диалогов и генерации ответов на инструкции. Указанная в карточке комбинация моделей объединяет разговорную настройку, следование инструкциям и другие языковые возможности, однако README не приводит результатов оценок или конкретных гарантий качества. Модель работает с текстом и опубликована в формате safetensors для библиотеки Transformers. В метаданных лицензия не указана.

Hitmanguy/Llama_3.1_GRPO_AMD — текстовая генеративная модель семейства Llama с числом параметров около 7,5 млрд и нативным контекстом до 131 072 токенов. Модель предназначена для генерации текста и диалоговых сценариев; в метаданных указаны библиотеки Transformers, а также инструменты Unsloth, TRL и метод GRPO, что указывает на использование соответствующего стека для обучения или дообучения модели. Модель может применяться для создания ответов на запросы, продолжения текста, прототипирования диалоговых ассистентов и интеграции в приложения на базе Transformers. README автоматически сгенерирован и почти не содержит сведений о разработчике, исходной модели, языках, обучающих данных, оценивании и лицензии, поэтому качество, область применимости и условия использования требуют дополнительной проверки.

MaziyarPanahi/Llama-3-8B-Instruct-DPO-v0.2 — диалоговая языковая модель, созданная MaziyarPanahi методом DPO дообучения Meta Llama 3 8B Instruct. Модель использует архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров и рассчитана на контекст до 8192 токенов. Она принимает текстовые сообщения в шаблоне ChatML и генерирует текстовые ответы.

failspy/Llama-3-8B-Instruct-MopeyMule — разговорная языковая модель на базе семейства Llama 3, разработанного Meta. Она предназначена для диалоговых сценариев и генерации текста и кода; подходит для создания ассистентов, ответов на запросы и других задач генерации на естественном языке. Модель использует авторегрессионную архитектуру Transformer с Grouped-Query Attention (GQA) и содержит около 7,5 млрд параметров. Она принимает текст, выдаёт текст и рассчитана прежде всего на английский язык. Длина контекста составляет 8192 токена. Репозиторий содержит веса в формате safetensors. В README указана лицензия Meta Llama 3 с условиями коммерческого и исследовательского использования, а также ограничениями Acceptable Use Policy. Базовая карточка описывает семейство Llama 3 и не подтверждает отдельно происхождение или дополнительные особенности варианта MopeyMule.

Llama-3-8B-Magpie-Align-SFT-v0.1 — дообученная командой Magpie-Align языковая модель на архитектуре Llama 3 с 7,5 млрд параметров. Она обучена методом supervised fine-tuning на наборе Magpie-Pro-MT-300K-v0.1 и предназначена для генерации текста в ответ на инструкции и ведения диалога; для лучшей работы следует использовать официальный шаблон чата Llama 3. Модель принимает текст и генерирует текст, поддерживает контекст до 8192 токенов. В README приведены результаты сравнений на Alpaca Eval 2 и Arena Hard; авторы сообщают о сопоставимом с Llama-3-8B-Instruct качестве на некоторых задачах. Для использования требуется соблюдать лицензию Meta Llama 3 Community License. Результаты зависят от задачи и формата диалога; универсальная эквивалентность модели Llama-3-8B-Instruct не заявлена.

Llama-3-Instruct-8B-SPPO-Iter3-GGUF — квантизированная версия инструкционной языковой модели Llama-3-Instruct-8B-SPPO-Iter3, разработанной UCLA-AGI. Квантизацию в формате GGUF выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и работы в диалоговом формате с системными и пользовательскими инструкциями. Модель имеет около 8 миллиардов параметров, поддерживает текстовую модальность и ориентирована на английский язык. В репозитории доступны варианты квантизации от Q8 до Q2, различающиеся размером файла, требованиями к памяти и качеством генерации. Версии Q5–Q8 характеризуются высоким качеством, тогда как варианты Q3 и Q2 экономят память, но заметно уступают по качеству; некоторые варианты с суффиксом L используют F16 для весов эмбеддингов и выходного слоя и обозначены как экспериментальные. Модель подходит для локального запуска и ресурсоограниченных сценариев, где важен баланс между качеством и потреблением памяти. Ограничения включают зависимость результатов от выбранного уровня квантизации, отсутствие заявленной поддержки других модальностей и отсутствие в README сведений о размере контекстного окна и результатах бенчмарков. Для корректного использования следует применять указанный формат промпта Llama 3. Модель распространяется по лицензии Apache-2.0.

psx7/llama4B — текстовая модель семейства Llama, представленная в формате MLX; README указывает, что её преобразовали из rasyosef/Llama-3.1-Minitron-4B-Chat с помощью mlx-lm 0.18.1. По метаданным, модель содержит 3,9 млрд параметров, использует плотную архитектуру LlamaForCausalLM и поддерживает контекст до 131 072 токенов. Каталог связывает её с базовой моделью nvidia/Llama-3.1-Minitron-4B-Width-Base и датасетом OpenHermes-2.5; модель предназначена для генерации текста и диалогового использования. Репозиторий содержит веса в GGUF и safetensors, а README описывает использование через mlx-lm. Указана лицензия «other», поэтому точные условия использования следует проверять в файлах лицензии репозитория.

Llama DEUS v3 — языковая модель семейства Llama, разработанная автором репозитория teknium и основанная на Llama 7B. Это объединённая с базовой моделью версия LoRA-дообучения: адаптер не требуется подключать отдельно. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и принимает текстовые инструкции в формате «### Instruction: … ### Response:». Контекст — до 2048 токенов. Модель дообучена на наборах общих инструкций, программирования, ролевого общения, а также биологии, физики, химии и математики. Она предназначена для генерации ответов и выполнения инструкций в этих сценариях. В README автор характеризует датасеты и модель как uncensored, что может приводить к выдаче нежелательного или небезопасного содержания. Модель распространяется по лицензии MIT.

LlamaZero 3.1-8B — языковая модель для генерации текста, созданная sethuiyer путём слияния предварительно обученных моделей с помощью mergekit. Она основана на DeepSeek-R1-Distill-Llama-8B и Llama-3.1-8B-Experimental-1206-Instruct; архитектура — плотная Llama с классом LlamaForCausalLM, размер — около 7,5 млрд параметров. Модель предназначена для диалогового взаимодействия и генерации текста; в README приведены результаты оценки на бенчмарках IFEval и BBH. Метаданные указывают контекст до 131 072 токенов и поддержку чата. В репозитории используются веса safetensors. Лицензия в предоставленных данных не указана.

LPT-6.1 Thinking — разговорная языковая модель от LiskCell, представленная как флагман экосистемы xLYR и ассистент Deta. Модель предназначена для диалогов, творческих задач, технических вопросов и многошаговых рассуждений; в репозитории заявлена поддержка английского и иврита. В карточке указаны архитектура семейства Kimi K2.5 с классом KimiK25ForConditionalGeneration, библиотека Transformers и формат весов safetensors. Модель позиционируется как дообученная и настроенная для экосистемы xLYR; её размер и длина контекста в предоставленных данных не приведены. Лицензия обозначена как other, поэтому условия использования следует сверить с лицензией репозитория.

Lumina-3.5 — языковая модель на архитектуре Mixtral Mixture of Experts, собранная с помощью LazyMergekit. В карточке указано, что модель улучшает рассуждения по сравнению с Lumina-3; метаданные указывают размер 7,1 млрд параметров и контекстное окно до 32 768 токенов. Модель предназначена для генерации текста и задач рассуждения. В README приведены результаты Open LLM Leaderboard, включая среднюю оценку 75,41, результат 71,59 на AI2 Reasoning Challenge и 88,82 на HellaSwag. Доступны веса в формате Safetensors; упомянута отдельная GGUF-квантизация от стороннего автора. Лицензия — Apache-2.0. README не сообщает поддерживаемые естественные языки и конкретные ограничения качества или использования.

M7Alloyingotneoy-7B — объединённая языковая модель на архитектуре Mistral, опубликованная как автоматическое слияние Maxime Labonne. В конфигурации использованы liminerity/M7-7b и nlpguy/AlloyIngotNeoY; применён метод DARE-TIES с параметрами плотности и веса для второй модели. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и может использоваться в сценариях продолжения текста и диалогового взаимодействия. Репозиторий содержит веса в формате Safetensors, лицензия — Apache-2.0. Метаданные указывают nlpguy/AlloyIngotNeoY как дообученную базовую модель; сама карточка описывает модель как слияние двух чекпойнтов.

MaziyarPanahi/M7Yamshadowexperiment28_Experiment26Inex12 — объединённая модель на архитектуре Mistral, созданная слиянием automerger/M7Yamshadowexperiment28-7B и automerger/Experiment26Inex12-7B. Она предназначена для генерации текста и диалоговых сценариев, где полезен контекст до 32 768 токенов. Модель содержит 7,1 млрд параметров и распространяется в формате Safetensors. Модель может использоваться для продолжения текста, ответов на запросы и ведения диалога. Данные не описывают её специализацию по языкам или предметным областям, поэтому её следует рассматривать как модель общего назначения. Лицензия — Apache-2.0.

M7Yamshadowexperiment28_Inex16Calme — слитая модель для генерации текста, созданная на основе automerger/M7Yamshadowexperiment28-7B и automerger/Inex16Calme-7B. Модель использует плотную архитектуру Mistral с 7,1 млрд параметров и работает с контекстом до 32 768 токенов. Она предназначена для генерации текста и диалоговых ответов. Репозиторий содержит веса в формате safetensors. Модель опубликована по лицензии Apache 2.0.

M7Yamshadowexperiment28_Multi_verse_modelYam — объединённая модель на основе Mistral, опубликованная MaziyarPanahi. Она предназначена для генерации текста и диалогов. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и поддерживает контекст до 32 768 токенов. Модель объединяет automerger/M7Yamshadowexperiment28-7B и automerger/Multi_verse_modelYam-7B. Доступна в формате safetensors и распространяется по лицензии Apache-2.0. README не сообщает о специализированной области применения или известных ограничениях качества.

MaziyarPanahi/M7Yamshadowexperiment28_OgnoShadow — объединённая модель семейства Mistral с 7,1 млрд параметров, созданная на основе automerger/M7Yamshadowexperiment28-7B и automerger/OgnoShadow-7B. Она предназначена для генерации текста и диалоговых ответов, включая сценарии с контекстом до 32 768 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0. README и метаданные не уточняют её языковой охват и специальные ограничения.

M7Yamshadowexperiment28_Strangemerges_32Ogno — объединённая модель MaziyarPanahi на архитектуре Mistral с 7,1 млрд параметров. Она создана путём слияния моделей automerger/M7Yamshadowexperiment28-7B и automerger/Strangemerges_32Ogno-7B и предназначена для генерации текста и диалогов по текстовым запросам. Модель принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов и распространяется в формате safetensors. Лицензия — Apache-2.0. Карточка не описывает специализацию по языкам или предметным областям, поэтому модель следует считать общей текстовой моделью.

MeliodasNeuralsirkrishna-7B — автоматически объединённая Maxime Labonne модель на архитектуре Mistral с 7,1 млрд параметров. Она создана методом SLERP из AurelPx/Meliodas-7b-dare и Kukedlc/NeuralSirKrishna-7b; в конфигурации базовой указана AurelPx/Meliodas-7b-dare. Модель предназначена для генерации текста и диалогов. Она принимает текст и поддерживает контекст до 32 768 токенов. Репозиторий содержит веса в формате safetensors; модель распространяется по лицензии Apache-2.0.

MeliodasPercival_01_Experiment27Experiment29 — объединённая модель, созданная из automerger/MeliodasPercival_01-7B и automerger/Experiment27Experiment29-7B. Она предназначена для генерации текста и диалогов. Модель построена на архитектуре Mistral с плотной авторегрессионной языковой моделью, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель опубликована в формате Safetensors под лицензией Apache-2.0. Сведения о языковой специализации и конкретных ограничениях в карточке не приведены.

MeliodasPercival_01_YamExperiment28 — объединённая автором карточки модель на архитектуре Mistral с 7,1 млрд параметров, созданная на основе automerger/MeliodasPercival_01-7B и automerger/YamExperiment28-7B. Она предназначена для генерации текста и диалогов, а контекст поддерживает до 32 768 токенов. Модель опубликована в формате safetensors под лицензией Apache-2.0. Карточка не описывает специальные предметные области или ограничения качества; применимость следует оценивать на задачах пользователя.

MeliodasT3qm7_Experiment27Neuralsirkrishna — объединённая модель семейства Mistral, созданная на основе automerger/MeliodasT3qm7-7B и automerger/Experiment27Neuralsirkrishna-7B. Модель с плотной архитектурой MistralForCausalLM содержит 7,1 млрд параметров и предназначена для генерации текста и диалогов. Модель принимает текст и выдаёт текст. Размер контекста составляет до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. Данных о специализации по языкам или прикладным областям нет.

Mungert/Meta-Llama-3-8B-GGUF — модель для генерации текста на базе Meta Llama 3, разработанной Meta. Судя по идентификатору, это 8-миллиардная версия модели, представленная в формате GGUF, предназначенном для локального или совместимого с GGUF инференса. В карточке указана англоязычная поддержка и задача text-generation. Модель может использоваться для генерации и продолжения текста, ответов на запросы и других сценариев обработки естественного языка. Точная архитектура, размер контекста, варианты квантования, системные требования и дополнительные модальности в README не указаны; подтверждена только текстовая генерация, поэтому модель следует рассматривать как текстовую, без заявленной поддержки изображений, аудио или других модальностей. К сильным сторонам относятся компактный по современным меркам размер 8B и формат GGUF, потенциально удобный для локального запуска, однако конкретные преимущества производительности зависят от варианта квантования и используемого программного обеспечения. Ограничения модели, показатели качества и детальные сведения о тренировочных данных не приведены. Использование регулируется Meta Llama 3 Community License: при распространении материалов или продуктов необходимо соблюдать условия лицензии, включая требования к атрибуции, обозначению «Built with Meta Llama 3», Acceptable Use Policy и специальные коммерческие условия для организаций с более чем 700 миллионами ежемесячных пользователей.

DevQuasar-12/meta-llama.Llama-4-Scout-17B-16E-Instruct-GGUF — это квантованная версия языковой модели meta-llama/Llama-4-Scout-17B-16E-Instruct, опубликованная DevQuasar. Модель предназначена для генерации текста и работы в сценариях инструкционного взаимодействия, включая ответы на запросы пользователя и выполнение текстовых задач. Модель относится к семейству Llama 4 Scout; в её обозначении указаны конфигурация 17B и 16E. Формат GGUF предназначен для использования в совместимых инструментах локального запуска квантованных моделей. Согласно README, модель работает только с текстом; сведения о поддерживаемых языках, размере контекста и конкретном варианте квантования не приведены. К сильным сторонам относятся инструкцийная настройка исходной модели и возможность локального использования квантованной версии, что может снизить требования к ресурсам по сравнению с полноразмерной моделью. Ограничения связаны с отсутствием мультимодальных возможностей и недостатком данных о качестве, точности, требованиях к оборудованию и параметрах квантования. Лицензия в README не указана; условия использования следует уточнять для исходной модели и данной публикации отдельно.

MetaMath-Tulpar-7b-v2-Slerp-Mistral-7B-Instruct-v0.2-slerp — объединённая диалоговая модель на архитектуре Mistral, созданная методом SLERP из mistralai/Mistral-7B-Instruct-v0.2 и Weyaxi/MetaMath-Tulpar-7b-v2-Slerp. Модель содержит 7,1 млрд параметров и предназначена для генерации текста и ответов на инструкции в диалоговом формате. Контекст составляет до 32 768 токенов. Модель принимает текст и выдаёт текст; метаданные указывают на диалоговые возможности. Лицензия — Apache-2.0. В карточке не приведены оценки качества или отдельные ограничения, поэтому пригодность для конкретных сценариев стоит проверять на собственных примерах.

dealignai выпустила MiniCPM5-2B-CRACK-JANG_8M — дообученную версию openbmb/MiniCPM5-2B в формате MLX для запуска на Apple Silicon через vMLX. Это плотная Llama-совместимая языковая модель с 2,2 млрд параметров и контекстом до 131 072 токенов; модель принимает и генерирует текст, поддерживает английский и китайский языки, режим рассуждения с включением и выключением, а также вызов инструментов через XML. Модель предназначена для диалогов, программирования, рассуждений и тестирования поведения при удалённом отказе от ответов: README сообщает, что механизм отказов удалён на уровне весов. В карточке приведены результаты MMLU и HarmBench для этой сборки. Модель поставляется в 8-битном MLX-бандле JANG8M и заявлена как бесплатная для macOS; лицензия — Apache-2.0. Это текстовая модель без поддержки изображений. Поскольку поведение отказов удалено, модель может выдавать ответы на опасные запросы; применяйте её с учётом этого ограничения.

MiroThinker-v1.0-8B-GGUF — квантованная версия языковой модели MiroThinker-v1.0-8B, разработанной miromind-ai и подготовленной в формате GGUF пользователем bartowski. Модель предназначена для генерации текста, агентских сценариев и задач deep research, включая работу в приложениях на базе llama.cpp и LM Studio. Указан английский язык. Модель содержит 8 миллиардов параметров и распространяется в нескольких вариантах точности: от BF16 до квантований Q2–Q8 и IQ. Для квантования использовался llama.cpp с методом imatrix, что позволяет уменьшить размер файлов и требования к памяти при сохранении качества; рекомендуемыми названы варианты Q4–Q6. Размер файлов составляет примерно от 3,9 до 16,39 ГБ в зависимости от формата. В README не указаны точная архитектура, максимальная длина контекста, результаты бенчмарков и дополнительные модальности, поэтому возможности модели в этих аспектах оценить нельзя. Более сильные квантования обеспечивают лучшее качество, а компактные варианты подходят для систем с ограниченной оперативной памятью, но могут заметнее терять качество. Для работы следует использовать совместимое ПО llama.cpp или LM Studio и формат промпта с маркерами ChatML. Лицензия — MIT.