II.1Анализ требований и архитектура ПО

Fischerboot/ll3-test-5 — разговорная языковая модель, созданная слиянием предобученных моделей с помощью mergekit и метода SLERP. В конфигурации указана Fischerboot/ll3-test-4; метаданные также связывают её с этой моделью как с базой для дообучения, поэтому происхождение представленного чекпойнта описывается как слияние с использованием этой базы. Модель построена на архитектуре Llama, имеет около 6,2 млрд параметров и контекстное окно 8192 токена. Она принимает текст и генерирует текст; в метаданных заявлена возможность диалогового использования. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Карточка не сообщает поддерживаемые естественные языки и лицензию. Поэтому языки и условия лицензирования здесь не уточняются; перед применением следует проверить лицензию базовой модели и совместимость условий слияния.

NousResearch/Llama-2-70b-hf — это предварительно обученная авторегрессионная языковая модель Meta из семейства Llama 2, представленная в формате Hugging Face Transformers. Она использует плотную архитектуру Transformer с 68,7 млрд параметров и Grouped-Query Attention; принимает текст, генерирует текст и поддерживает контекст до 4096 токенов. Модель предназначена для англоязычной генерации текста и может служить основой для адаптации под различные задачи обработки естественного языка, например продолжения текста, составления черновиков и генерации ответов. Это базовая предварительно обученная версия, а не вариант Llama-2-Chat, поэтому её не следует считать оптимизированной для диалога без дополнительной настройки. Модель разработала Meta. По карточке, предобучение выполнено на 2 трлн токенов общедоступных источников; данные предобучения имеют срез до сентября 2022 года. Модель может выдавать неточные, предвзятые или нежелательные ответы, а испытания проводились на английском языке и не покрывают все сценарии. Использование регулируется специальной лицензией Meta для Llama 2: перед получением весов необходимо принять её условия.

Spell Blade — дообученная на базе Llama 2 диалоговая модель от sequelbox, предназначенная для общения и задач общего назначения с усиленными техническими возможностями. Это плотная авторегрессионная модель семейства Llama с 68,7 млрд параметров; для диалогов обучалась преимущественно на данных в формате INST. Модель принимает текст и генерирует текст. Заявленный контекст — 4096 токенов. В репозитории представлены веса в формате Safetensors, лицензия — Apache 2.0. Автор описывает её как пригодную для использования без дополнительной настройки, но отмечает, что дальнейшее дообучение может улучшить пользовательский опыт. Модель обозначена как устаревшая и предложена главным образом для справки; для общего применения автор рекомендует Llama 3.

Llama-3-12B — разговорная языковая модель, созданная mlabonne с помощью LazyMergekit. В README она описана как слияние двух наборов слоёв Meta-Llama-3-8B; конфигурация использует метод passthrough и формат bfloat16. Архитектура — плотная модель семейства Llama с классом LlamaForCausalLM, размер составляет 11 млрд параметров, контекст — до 8192 токенов. Модель предназначена для генерации текста в диалоге и других сценариях продолжения текста. Базовая модель ориентирована на английский язык и код; метаданные отмечают возможность chat. Репозиторий содержит веса safetensors. Лицензия указана как other, поэтому конкретные условия следует сверить с файлами репозитория и лицензией исходной модели. README показывает повторное использование одной и той же базовой модели в обоих диапазонах слоёв, а метаданные классифицируют происхождение как дообучение. Точные сведения о качестве и результатах оценки не приведены.

Llama3.1-8B-ShiningValiant2-GGUF — это квантизированная GGUF-версия языковой модели Llama3.1-8B-ShiningValiant2, разработанной ValiantLabs и подготовленной к распространению пользователем bartowski. Модель предназначена для генерации текста, диалоговых и инструкционных сценариев, включая работу с научно-техническими темами: физикой, биологией, химией, информатикой и инженерией. Указан английский язык. Модель основана на архитектуре Llama и имеет около 8 млрд параметров. Она представлена в форматах от F16 до различных вариантов квантизации Q8, Q6, Q5, Q4, Q3 и IQ4, что позволяет выбирать баланс между качеством, размером файла и требованиями к оперативной памяти. Файлы подготовлены с использованием llama.cpp и imatrix; запуск рекомендуется через LM Studio. В README не указаны модальности, максимальный размер контекста и результаты сравнительных тестов, поэтому её преимущества можно уверенно связывать главным образом с выбором размера и уровня квантизации. Качество и потребление памяти зависят от выбранного варианта: F16 обеспечивает максимальное сохранение исходных характеристик, а квантизированные версии подходят для локального запуска на менее производительном оборудовании, но могут уступать по качеству. Некоторые варианты оптимизированы для ARM и требуют соответствующей аппаратной поддержки. Модель распространяется по лицензии llama3.1.

bunnycore/Llama-3.1-8B-TitanFusion-Mix — объединённая текстовая языковая модель на архитектуре LlamaForCausalLM, созданная с помощью mergekit методом Model Stock. В README указано слияние вариантов TitanFusion v1, v2 и v3; метаданные также связывают модель с grimjim/Llama-3-Instruct-abliteration-LoRA-8B. В репозитории используются веса safetensors, размер модели — 7,5 млрд параметров, контекст — до 131 072 токенов. Модель предназначена для генерации текста и диалогового применения. Метаданные не указывают языки, поэтому нельзя надёжно определить языковую специализацию. В карточке приведены результаты Open LLM Leaderboard для IFEval и BBH, но они не позволяют установить пригодность для конкретных прикладных областей. Лицензия в предоставленных данных не указана.

QomSSLab/LLama3.3-Rhino-70B-RAG — языковая модель семейства Llama, дообученная QomSSLab на базе unsloth/Llama-3.3-70B-Instruct-bnb-4bit с использованием Unsloth и TRL. Модель предназначена для генерации текста и диалогового взаимодействия; в метаданных также заявлен интерфейс вызова инструментов. Название указывает на RAG-сценарии, однако README не описывает отдельные возможности поиска или работы с документами. Модель имеет плотную архитектуру LlamaForCausalLM и 69,5 млрд параметров, принимает текст и поддерживает контекст до 131 072 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. README не приводит оценок качества или подробностей обучения, поэтому пригодность для конкретных RAG-наборов данных следует проверять отдельно.

Lumi-tess — объединённая языковая модель на архитектуре Llama 3, созданная ryzen88 методом breadcrumbs_ties из Llama 3 Instruct Gradient 262k, Lumimaid и Tess. Модель содержит 69,5 млрд параметров и предназначена для диалоговой генерации текста с длинным контекстом; автор указывает контекст до 262 144 токенов и широкую совместимость с настройками сэмплирования. Модель подходит для диалогов и генерации текста в сценариях, где полезны длинный контекст и менее ограниченные ответы. Карточка не приводит результаты сравнительных оценок или перечень поддерживаемых языков. Репозиторий использует формат safetensors и библиотеку Transformers. Лицензия в предоставленных данных не указана.

ZeroXClem разработал Llama-3-Aetheric-Hermes-Lexi-Smaug-8B — объединённую методом TIES диалоговую модель семейства Llama 3 на 7,5 млрд параметров. В состав слияния вошли Badger Writer, Configurable Hermes 2 Pro, Llama 3 Lexi Uncensored и Llama 3 Smaug. Модель использует архитектуру LlamaForCausalLM и предназначена для генерации текста и общения по инструкциям; контекст — до 8192 токенов. Модель подходит для написания рассказов и ролевых диалогов, ответов на вопросы, многоходового общения и генерации кода. Карточка описывает настраиваемый уровень ограничений, но предупреждает, что ответы могут быть нецензурированными и содержать унаследованные предвзятости. Для запуска в bfloat16 могут потребоваться значительные вычислительные ресурсы. В метаданных указана лицензия Apache-2.0, тогда как README называет Meta Llama Community License; лицензионные сведения расходятся, поэтому условия использования следует сверить с файлами лицензии репозитория.

Карточка модели princeton-nlp/Llama-3-Instruct-8B-CPO на Hugging Face совпадает с карточкой princeton-nlp/Llama-3-Instruct-8B-SimPO-v0.2, поэтому описание составлено по ней. Llama-3-Instruct-8B-SimPO-v0.2 — диалоговая языковая модель семейства Llama, выпущенная командой Princeton NLP как модель из работы SimPO (Simple Preference Optimization with a Reference-Free Reward). Она предназначена для генерации текста в формате инструкций и диалога. Модель содержит 7,5 млрд параметров, принимает текст и имеет контекстное окно 8192 токена. Модель связана с исследованием оптимизации предпочтений без эталонной модели. В карточке не приведены подробности обучения, оценки качества или специальные области применения; метаданные указывают поддержку чата и формат весов safetensors. Лицензия в предоставленных данных не указана.

Карточка модели princeton-nlp/Llama-3-Instruct-8B-IPO на Hugging Face совпадает с карточкой princeton-nlp/Llama-3-Base-8B-SFT, поэтому описание составлено по ней. princeton-nlp/Llama-3-Base-8B-SFT — разговорная модель генерации текста на архитектуре Llama, опубликованная как часть работы SimPO: Simple Preference Optimization with a Reference-Free Reward. Репозиторий содержит модель на 7,5 млрд параметров в формате safetensors; заявленная длина контекста — 8192 токена. Модель предназначена для диалоговой генерации текста и может использоваться для ответов на запросы и ведения беседы. README отсылает к репозиторию SimPO за дополнительными сведениями. Лицензия и конкретные языковые возможности в предоставленных данных не определены.

Карточка модели princeton-nlp/Llama-3-Instruct-8B-RDPO-v0.2 на Hugging Face совпадает с карточкой princeton-nlp/Llama-3-Instruct-8B-SimPO-v0.2, поэтому описание составлено по ней. Llama-3-Instruct-8B-SimPO-v0.2 — диалоговая языковая модель семейства Llama, выпущенная командой Princeton NLP как модель из работы SimPO (Simple Preference Optimization with a Reference-Free Reward). Она предназначена для генерации текста в формате инструкций и диалога. Модель содержит 7,5 млрд параметров, принимает текст и имеет контекстное окно 8192 токена. Модель связана с исследованием оптимизации предпочтений без эталонной модели. В карточке не приведены подробности обучения, оценки качества или специальные области применения; метаданные указывают поддержку чата и формат весов safetensors. Лицензия в предоставленных данных не указана.

Карточка модели princeton-nlp/Llama-3-Instruct-8B-RRHF-v0.2 на Hugging Face совпадает с карточкой princeton-nlp/Llama-3-Instruct-8B-SimPO-v0.2, поэтому описание составлено по ней. Llama-3-Instruct-8B-SimPO-v0.2 — диалоговая языковая модель семейства Llama, выпущенная командой Princeton NLP как модель из работы SimPO (Simple Preference Optimization with a Reference-Free Reward). Она предназначена для генерации текста в формате инструкций и диалога. Модель содержит 7,5 млрд параметров, принимает текст и имеет контекстное окно 8192 токена. Модель связана с исследованием оптимизации предпочтений без эталонной модели. В карточке не приведены подробности обучения, оценки качества или специальные области применения; метаданные указывают поддержку чата и формат весов safetensors. Лицензия в предоставленных данных не указана.

Карточка модели princeton-nlp/Llama-3-Instruct-8B-SLiC-HF-v0.2 на Hugging Face совпадает с карточкой princeton-nlp/Llama-3-Instruct-8B-SimPO-v0.2, поэтому описание составлено по ней. Llama-3-Instruct-8B-SimPO-v0.2 — диалоговая языковая модель семейства Llama, выпущенная командой Princeton NLP как модель из работы SimPO (Simple Preference Optimization with a Reference-Free Reward). Она предназначена для генерации текста в формате инструкций и диалога. Модель содержит 7,5 млрд параметров, принимает текст и имеет контекстное окно 8192 токена. Модель связана с исследованием оптимизации предпочтений без эталонной модели. В карточке не приведены подробности обучения, оценки качества или специальные области применения; метаданные указывают поддержку чата и формат весов safetensors. Лицензия в предоставленных данных не указана.

LM-cocktail Mistral 7B v1 — разговорная текстовая модель на архитектуре Mistral, опубликованная пользователем Yhyu13. В карточке она описана как смесь двух моделей Mistral с равными долями, созданная методом слияния LM-cocktail; точные идентификаторы исходных моделей не приведены. Модель содержит 7,1 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель предназначена для диалоговой генерации текста и общих задач общения с языковой моделью. Автор сообщает о результатах локального запуска AlpacaEval, где модель заняла второе место после GPT-4, однако описание не приводит подробностей оценки, поэтому это утверждение нельзя считать независимым подтверждением качества. Репозиторий содержит веса PyTorch и распространяется по лицензии Apache-2.0.

loyal-piano-m7-Mistral-7B-Instruct-v0.2-slerp — объединённая методом SLERP диалоговая модель на архитектуре Mistral с 7,1 млрд параметров. Она создана на основе mistralai/Mistral-7B-Instruct-v0.2 и chargoddard/loyal-piano-m7; README приводит конфигурацию слияния всех 32 слоёв обеих моделей. Модель предназначена для генерации текста и ответов на инструкции в диалоговых сценариях. Поддерживает контекст до 32 768 токенов и распространяется в формате Safetensors. Лицензия — Apache-2.0. Данные не уточняют языковой охват и специфические ограничения качества, поэтому их нельзя определить по карточке.

LuminRP-7B-128k-v0.3 — слитая языковая модель, разработанная Ppoyaa на архитектуре Mistral с 7,1 млрд параметров. Она объединяет LuminRP-7B-128k-v0.2, instruct-модель и ещё одну модель для ролевых диалогов; в репозитории доступны веса Safetensors. Заявленная длина контекста — 131 072 токена. Модель предназначена для генерации текста, следования инструкциям и ролевых диалогов. Автор сообщает, что она в целом показывает лучшие результаты в общих задачах, чем версия v0.2, но ролевые сценарии ещё не проверялись. Лицензия — Apache-2.0. Также упомянута отдельная GGUF-версия.

MarcDareBeagle-7B — языковая модель, созданная leveldevai слиянием моделей flemmingmiguel/MarcMistral-7B и leveldevai/TurdusDareBeagle-7B с помощью LazyMergekit. Для объединения применён метод SLERP с разными весами для слоёв self-attention и MLP. Модель построена на архитектуре MistralForCausalLM и содержит 7,1 млрд параметров. Она предназначена для генерации текста и принимает текстовые запросы, выдавая текст. Максимальная длина контекста — 32 768 токенов. Репозиторий содержит веса в формате Safetensors; модель распространяется по лицензии Apache-2.0. Карточка не описывает специализацию модели, поддерживаемые языки, сравнительные показатели качества или отдельные ограничения применения.

Карточка модели mahiatlinux/MasherAI-7B-v6.1-another_test3 на Hugging Face совпадает с карточкой mahiatlinux/MasherAI-7B-v6.1-final, поэтому описание составлено по ней. MasherAI-7B-v6.1-final — дообученная разработчиком mahiatlinux языковая модель семейства Mistral с плотной архитектурой для генерации текста и диалогового взаимодействия. Она основана на mahiatlinux/MasherAI-v6.1-7B-checkpoint3-code4 и обучалась с использованием Unsloth и библиотеки Hugging Face TRL. Модель содержит 7,1 млрд параметров, принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов. В карточке указан английский язык. Репозиторий распространяется в формате PyTorch по лицензии Apache-2.0.

MegaHyperLlama3.1 — объединённая плотная языковая модель семейства Llama, созданная с помощью mergekit методом TIES на основе unsloth/Meta-Llama-3.1-8B и моделей bunnycore/HyperLlama-3.1-8B и bunnycore/HyperLLama3.1-Mix-8B. Модель содержит 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и предназначена для генерации текста и диалогов; поддерживает контекст до 131 072 токенов. Модель подходит для диалоговых приложений и генерации текста с длинным контекстом. Карточка не приводит сведения о поддерживаемых языках, специальных областях применения или результатах оценки качества. Весовые файлы доступны в формате safetensors; лицензия в предоставленных данных не указана.

MeliodasPercival_01_Experiment26Experiment30 — объединённая модель для генерации текста, созданная MaziyarPanahi на основе двух моделей: automerger/MeliodasPercival_01-7B и automerger/Experiment26Experiment30-7B. Она построена на архитектуре Mistral, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогов. Её можно использовать для составления ответов, продолжения текста и ведения беседы на основе текстовых запросов. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0.

MeliodasPercival_01_Experiment26T3q — объединённая языковая модель семейства Mistral, созданная MaziyarPanahi на основе automerger/MeliodasPercival_01-7B и automerger/Experiment26T3q-7B. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и принимает текст для генерации продолжений и диалоговых ответов с контекстом до 32 768 токенов. Модель подходит для генерации текста и диалогов общего назначения. В репозитории указана лицензия Apache-2.0. README не сообщает о специальной предметной настройке или оценке качества, поэтому пригодность для конкретных задач следует проверять на собственных примерах.

MaziyarPanahi/MeliodasPercival_01_Multi_verse_modelM7 — объединённая языковая модель на архитектуре Mistral, созданная слиянием automerger/MeliodasPercival_01-7B и automerger/Multi_verse_modelM7-7B. Модель содержит 7,1 млрд параметров и принимает текст для авторегрессионной генерации текста; поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалоговых ответов, однако карточка не уточняет специальные сценарии, языки или настройки общения. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

MaziyarPanahi/MeliodasPercival_01_Strangemerges_32Shadow — объединённая модель Mistral для генерации текста и диалогов. Она создана слиянием automerger/MeliodasPercival_01-7B и automerger/Strangemerges_32Shadow-7B и содержит 7,1 млрд параметров. Модель принимает текст и поддерживает контекст до 32 768 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0. В README и метаданных не описаны целевые области применения или языки, поэтому их нельзя определить точнее.

mergekit-community/mergekit-slerp-xirdwrw — объединённая языковая модель на архитектуре Llama, созданная сообществом с помощью mergekit. В слиянии методом SLERP использованы anthracite-org/magnum-v3-34b и abacusai/Smaug-34B-v0.1; модель содержит 33,9 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогов. В конфигурации слияния задан профиль, который сочетает влияние моделей в разных слоях; метаданные также указывают поддержку чата. Модель доступна в формате safetensors и использует библиотеку Transformers. README и метаданные не сообщают лицензию и конкретные результаты оценки качества. Практическое качество ответов и пригодность для отдельных сценариев следует проверять на собственных задачах.

Mergerix-7b-v0.4 — объединённая языковая модель, опубликованная MiniMoog и созданная с помощью LazyMergekit из liminerity/M7-7b и automerger/YamshadowExperiment28-7B методом slerp. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия. Она принимает текст и формирует текстовые ответы; заявленная длина контекста — 32 768 токенов. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0. README не описывает специализацию, оценку качества или ограничения применения, поэтому конкретные преимущества и недостатки сверх указанных характеристик установить нельзя.

Millie 1.1 — мультимодальная языковая модель с поддержкой изображений от LLMs For All, представленная в формате GGUF для локального запуска на устройствах с ограниченной памятью. Это MoE-модель примерно с 35 млрд параметров и 3 млрд активных параметров на токен; около 90% весов хранятся в троичном представлении, остальные тензоры используют более высокую точность. Для обработки изображений предусмотрен отдельный файл vision encoder/projector, который можно не устанавливать при работе только с текстом. Модель основана на Qwen/Qwen3.6-35B-A3B и подходит для диалогов, ответов на вопросы по изображениям и локального мультимодального помощника. В приведённой авторами оценке результаты близки к исходной модели на MMLU Redux и HumanEval+, а на GPQA Diamond заметно ниже; измерения выполнены в отдельных запусках и не гарантируют аналогичных результатов в других сценариях. Репозиторий распространяется по лицензии Apache-2.0.

MiMo-V2.6-Flash-RL-JANG2L — это опубликованная OsaurusAI квантованная версия Xiaomi MiMo-V2.6-Flash-RL для запуска через MLX на Apple Silicon. В ней применена смешанная низкоразрядная квантовка JANG: основные экспертные проекции хранятся в 2 битах, часть проекций — в 3 битах, а защищённые ранние слои сохранены в исходном формате MXFP4. Заявлено около 2,73 эффективного бита на параметр; текстовые веса занимают около 95,87 GiB. Модель содержит 12 млрд параметров и поддерживает контекст до 1 048 576 токенов. Модель предназначена для диалоговой генерации текста, рассуждений и вызова инструментов, а также для ответов по изображениям и видео. В README описаны рабочие текстовые и инструментальные диалоги и ответы на изображения и видео в интеграционной сборке Osaurus. Качество квантованной модели не эквивалентно исходной: авторы отмечают искажения на чувствительных позициях и ограниченность проведённых тестов; результаты тестов не являются оценкой на официальных бенчмарках. Репозиторий сохраняет веса обработки изображений, видео и аудио, однако распознавание аудио в тестах Osaurus не прошло квалификацию, а аудио-вывод и совместное понимание синхронизированных аудио и видео не подтверждены. Для запуска требуется Osaurus версии 0.25.13 или новее; модель использует формат MLX и safetensors. Лицензия — MIT.

MiniMax-M2.1 — языковая модель для генерации текста, разработанная MiniMax AI. Она предназначена для задач text-generation и может использоваться в приложениях на базе Transformers, включая создание и продолжение текста, диалоговые сценарии и другие задачи обработки естественного языка. В предоставленном README не указаны архитектура, количество параметров, поддерживаемые языки и модальности, максимальная длина контекста, результаты оценки или сведения о сильных сторонах и ограничениях модели. Известно, что модель распространяется с лицензией modified-MIT; подробные условия приведены в файле LICENSE по ссылке, указанной в карточке модели.

MiniMax-M2.7-JANG_3L-CRACK — производная от MiniMaxAI/MiniMax-M2.7 модель, подготовленная Jinho Jang. Это причинная языковая модель архитектуры MiniMax M2 MoE: в README заявлены 230 млрд параметров, 256 экспертов и около 10 млрд активных параметров на токен. Каталог Hugging Face указывает 2,9 млрд параметров; размер модели также указан в README как 89 ГБ. Модель предназначена для генерации текста, диалога и рассуждений; по карточке она всегда формирует цепочку рассуждений перед ответом. Версия JANG_3L использует смешанную квантизацию для Apple Silicon: 8 бит для attention, 4 бита для эмбеддингов и 3 бита для экспертов. CRACK — заявленное авторами удаление отказов от ответа на уровне весов. Для запуска требуются инструменты с поддержкой JANG, в частности MLX Studio или jang-tools; README рекомендует MLX и vMLX. Контекст — 196 608 токенов. Метаданные отмечают английский, китайский и корейский языки, а также интерфейс вызова инструментов. Подходит для диалоговых помощников, генерации и анализа текста, а также задач рассуждения на компьютерах Apple Silicon с достаточной памятью. README приводит результаты MMLU и HarmBench, однако это собственные заявления авторов карточки. Модель может отвечать на запросы, от которых исходные защитные настройки обычно отказываются; применяйте её с учётом этого свойства. Также авторы указывают, что модель сохраняет ограничения исходной версии на воспроизведение защищённых авторским правом книг и текстов песен. Лицензия указана как other; README отдельно заявляет исследовательское и образовательное назначение.