II.1Анализ требований и архитектура ПО

Alecator/llama-3-Buzzy — дообученная языковая модель Alecator на базе unsloth/Meta-Llama-3.1-8B-Instruct-bnb-4bit. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM и примерно 7,5 млрд параметров. Модель предназначена для генерации текста и диалогового взаимодействия; в метаданных также указана поддержка интерфейса вызова инструментов. Контекстное окно составляет до 131 072 токенов, основной язык карточки — английский. Модель можно использовать для диалоговых помощников, генерации и продолжения текста, а также сценариев с вызовом инструментов. В README указано, что обучение проводилось с Unsloth и библиотекой TRL. Модель распространяется по лицензии Apache-2.0. Данных о специальных ограничениях качества или областях применения в карточке нет.

llama-3-wissenschaft-8B — плотная языковая модель семейства Llama 3, созданная nbeerbower с помощью слияния предобученных моделей через mergekit и метод Model Stock. В слиянии использованы nbeerbower/llama-3-slerp-kraut-dragon-8B, VAGOsolutions/Llama-3-SauerkrautLM-8b-Instruct, DeepMount00/Llama-3-8b-Ita и mlabonne/ChimeraLlama-3-8B-v3. Модель содержит 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и принимает текст для генерации продолжений и диалоговых ответов. Контекст составляет 8192 токена. Карточка указывает лицензию Meta Llama 3 Community License Agreement; перед использованием следует соблюдать её условия.

Deepcodr/llama_sample_chat2 — диалоговая модель генерации текста, разработанная Deepcodr путём дообучения NousResearch/Meta-Llama-3.1-8B-Instruct. Это плотная модель семейства Llama с архитектурой LlamaForCausalLM и 7,5 млрд параметров; для обучения использовались Unsloth и библиотека TRL. Модель предназначена для чата и генерации ответов на текстовые запросы. Контекстное окно составляет 131 072 токена; в карточке отмечена поддержка английского языка. Модель распространяется под лицензией Apache-2.0. Карточка не описывает специализированную предметную область или отдельные ограничения качества; ожидаемые возможности в целом связаны с базовой инструктивной моделью Llama 3.1 8B.

Это дообученная модель KKHYA/llavaqwen3-1.7b-finetune с архитектурой MoELLaVAQwen3ForCausalLM и 1,7 млрд параметров. Она предназначена для генерации текста и диалогов; в метаданных также указана возможность интерфейса вызова инструментов. Длина контекста составляет 40 960 токенов. Модель опубликована в форматах PyTorch и Safetensors и распространяется по лицензии Apache-2.0. Данные о датасете и результаты оценки не приведены.

Ksgk-fy/M7Percival_01-7B — объединённая языковая модель на архитектуре Mistral с 7,1 млрд параметров. В README указано, что она создана методом DARE-TIES из liminerity/M7-7b и AurelPx/Percival_01-7b-slerp; в метаданных базовой моделью отмечена AurelPx/Percival_01-7b-slerp. Модель предназначена для генерации текста и диалогов по текстовым запросам. Поддерживает контекст до 32 768 токенов и опубликована в формате safetensors. Лицензия — Apache-2.0. Карточка не содержит сведений о целевых языках, специализации или оценках качества, поэтому её возможности следует считать общими для генерации текста; качество на конкретных задачах нужно проверять отдельно.

M7Yamshadowexperiment28_Experiment28Neuralsirkrishna — объединённая модель семейства Mistral, собранная из automerger/M7Yamshadowexperiment28-7B и automerger/Experiment28Neuralsirkrishna-7B. Она предназначена для генерации текста и диалогов; архитектура — плотная MistralForCausalLM, размер — 7,1 млрд параметров, контекст — до 32 768 токенов. Модель использует формат safetensors и распространяется по лицензии Apache-2.0. Сведения о конкретных языках и специализированных областях применения в доступных источниках отсутствуют.

M7Yamshadowexperiment28_Inex12Yam — слитая языковая модель, созданная объединением automerger/M7Yamshadowexperiment28-7B и automerger/Inex12Yam-7B. Она предназначена для генерации текста и диалоговых сценариев на базе архитектуры Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель принимает текст и выдаёт текст; данные о специальных предметных областях и языках не приведены. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

M7Yamshadowexperiment28_Strangemerges_32Alloyingotneoy — объединённая модель на архитектуре Mistral, созданная из automerger/M7Yamshadowexperiment28-7B и automerger/Strangemerges_32Alloyingotneoy-7B. Она предназначена для генерации текста и может использоваться в приложениях, которым нужна языковая модель с контекстом до 32 768 токенов. Модель содержит 7,1 млрд параметров, а её веса опубликованы в формате Safetensors. Карточка не описывает специальные области применения, языки или результаты оценки качества. Лицензия — Apache-2.0.

M7Yamshadowexperiment28_Strangemerges_32T3q — объединённая языковая модель, опубликованная MaziyarPanahi на Hugging Face. Она объединяет модели automerger/M7Yamshadowexperiment28-7B и automerger/Strangemerges_32T3q-7B и основана на плотной архитектуре Mistral с 7,1 млрд параметров. Модель предназначена для генерации текста и может использоваться для диалоговых ответов и математических запросов. Поддерживает контекст до 32 768 токенов. Распространяется в формате safetensors по лицензии Apache-2.0.

MaziyarPanahi/M7Yamshadowexperiment28_YamT3qm7x — объединённая модель на 7,1 млрд параметров, созданная слиянием automerger/M7Yamshadowexperiment28-7B и automerger/YamT3qm7x-7B. Она использует плотную архитектуру MistralForCausalLM и предназначена для генерации текста; максимальная длина контекста составляет 32 768 токенов. Модель принимает текст и генерирует текст, поэтому подходит для диалоговых систем, черновиков и продолжения текста, а также ответов на запросы. Репозиторий содержит веса в формате safetensors. Модель опубликована под лицензией Apache 2.0. Карточка не приводит сведений о специализации, поддерживаемых языках или оценках качества.

MaziyarPanahi/mamba-gpt-7b-v1-Mistral-7B-Instruct-v0.2-slerp — объединённая диалоговая модель на архитектуре Mistral, созданная методом SLERP из Mistral-7B-Instruct-v0.2 и CobraMamba/mamba-gpt-7b-v1. Она предназначена для генерации текста и ответов на инструкции в чат-сценариях. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. Веса представлены в формате safetensors; в конфигурации слияния указана точность bfloat16. Репозиторий распространяется по лицензии Apache-2.0. Карточка не описывает языковой охват и результаты сравнительных оценок.

Marcoroni-7b-DPO-Merge — языковая модель на 7,1 млрд параметров, опубликованная nfaheem. Это плотная авторегрессионная модель семейства Mistral, объединённая методом TIES с помощью mergekit на основе madatnlp/marcoroni-7b-v3-safetensor, fblgit/UNA-TheBeagle-7b-v1 и udkai/Turdus; веса сохранены в формате safetensors с точностью float16. Модель предназначена для генерации текста и общих языковых задач, включая ответы на вопросы, рассуждения и решение задач. В README приведены результаты на ARC, HellaSwag, MMLU, TruthfulQA, Winogrande и GSM8K, а также заявлено первое место в рейтинге Hugging Face среди моделей около 13 млрд параметров по состоянию на 15 января 2024 года. Нативное контекстное окно составляет 32 768 токенов. README и метаданные не указывают поддерживаемые естественные языки. Модель распространяется по лицензии Apache-2.0; рейтинги из README относятся к указанным оценкам и не гарантируют качество на любых пользовательских задачах.

MasherAI-7B-v6.1-final — дообученная разработчиком mahiatlinux языковая модель семейства Mistral с плотной архитектурой для генерации текста и диалогового взаимодействия. Она основана на mahiatlinux/MasherAI-v6.1-7B-checkpoint3-code4 и обучалась с использованием Unsloth и библиотеки Hugging Face TRL. Модель содержит 7,1 млрд параметров, принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов. В карточке указан английский язык. Репозиторий распространяется в формате PyTorch по лицензии Apache-2.0.

Карточка модели mahiatlinux/MasherAI-7B-v6.1-redo1 на Hugging Face совпадает с карточкой mahiatlinux/MasherAI-7B-v6.1-final, поэтому описание составлено по ней. MasherAI-7B-v6.1-final — дообученная разработчиком mahiatlinux языковая модель семейства Mistral с плотной архитектурой для генерации текста и диалогового взаимодействия. Она основана на mahiatlinux/MasherAI-v6.1-7B-checkpoint3-code4 и обучалась с использованием Unsloth и библиотеки Hugging Face TRL. Модель содержит 7,1 млрд параметров, принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов. В карточке указан английский язык. Репозиторий распространяется в формате PyTorch по лицензии Apache-2.0.

DazzlingXeno/MegaMagChron — объединённая текстовая языковая модель на базе Mistral, созданная с помощью mergekit и метода passthrough. В состав вошла dazl1212/MagnumChronos. Модель содержит 20,7 млрд параметров, работает с текстом и предназначена для генерации текста в диалоговом формате. Заявленная длина контекста — 1 024 000 токенов. Репозиторий содержит веса в формате safetensors. Лицензия и сведения о поддерживаемых естественных языках в предоставленных данных отсутствуют.

megatron_v1 — языковая модель с архитектурой Mixtral и механизмом смеси экспертов (MoE), собранная из моделей Mistral. Карточка приводит результаты оценки на Open LLM Leaderboard, включая средний балл 68,82, результат 65,96 на AI2 Reasoning Challenge и 84,80 на HellaSwag. Модель предназначена для генерации текста и диалогового общения. Она содержит 7,1 млрд параметров и поддерживает контекст до 8192 токенов. Веса опубликованы в формате Safetensors; модель распространяется по лицензии Apache-2.0.

MeliodasPercival_01_Experiment28Neuralsirkrishna — объединённая модель семейства Mistral, созданная на основе automerger/MeliodasPercival_01-7B и automerger/Experiment28Neuralsirkrishna-7B. Она предназначена для генерации текста и диалоговых сценариев. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и поддерживает контекст до 32 768 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0. README и метаданные не уточняют языковой охват или специализированные области применения, поэтому её можно описать как модель общего назначения.

MeliodasPercival_01_OgnoExperiment27 — слитая языковая модель, объединяющая automerger/MeliodasPercival_01-7B и automerger/OgnoExperiment27-7B. Она построена на архитектуре Mistral и содержит 7,1 млрд параметров. Модель предназначена для генерации текста и диалоговых ответов; поддерживает контекст до 32 768 токенов. Модель распространяется в формате safetensors по лицензии Apache 2.0. Сведения о специализации по языкам и областям применения отсутствуют, поэтому её можно описать как модель общего назначения. Качество, сильные стороны и конкретные ограничения сверх указанных характеристик в карточке не описаны.

MeliodasT3qm7-7B — объединённая Maxime Labonne модель для генерации текста и диалога. Она построена на архитектуре Mistral и содержит 7,1 млрд параметров; модель создана методом DARE-TIES из AurelPx/Meliodas-7b-dare и nlpguy/T3QM7. Модель предназначена для генерации ответов в диалоге и выполнения текстовых запросов. Контекстное окно составляет 32 768 токенов. Репозиторий содержит веса в формате safetensors с точностью bfloat16. Лицензия — Apache-2.0. Карточка не приводит сведения о целевых языках, специализированных областях или результатах оценки качества.

Solshine/mergekit-passthrough-lhtboir — объединённая языковая модель на архитектуре Llama, созданная автором с помощью mergekit методом passthrough. В объединении использованы слои mlabonne/Hermes-3-Llama-3.1-8B-lorablated, Solshine/reflection-llama-3.1-8B и CopyleftCultivars/llama-3.1-natural-farmer-16bit; веса сохранены в формате safetensors с точностью float16. Модель содержит 7,5 млрд параметров и рассчитана на контекст до 131 072 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. Её можно применять для ответов на вопросы, составления текстов и работы с интерфейсом вызова инструментов. В карточке указана архитектура LlamaForCausalLM и библиотека Transformers. Сведения о лицензии в предоставленных данных отсутствуют. Качество и поведение объединённой модели могут отличаться от исходных моделей; независимые результаты оценки не приведены.

nm-testing/Meta-Llama-3-8B-Instruct-W8-Channel-A8-Dynamic-Asym-Per-Token-Test — тестовый квантованный вариант Meta Llama 3 8B Instruct, размещённый организацией NM Testing; исходную модель разработала Meta. Репозиторий предназначен для генерации текста и диалоговых сценариев и поддерживает использование через Transformers, vLLM и SGLang. Суффикс W8-Channel-A8-Dynamic-Asym-Per-Token указывает на 8-битное представление весов и динамическое асимметричное квантование активаций по токенам; точные характеристики реализации квантования и результаты её оценки в карточке модели не описаны. Базовая модель представляет собой авторегрессионный языковой model с оптимизированной архитектурой Transformer и Grouped-Query Attention, содержит около 8 млрд параметров, принимает только текст и генерирует текст и код. Контекст составляет 8 тысяч токенов, модель ориентирована прежде всего на английский язык и диалог с инструкциями. Она подходит для чат-ассистентов, генерации и обработки текста, но является статической моделью с ограниченным актуальным знанием и не поддерживает мультимодальный ввод. Квантованный вариант может снизить требования к памяти и повысить эффективность инференса, однако по доступным данным нельзя надёжно оценить влияние именно этой тестовой конфигурации на качество, скорость и совместимость. Для исходной Meta Llama 3 действует специальная коммерческая лицензия Meta Llama 3 Community License с ограничениями по распространению, допустимому использованию и политике безопасности; применимость этих условий к квантованному производному варианту следует проверять отдельно.

Mika-Lelantacles-7b-Longtext — объединённая методом SLERP языковая модель семейства Mistral, созданная Nitral-Archive на основе Nitral-AI/Mika-Longtext-7b и ChaoticNeutrals/Prima-LelantaclesV7-experimental-7b. Она предназначена для генерации текста и диалогового взаимодействия; может применяться для ответов на вопросы, написания и продолжения текстов, а также работы с длинными запросами в пределах контекста до 32 768 токенов. Модель имеет плотную архитектуру MistralForCausalLM и 7,1 млрд параметров. Веса опубликованы в формате safetensors; для работы указан Transformers. В README приведены результаты оценки на нескольких бенчмарках, включая средний балл 70,86, AI2 Reasoning Challenge и HellaSwag. Лицензия обозначена как other, поэтому условия использования следует проверять в карточке и у исходных моделей. Карточка не описывает языковой охват и конкретные ограничения качества; это следует учитывать при выборе модели для специализированных задач.

miqu-1-103b — экспериментальная текстовая языковая модель, созданная Wolfram методом слияния mergekit: слои модели miqu-1-70b-sf интерливированы, чтобы получить вариант на 103 млрд параметров с 120 слоями. Модель предназначена для генерации текста и диалогов; используется шаблон запросов Mistral. Максимальный контекст — 32 768 токенов. Карточка указывает английский, немецкий, французский, испанский и итальянский языки. Модель опубликована в формате safetensors и доступна также в отдельных квантованных сборках GGUF и EXL2. README отмечает, что исходные веса были утекшими; лицензия в метаданных обозначена как other, поэтому условия правового использования следует проверять отдельно.

MiroThinker-v1.0-30B-GGUF — набор GGUF-квантизированных версий модели MiroThinker-v1.0-30B, разработанной miromind-ai и подготовленной квантизатором bartowski. Модель предназначена для генерации текста, агентских сценариев и задач deep research, включая работу в приложениях и проектах на базе llama.cpp. Указан английский язык; поддержка других языков не заявлена. Это модель размером 30B параметров, представленная в форматах от BF16 до различных вариантов Q8, Q6, Q5, Q4, Q3 и IQ-квантизации. Квантизация выполнена с использованием imatrix в llama.cpp, что позволяет выбирать между качеством и требованиями к памяти. Рекомендуемыми названы варианты Q6_K_L, Q6_K, Q5_K_L, Q5_K_M, Q5_K_S, Q4_K_L, Q4_K_M, Q4_K_S и IQ4_XS; Q4_K_M обозначен как вариант стандартного размера для большинства сценариев. Модель можно запускать через LM Studio, llama.cpp и другие совместимые проекты. Сильными сторонами являются открытый формат GGUF, широкий выбор уровней сжатия и ориентация исходной модели на агентские и исследовательские задачи. Более компактные варианты требуют меньше оперативной памяти, но уступают высокоточным версиям по качеству. В README не указаны архитектура базовой модели, размер контекстного окна, мультимодальные возможности и результаты benchmark-тестов, поэтому эти характеристики нельзя оценить. Лицензия — MIT.

Vezora/Mistral-14b-Merge-Base — базовая текстовая генеративная модель, созданная Николасом Мехией Пети путём объединения моделей Dolphin, Zephyr, MetaMath и Speechless Code на базе Mistral, а затем дообученная и объединённая с LoRA-адаптером. В репозитории указано около 14,3 млрд параметров; метаданные Hugging Face сообщают 14,1 млрд. Модель использует архитектуру MistralForCausalLM и формат safetensors, поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и ответов на запросы, а её обучающий датасет был модифицированной версией airoboros-m-7b-3.1.2 в формате Alpaca. Языки и специализированные сценарии применения в карточке не уточняются. По описанию автора, модель может чрезмерно задавать встречные вопросы при обработке запросов длиннее 512 токенов — это указанное ограничение её обучения с QLoRA. Лицензия — Apache-2.0.

MaziyarPanahi/Mistral-7B-KNUT-v0.3-Mistral-7B-Instruct-v0.2-slerp — объединённая диалоговая языковая модель на архитектуре Mistral, созданная методом SLERP из mistralai/Mistral-7B-Instruct-v0.2 и Herry443/Mistral-7B-KNUT-v0.3. Модель содержит 7,1 млрд параметров, принимает текстовые инструкции и генерирует текст; заявленный контекст составляет до 32 768 токенов. Модель предназначена для диалогов и генерации ответов на инструкции. Веса сохранены в формате safetensors, слияние выполнено в формате bfloat16. Репозиторий распространяется по лицензии Apache-2.0. README не описывает отдельные специализированные сценарии применения или ограничения качества.

mistralopithecus-v1-dpo-7b-Mistral-7B-Instruct-v0.1 — чат-модель на базе архитектуры Mistral, созданная слиянием Mistral AI и DopeorNope/mistralopithecus-v1-dpo-7b методом SLERP. Модель содержит 7,1 млрд параметров, использует формат safetensors и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации текста в ответ на инструкции и диалоговые запросы. Её можно применять для создания чат-ботов и ведения диалогов на естественном языке. В README указан тип объединения и параметры смешивания слоёв внимания и MLP; модель распространяется по лицензии Apache-2.0.

arcee-ai выпустила mistral-v2-sec-dolphin — объединение двух предварительно обученных языковых моделей, созданное с помощью mergekit методом SLERP: sec-mistral-7b-instruct-1.6-epoch от Arcee AI и dolphin-2.8-mistral-7b-v02 от Cognitive Computations. Модель построена на архитектуре Mistral, содержит 7,1 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации текста в диалоговом формате. Её можно применять для ответов на вопросы, ведения диалога и создания текста. Карточка не уточняет языки и специализированные предметные области, поэтому их нельзя конкретизировать. Репозиторий содержит веса Safetensors; метаданные указывают библиотеку Transformers. Условия лицензирования в предоставленных данных не приведены.

Это преобразованная для MLX 4-битная версия Mixtral-8x22B-v0.1, опубликованная сообществом mlx-community; конвертацию выполнил Prince Canuma с помощью mlx-lm 0.4.0. Модель относится к архитектуре Mixtral с разреженной смесью экспертов (MoE) и предназначена для генерации текста, в том числе диалоговых ответов и продолжения текстовых запросов. В метаданных указаны 22 млрд параметров и контекст до 65 536 токенов. Версия использует 4-битное представление весов в формате safetensors и ориентирована на запуск через MLX на совместимом оборудовании Apple. Карточка перечисляет английский, французский, итальянский, немецкий и испанский языки. Репозиторий распространяется по лицензии Apache-2.0. Качество и скорость генерации зависят от оборудования и выбранных настроек MLX; подробности о сильных сторонах и ограничениях исходной модели следует сверять с её карточкой.

MixtureofMerges-MoE-v2 — языковая модель с архитектурой Mixtral MoE, созданная автором jsfs11 с помощью LazyMergekit. Она объединяет четыре модели на основе 7B-чекпойнтов: NeuralBeagle14-7B, TurdusTrixBeagle-DARETIES-7B, WestSeverus-7B-DPO-v2 и Wernicke-7B-v7. Модель предназначена для генерации текста, диалогов, следования инструкциям, рассуждений и творческих ответов. Веса опубликованы в формате safetensors; размер составляет 7,1 млрд параметров, контекст — до 32 768 токенов. В README приведены результаты оценки на Open LLM Leaderboard, включая среднее значение 74,82, AI2 Reasoning Challenge — 72,44 и HellaSwag — 88,41. Модель распространяется по лицензии Apache-2.0. Карточка не уточняет поддерживаемые языки и не приводит подробностей о качестве в прикладных сценариях.