II.1Анализ требований и архитектура ПО

DPOpenHermes-7B-v2-Mistral-7B-Instruct-v0.1 — объединённая чат-модель на архитектуре Mistral, созданная слиянием mistralai/Mistral-7B-Instruct-v0.1 и openaccess-ai-collective/DPOpenHermes-7B-v2 методом SLERP. Модель содержит 7,1 млрд параметров и предназначена для генерации ответов на инструкции и диалоговые запросы; заявленный контекст — до 32 768 токенов. Модель принимает текст и выдаёт текст. В карточке указан английский язык. Репозиторий распространяется под лицензией Apache-2.0; веса представлены в формате safetensors. Карточка не приводит результатов оценки качества или подробных сведений о поведении модели.

Experiment26Neuralsirkrishna_YamMulti_verse_model — объединённая модель генерации текста на базе архитектуры Mistral, созданная слиянием automerger/Experiment26Neuralsirkrishna-7B и automerger/YamMulti_verse_model-7B. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Она предназначена для генерации текста и диалогов. Веса опубликованы в формате safetensors, лицензия — Apache-2.0. README не описывает специальные возможности или целевые области применения, поэтому модель следует рассматривать как инструмент общего назначения.

Experiment28M7_AlloyingotneoyExperiment24 — объединённая методом SLERP модель семейства Mistral, созданная на основе automerger/Experiment28M7-7B и automerger/AlloyingotneoyExperiment24-7B. Она содержит 7,1 млрд параметров и предназначена для генерации текста, в том числе в сценариях, где нужен длинный контекст до 32 768 токенов. Модель принимает текст и выдаёт текст; сведения о конкретных языковых специализациях и прикладных областях в карточке отсутствуют. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

MaziyarPanahi/Experiment28T3q_ShadowOgno — объединённая модель для генерации текста, созданная на основе двух моделей: automerger/Experiment28T3q-7B и automerger/ShadowOgno-7B. Она использует плотную архитектуру Mistral с причинно-следственной языковой моделью и содержит 7,1 млрд параметров. Модель предназначена для генерации продолжений текста и диалоговых ответов. Она принимает текст и поддерживает контекст длиной до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0.

EpistemeAI2/Firebal-Llama-3.1-8B-R1 — текстовая диалоговая модель семейства Llama 3.1, дообученная на базе unsloth/meta-llama-3.1-8b-instruct-bnb-4bit. Она предназначена для общения в формате ассистента и генерации текста; в метаданных также отмечен интерфейс для вызова инструментов. Архитектура — плотная LlamaForCausalLM, размер — 7,5 млрд параметров, контекст — до 131 072 токенов. Модель принимает текст и генерирует текст. В карточке описана поддержка английского, французского, немецкого, хинди, итальянского, португальского, испанского и тайского языков; метаданные для этой модели указывают английский. Карточка рекомендует шаблон Alpaca для рассуждений. Лицензия — Apache 2.0 по метаданным модели; README содержит общие сведения о Llama 3.1 и её Community License, поэтому условия следует сверять с лицензией именно этого репозитория. Качество и дополнительные возможности дообучения Firebal отдельно в предоставленной карточке не описаны.

flammen9-mistral-7B — объединённая авторегрессионная языковая модель на архитектуре Mistral, созданная flammenai с помощью mergekit. В объединение вошли flammen8-mistral-7B, flammen5-mistral-7B и flammen3X; базовой указана flammen8-mistral-7B, а метод слияния — DARE TIES. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и сценариев на основе языковой модели: продолжения запросов и создания ответов. В метаданных указан pipeline text-generation; конкретные специализации, наборы данных и основные языки в предоставленных сведениях не обозначены. Файлы представлены в формате safetensors, библиотека — Transformers. Модель распространяется по лицензии Apache-2.0. Поскольку это слияние нескольких предварительно обученных моделей, её качество и поведение могут различаться в зависимости от задачи; отдельные гарантии качества или подробные ограничения в карточке не описаны.

SanctumAI/gemma-2-9b-it-GGUF — квантизированная GGUF-версия Gemma 2 9B IT, разработанной Google и подготовленной SanctumAI. Это текстовая decoder-only языковая модель с instruction tuning, предназначенная для генерации текста, диалогов, ответов на вопросы, суммирования и задач, требующих рассуждений. Модель работает с текстом и, согласно README, доступна на английском языке. Модель содержит около 9 млрд параметров. Доступны варианты квантизации Q2_K–Q8_0, а также f16; размер файлов составляет примерно от 3,81 до 18,49 ГБ, а оценочная потребность в RAM или VRAM — от 15,14 до 28,82 ГБ в зависимости от варианта. Квантизация позволяет запускать модель на ноутбуке, настольном компьютере или собственной облачной инфраструктуре при выборе подходящего формата, но более компактные варианты могут уступать по качеству менее квантизированным. Модель распространяется по лицензии Gemma. Для корректного диалога следует использовать шаблон Gemma с маркерами начала и конца хода пользователя и модели. README не указывает размер контекстного окна, мультимодальные возможности или поддержку языков помимо английского; также конкретные ограничения качества не описаны. Как и другие языковые модели, она может генерировать неточный, вредный или неподходящий контент, поэтому результаты требуют проверки.

Gemma-7B-slerp — текстовая языковая модель, созданная Arcee AI слиянием Google Gemma 7B и Gemma 7B Instruct методом SLERP с помощью mergekit. Она предназначена для генерации текста, диалога и ответов на вопросы; объединение базовой и инструктивной версий нацелено на сочетание их свойств. Модель построена на плотной архитектуре GemmaForCausalLM, содержит 8,2 млрд параметров и поддерживает контекст до 8192 токенов. Модель принимает текст и выдаёт текст. В карточке приведены результаты оценки на наборах AGIEval, GPT4All, TruthfulQA и Bigbench. Репозиторий содержит веса Safetensors; лицензия — Apache-2.0. Показатели из карточки не гарантируют качество на конкретных задачах, поэтому перед применением модель стоит оценить на своих данных.

Grafted-Hermetic-Platypus-A-2x7B — чат-модель семейства Mixtral, созданная объединением Platyboros-Instruct-7B и Hermes-Instruct-7B-v0.2. Она предназначена для генерации текста в ответ на инструкции и диалоговые запросы; карточка приводит форматы запросов Mistral-Instruct и Alpaca. Модель имеет архитектуру Mixtral с разреженной смесью экспертов (MoE), около 7,1 млрд параметров и контекст до 32 768 токенов. Репозиторий содержит веса Safetensors. В README приведены результаты Open LLM Leaderboard, включая среднее значение 64,23, но эти оценки сами по себе не гарантируют качество в конкретном сценарии. Модель распространяется по лицензии Apache-2.0.

Grey-12b — языковая модель AIXON Lab на архитектуре Transformer/Mistral, созданная слиянием нескольких моделей методом della_linear на основе aixonlab/Aether-12b. Веса модели содержат около 12,1 млрд параметров, формат — safetensors; в README указан тип float16. Модель предназначена для генерации текста, ответов на вопросы и анализа. Основной язык — английский; README допускает поддержку других языков, но не уточняет их перечень. Контекстное окно составляет до 1 024 000 токенов по метаданным. Модель распространяется по лицензии Apache-2.0. Метрики качества для Grey-12b не представлены. Возможны смещения, унаследованные от обучающих данных и объединённых моделей, поэтому ответы следует проверять.

Iris-mini APEX-I-MiniPlus-V2.1 GGUF — квантизированная версия модели AllSpark-Research/Iris-mini, подготовленная IsValorum для запуска через llama.cpp и совместимые инструменты. Это текстовая генеративная модель со sparse Mixture-of-Experts: заявлены 40 слоёв и 256 микроэкспертов. Модель поддерживает контекст до 256K токенов и предназначена для локального запуска на рабочих станциях с ограниченной видеопамятью, включая частичный или полный offload в системную RAM. Квантизация использует смешанную схему APEX-I-MiniPlus V2.1: маршрутизаторы gate_inp сохранены в F32, выходная матрица — в Q6_K, attention-компоненты используют Q4_K и Q6_K, attention gates — Q8_0, а основные эксперты — IQ3_XXS; общий размер заявлен примерно 13,74 GiB. Это ориентировано на сохранение качества рассуждений, синтаксической стабильности и устойчивости при длинном контексте при меньшем размере, чем у менее агрессивных квантизаций. В README приведён показатель WikiText-2 perplexity 5,3735 ± 0,1214, но независимые условия тестирования не описаны. Модель предназначена для генерации текста, рассуждений и задач, где важны большие контекстные окна; заявлена поддержка английского, китайского, испанского, французского, немецкого, португальского, итальянского, русского, японского, корейского, вьетнамского, тайского и арабского языков. Сильными сторонами являются компактный размер, сохранение маршрутизации MoE и возможность использовать системную RAM для KV-кэша и вычислений. Ограничениями остаются зависимость скорости от видеопамяти, пропускной способности RAM и архитектуры процессора, а также возможная потеря качества, характерная для квантизированных моделей. Распространяется по лицензии Apache-2.0.

Модель LeroyDyer/LeroyDyer-Mixtral_AI_CyberTron_Ultra — дообученная LeroyDyer текстовая генеративная модель на архитектуре Mistral с 7,1 млрд параметров. Она предназначена для диалогов и генерации текста, в том числе ответов на вопросы, программирования, математики, финансовых тем, проектирования продуктов и систем, а также ролевых сценариев. Разработчик сообщает о тренировке на учебных и математических материалах, наборах данных для кода и диалогов, а также о поддержке многошаговых ответов и нескольких стилей взаимодействия. Метаданные указывают контекст до 32 768 токенов, библиотеку Transformers и формат Safetensors. В карточке заявлена ориентация преимущественно на английский язык; среди датасетов также есть материалы на суахили и многоязычный корпус. Модель может подойти для прототипирования чат-помощников и генерации кода, однако утверждения о качестве основаны на описании разработчика и не сопровождаются результатами независимой оценки. Указана лицензия Apache-2.0.

LLaDA2.1-flash — диффузионная языковая модель семейства LLaDA, разработанная InclusionAI. Это instruction-tuned модель для генерации текста и диалоговых сценариев; архитектура — Mixture-of-Experts (MoE), в карточке указаны 100 млрд параметров, 32 слоя и контекст до 32 768 токенов. Метаданные каталога при этом указывают общий размер 5,5 млрд параметров. Модель поддерживает редактируемую генерацию: README описывает режимы Speed и Quality с разными порогами денойзинга и компромиссом между скоростью, качеством и плавностью ответа. Её можно применять для диалога и генерации текста; метаданные также отмечают интерфейс вызова инструментов. README называет модель готовой для прикладного использования, но не приводит результаты конкретных бенчмарков. Модель распространяется под лицензией Apache-2.0. Указанные в README рекомендации по настройке параметров относятся к инференсу; низкий порог денойзинга может приводить к прерывистой генерации.

RedHatAI/Llama-2-7b-dolphin-open_platypus — плотная языковая модель на архитектуре Llama 2 с 6,6 млрд параметров, дообученная Neural Magic и Cerebras для следования инструкциям. Обучение использовало сочетание наборов данных Platypus, Open Orca и Dolphin. Модель предназначена для генерации текста и выполнения инструкций в сценариях вопросно-ответного взаимодействия и других задачах общего назначения. Она принимает текст и генерирует текст, имеет контекст длиной 4096 токенов и доступна в формате safetensors для запуска через Transformers; для ускоренного инференса с разреженностью README предлагает nm-vllm или deepsparse. В README приведены незаполненные значения результатов бенчмарков, поэтому количественная оценка качества по этой карточке невозможна. Лицензия в предоставленных сведениях не указана.

Llama3.1-Flammades-70B — диалоговая языковая модель на архитектуре Llama 3.1, разработанная FlammenAI. Это дообученная версия nbeerbower/Llama3.1-Gutenberg-Doppel-70B: модель адаптировали методом ORPO на наборах flammenai/Date-DPO-NoAsterisks и jondurbin/truthy-dpo-v0.1, используя два ускорителя H100 в течение трёх эпох. Модель содержит 69,5 млрд параметров, работает с текстом и имеет контекст длиной до 131 072 токенов. Модель предназначена для диалоговой генерации текста и ответов на инструкции. В карточке приведены результаты Open LLM Leaderboard: средний балл 35,74, IFEval — 70,58, BBH — 52,55; эти показатели отражают оценки на указанных тестах, а не гарантируют качество в конкретном сценарии. Для запуска доступен формат Safetensors и библиотека Transformers. Лицензия — Llama 3.1 Community License.

Shining Valiant 2 — разговорная языковая модель Valiant Labs, дообученная на основе Meta-Llama-3-70B-Instruct. Это плотная архитектура Llama 3 с 69,5 млрд параметров, предназначенная для генерации текста, диалогов и выполнения инструкций; модель использует формат запросов Llama 3 Instruct и поддерживает контекст до 8192 токенов. По описанию разработчика, дополнительное обучение на собственных данных ориентировано на науку, инженерию, технические знания и структурированные рассуждения, а стиль ответов — дружелюбный и увлечённый. Модель рассчитана на общие диалоговые и аналитические сценарии, включая объяснение технических тем и помощь с задачами вроде написания сопроводительного письма. Указана лицензия Llama 3. В README разработчик помечает эту версию как устаревшую и рекомендует Shining Valiant 2 для Llama 3.1 70B; также сообщается о возможной проблеме с чтением завершающих токенов в text-generation-webui, которая может приводить к незавершённым ответам или нарушению структуры.

Carchofa/looped_llama_8b_128k — языковая модель для генерации текста, опубликованная на Hugging Face и предназначенная для запуска через библиотеку Transformers. Модель относится к семейству Llama и содержит около 7,5 млрд параметров. Модель может использоваться для продолжения текстов, подготовки черновиков, генерации ответов и других сценариев, основанных на text-generation. Её нативное контекстное окно составляет 131 072 токена, что позволяет обрабатывать длинные входные документы и диалоги. README не содержит сведений о разработчике, лицензии, языках обучения, данных, результатах оценки и специальных ограничениях, поэтому перед практическим применением требуется дополнительная проверка качества и условий использования.

MeliodasPercival_01_Experiment26Neuralarjuna — объединённая языковая модель семейства Mistral, созданная из automerger/MeliodasPercival_01-7B и automerger/Experiment26Neuralarjuna-7B. Она предназначена для генерации текста и диалогов по текстовым запросам. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и поддерживает контекст до 32 768 токенов. Веса опубликованы в формате safetensors. Лицензия — Apache-2.0. Карточка не уточняет языки обучения и конкретные специализации модели.

MeliodasPercival_01_T3qExperiment26 — объединённая модель для генерации текста, созданная из automerger/MeliodasPercival_01-7B и automerger/T3qExperiment26-7B. Она использует плотную архитектуру Mistral с причинно-языковой моделью MistralForCausalLM и содержит 7,1 млрд параметров. Модель предназначена для генерации текста с контекстом до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

MelloGPT-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель на архитектуре Mistral, созданная MaziyarPanahi слиянием методом SLERP моделей Mistral-7B-Instruct-v0.2 и MelloGPT. Она предназначена для генерации текста и ответов на инструкции в чат-сценариях. Модель содержит 7,1 млрд параметров, использует формат Safetensors и поддерживает контекст до 32 768 токенов. Модель принимает текст и генерирует текст; в карточке указана лицензия Apache-2.0. README описывает смешивание слоёв внимания и MLP с разными коэффициентами. Карточка не сообщает о специальных предметных областях или иных модальностях.

Narkantak/Mistral-2x7b-Instruct-1x2 — объединённая диалоговая языковая модель на архитектуре Mistral, созданная методом TIES из mistralai/Mistral-7B-Instruct-v0.1 и mistralai/Mistral-7B-Instruct-v0.2. Несмотря на название, в метаданных указано 7,1 млрд параметров. Модель предназначена для генерации текста в ответ на запросы и инструкции, в том числе для диалога; контекст составляет до 32 768 токенов. Модель принимает текст и выдаёт текст. Карточка указывает на объединение двух instruct-моделей, но не сообщает о специальных областях применения или поддерживаемых естественных языках. Репозиторий содержит веса в формате safetensors. Условия лицензии в предоставленных данных не указаны.

Mistral-7B-Erebus-v3-Instruct-32k — объединённая языковая модель на архитектуре Mistral с 7,1 млрд параметров, созданная с помощью mergekit методом DARE TIES. В качестве основы использована alpindale/Mistral-7B-v0.2-hf, объединённая с mistralai/Mistral-7B-Instruct-v0.2 и KoboldAI/Mistral-7B-Erebus-v3. Модель предназначена для генерации текста и ответов на инструкции; поддерживает контекст до 32 768 токенов. Модель работает с текстом и использует библиотеку Transformers; веса доступны в формате safetensors. Карточка не сообщает о специализированной области применения или поддерживаемых языках. Объединение включает Erebus-v3, однако карточка не описывает его влияние на поведение итоговой модели. Лицензия в предоставленных данных не указана.

Mistral-ORPO-α — диалоговая языковая модель, разработанная KAIST AI и дообученная на базе mistralai/Mistral-7B-v0.1 методом оптимизации предпочтений ORPO. В отличие от подхода с предварительным этапом supervised fine-tuning, ORPO непосредственно обучает модель предпочитаемым ответам. Для обучения использован датасет HuggingFaceH4/ultrafeedback_binarized. Модель с плотной архитектурой MistralForCausalLM содержит 7,1 млрд параметров, принимает текст и генерирует текст; заявленная длина контекста — 32 768 токенов. Карточка приводит результаты сравнительных оценок на AlpacaEval, MT-Bench и IFEval. Основной язык в метаданных — английский. Модель подходит для диалоговых ответов и выполнения текстовых инструкций. Доступна по лицензии MIT. Результаты бенчмарков не гарантируют качество на конкретных задачах.

Mistral-Starling-merge-trial1-7B — объединённая чат-модель на архитектуре Mistral, созданная разработчиком grimjim с помощью mergekit методом SLERP из Nexusflow/Starling-LM-7B-beta и grimjim/Mistral-7B-Instruct-demi-merge-v0.2-7B. Она предназначена для диалоговой генерации текста и ответов на запросы с упором на сочетание рассуждений и длинного контекста. Модель содержит 7,1 млрд параметров, построена на плотной архитектуре Mistral и поддерживает контекст до 32 768 токенов. В карточке заявлены чат-возможности; базовая Starling-LM-7B-beta ориентирована на английский язык. Репозиторий распространяется в формате Safetensors по лицензии Apache-2.0.

RedHatAI/Mixtral-8x7B-Instruct-v0.1 — разговорная instruct-модель, опубликованная Red Hat AI на основе Mistral AI Mixtral-8x7B-Instruct-v0.1. Она предназначена для диалога и генерации текста по запросам, например для ответов на вопросы и объяснения понятий. Модель использует архитектуру Mixtral с разреженной экспертной маршрутизацией (MoE), содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель принимает текст и генерирует текст; в карточке заявлены английский, французский, итальянский, немецкий и испанский языки. README описывает развёртывание с vLLM, Red Hat Enterprise Linux AI и OpenShift AI. Модель распространяется по лицензии Apache-2.0. В README указано, что у неё нет встроенных механизмов модерации, поэтому сгенерированные ответы могут требовать отдельной фильтрации.

model_101 — языковая модель Pankaj Mathur на архитектуре Llama 2, предназначенная для генерации текста по инструкциям и ответов в гибридном стиле explain + instruct. Карточка описывает её как Llama 2 70B; метаданные указывают 68,7 млрд параметров, контекст до 4096 токенов и форматы PyTorch и safetensors. Для диалога поддерживаются шаблоны Orca и Alpaca. Модель обучалась на наборах Open-Platypus, Alpaca, WizardLM, Dolly-V2, Dolphin Samples, Orca Mini и их вариантах Orca. Среди подходящих сценариев — ответы на вопросы, объяснение тем и выполнение текстовых инструкций. В карточке приведены результаты оценки на задачах ARC и HellaSwag. Модель может выдавать неточные или вводящие в заблуждение ответы, а также предвзятый, неподходящий или оскорбительный текст; важные сведения следует перепроверять. Для запуска в 4-битном режиме автор указывает потребность примерно в 45 ГБ видеопамяти. Лицензия — Llama 2.

shivash/moetest1 — языковая модель на архитектуре Llama, созданная автором репозитория с помощью объединения весов через SLERP и mergekit на основе meta-llama/Llama-3.1-8B-Instruct. Модель предназначена для генерации текста и диалогового общения; метаданные также указывают интерфейс вызова инструментов. Модель содержит 6,9 млрд параметров, принимает текст и выдаёт текст. Указанная длина контекста — 131 072 токена. Репозиторий использует Transformers и формат safetensors. Поддерживаемые языки отдельно не обозначены. Сведений о лицензии в предоставленных данных нет.

DevQuasar/moonshotai.Kimi-K2-Instruct-BF16 — это версия в формате BF16 модели moonshotai/Kimi-K2-Instruct, подготовленная DevQuasar и опубликованная для генерации текста. Модель предназначена для диалогового взаимодействия и выполнения инструкций в сценариях, где требуется создавать или продолжать текстовые ответы. Модель содержит 37,9 млрд параметров и поддерживает контекст длиной до 131 072 токенов. В метаданных она классифицирована как text-generation и conversational; формат BF16 может быть удобен для запуска на совместимом оборудовании с поддержкой этого типа чисел. Данные о поддерживаемых естественных языках, архитектуре, лицензии и специализированных областях применения в предоставленных источниках отсутствуют.

NeuralShiva-7B-DT — объединённая языковая модель на архитектуре Mistral, созданная Kukedlc с помощью LazyMergekit из четырёх моделей: automerger/YamShadow-7B, mlabonne/AlphaMonarch-7B, automerger/OgnoExperiment27-7B и Kukedlc/Jupiter-k-7B-slerp. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста. Её можно применять для диалогов, написания и продолжения текста, а также ответов на запросы. Метаданные указывают на текстовый ввод и текстовый вывод; сведений о поддерживаемых естественных языках в карточке нет. Весовые файлы представлены в формате safetensors. Модель распространяется по лицензии Apache-2.0.

NeuralsirkrishnaShadow_Experiment26Experiment26 — слитая автором карточки модель на архитектуре Mistral, объединяющая automerger/NeuralsirkrishnaShadow-7B и automerger/Experiment26Experiment26-7B. Она предназначена для генерации текста и поддерживает контекст до 32 768 токенов; размер модели — 7,1 млрд параметров. Модель принимает текстовые запросы и выдаёт текст. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0.