II.1Анализ требований и архитектура ПО

Это дообученная модель KKHYA на базе KKHYA/llavaqwen3-1.7b-finetune с 1,7 млрд параметров. Она использует архитектуру NMMaskMoELLaVAQwen3ForCausalLM и предназначена для генерации текста и диалогов; в метаданных также заявлен интерфейс вызова инструментов. Модель принимает текст, поддерживает контекст до 40 960 токенов и распространяется в форматах PyTorch и Safetensors для библиотеки Transformers. Датасет и результаты оценки в карточке не описаны, поэтому качество в конкретных сценариях оценить нельзя. Модель распространяется по лицензии Apache-2.0.

LongWriter-llama3.1-8b-GGUF — квантизированные версии языковой модели LongWriter-llama3.1-8b, разработанной THUDM и опубликованной в формате GGUF пользователем bartowski. Модель предназначена для генерации текста и диалоговых сценариев, включая работу с длинным контекстом. Указаны поддерживаемые языки английский и китайский, а также использование через llama.cpp и LM Studio. В основе лежит модель размером 8 млрд параметров; точные сведения об архитектуре и максимальной длине контекста в README не приведены. Доступны варианты от F32 до различных уровней квантизации Q8, Q6, Q5, Q4, Q3, Q2 и IQ, что позволяет выбирать между качеством генерации и требованиями к памяти. Варианты с более высокой точностью обеспечивают лучшее сохранение качества, а компактные версии подходят для систем с ограниченными ресурсами, но могут заметно уступать по качеству. Квантизация выполнена с использованием imatrix в llama.cpp на основе набора данных LongWriter-6k. Для взаимодействия рекомендуется формат промпта, указанный в карточке модели; шаблон чата автоматически не задан. Модель распространяется по лицензии llama3.1. Ограничения включают отсутствие заявленной поддержки изображений и других модальностей, а также неизбежные компромиссы в качестве у наиболее компактных вариантов.

M7Yamshadowexperiment28_Experiment26Experiment24 — объединённая языковая модель, созданная MaziyarPanahi на основе automerger/M7Yamshadowexperiment28-7B и automerger/Experiment26Experiment24-7B. Это плотная модель семейства Mistral с 7,1 млрд параметров, предназначенная для генерации текста; репозиторий содержит веса в формате safetensors, а контекст составляет до 32 768 токенов. Модель можно применять для генерации продолжений текста, диалоговых ответов и других задач на основе текстового запроса. Карточка не приводит результатов оценки качества и не описывает отдельные специализированные возможности или целевые языки. Лицензия — Apache-2.0.

MaziyarPanahi/M7Yamshadowexperiment28_ShadowMeliodas — объединённая языковая модель, созданная из automerger/M7Yamshadowexperiment28-7B и automerger/ShadowMeliodas-7B. Модель построена на архитектуре Mistral и содержит 7,1 млрд параметров. Она предназначена для генерации текста и диалогов с контекстом до 32 768 токенов. Модель принимает текст и выдаёт текст. Репозиторий содержит веса в формате Safetensors. Лицензия — Apache-2.0. Карточка не описывает специальные предметные области или дополнительные возможности.

M7Yamshadowexperiment28_ShadowStrangemerges_32 — слитая языковая модель, опубликованная MaziyarPanahi. Она предназначена для генерации текста и диалогового применения. Модель построена на архитектуре Mistral, содержит 7,1 млрд параметров, имеет контекстное окно 32 768 токенов и распространяется в формате safetensors. Модель объединяет automerger/M7Yamshadowexperiment28-7B и automerger/ShadowStrangemerges_32-7B. Поддерживаемая задача — text-generation; сведения о специальных предметных областях и языковой специализации не приведены. Лицензия — Apache-2.0.

Magnolia-v3-Gemma2-8k-9B — объединённая языковая модель, созданная grimjim с помощью mergekit методом SLERP из grimjim/Gigantes-v1-gemma2-9b-it и grimjim/Magnolia-v2-Gemma2-8k-9B. Это плотная авторегрессионная модель семейства Gemma 2 с 9 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия. Модель принимает текстовые запросы и выдаёт текст. Длина контекста составляет 8192 токена. Репозиторий содержит веса в формате safetensors, а для использования указана лицензия Gemma. README не приводит результатов оценки качества или подробных рекомендаций по сценариям применения.

cringoulique/maxprimodel — чат-модель для генерации текста, разработанная cringoulique и дообученная на IlyaGusev/saiga_llama3_8b. Это плотная авторегрессионная модель семейства Llama с 7,5 млрд параметров и контекстом до 8192 токенов, сохранённая в формате PyTorch. Для обучения использовались Unsloth и библиотека TRL. Модель предназначена для диалогов и ответов на инструкции на русском языке; базовая модель описана как русскоязычный чат-бот на основе Llama 3 8B Instruct. Лицензия — Apache-2.0. Карточка не приводит оценок качества или подробных результатов обучения.

MaziyarPanahi/MeliodasPercival_01_Multi_verse_modelExperiment28 — объединённая автором карточки модель на архитектуре Mistral. Она создана слиянием automerger/MeliodasPercival_01-7B и automerger/Multi_verse_modelExperiment28-7B и предназначена для генерации текста и диалогов. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. Опубликована в формате safetensors под лицензией Apache-2.0. Карточка не описывает конкретную специализацию или подтверждённые языки; качество и ограничения унаследованы от объединённых моделей.

Menlo_Lucy-128k-GGUF — это GGUF-квантизированная версия модели Lucy-128k, разработанной Menlo и подготовленной пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты. Из README известно, что модель рассчитана на контекст до 128k токенов, однако сведения о точной архитектуре, числе параметров, поддерживаемых языках и мультимодальности не приведены. Доступны варианты от BF16 до различных Q2–Q8- и IQ-квантизаций размером примерно от 0,75 до 3,45 ГБ. Более высокие уровни квантизации обычно сохраняют лучшее качество, а низкие требуют меньше оперативной памяти, но сильнее ограничивают качество генерации. Сильной стороной модели является широкий выбор форматов для локального запуска и возможность подобрать баланс между качеством, размером и требованиями к памяти. При этом README предупреждает, что для модели не указана специальная chat template и стандартный формат prompt может быть некорректным; перед использованием рекомендуется проверить оригинальную карточку Menlo/Lucy-128k. Лицензия в предоставленных данных не указана.

MaziyarPanahi/mergekit-slerp-tejngyg-GGUF — это квантизированная версия модели mergekit-community/mergekit-slerp-tejngyg, созданная сообществом mergekit-community и опубликованная в формате GGUF пользователем MaziyarPanahi. Исходная модель объединяет NousResearch/Hermes-2-Pro-Mistral-7B и WizardLM/WizardMath-7B-V1.1 методом mergekit SLERP. По имеющимся данным, модель относится к семейству Mistral и предназначена для генерации текста. Модель подходит для локального запуска и диалоговых сценариев, а также для задач генерации текста и, вероятно, математического рассуждения благодаря одному из исходных компонентов WizardMath. Формат GGUF поддерживается llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и другими совместимыми инструментами; возможна работа с ускорением на GPU и через OpenAI-совместимые серверы. Доступны варианты квантизации от 2 до 8 бит, что позволяет выбирать баланс между размером, требованиями к памяти и качеством. Точный размер, максимальная длина контекста, набор языков, результаты оценки и конкретные преимущества объединённой модели в README не указаны. К ограничениям относятся возможная потеря качества при низкой разрядности квантизации и отсутствие подтверждённых данных о качестве на отдельных задачах. Лицензия в предоставленной информации не указана, поэтому условия использования следует уточнять в карточке исходной и данной модели.

T145/Meta-Llama-3.1-8B-Instruct-TIES — экспериментальное слияние, созданное T145 методом TIES на базе unsloth/Meta-Llama-3.1-8B с использованием unsloth/Meta-Llama-3.1-8B-Instruct. Это плотная авторегрессионная модель семейства Llama 3.1 с архитектурой LlamaForCausalLM и 7,5 млрд параметров; она предназначена для диалогов и генерации текста по инструкциям. Модель работает с текстом, поддерживает контекст до 131 072 токенов и имеет интерфейс для вызова инструментов. README описывает её как тест слияния, призванный проверить перенос метода Rombodawg на модели Llama и сравнить качество с исходной instruct-моделью. В приведённых результатах указаны 54,24% на IFEval и 29,77% на BBH; автор отмечает гипотезу о возможной потере качества на IFEval, поэтому результаты не следует считать подтверждением превосходства модели. Язык модели в предоставленных данных отдельно не перечислен. Модель распространяется в формате safetensors. Лицензия в предоставленных данных не указана, поэтому условия использования следует сверить с карточками базовых моделей и репозиторием. Это экспериментальный чекпойнт; результаты могут отличаться от исходной instruct-модели.

Карточка модели princeton-nlp/Mistral-7B-Base-SFT-SimPO на Hugging Face совпадает с карточкой princeton-nlp/Llama-3-Base-8B-SFT, поэтому описание составлено по ней. princeton-nlp/Llama-3-Base-8B-SFT — разговорная модель генерации текста на архитектуре Llama, опубликованная как часть работы SimPO: Simple Preference Optimization with a Reference-Free Reward. Репозиторий содержит модель на 7,5 млрд параметров в формате safetensors; заявленная длина контекста — 8192 токена. Модель предназначена для диалоговой генерации текста и может использоваться для ответов на запросы и ведения беседы. README отсылает к репозиторию SimPO за дополнительными сведениями. Лицензия и конкретные языковые возможности в предоставленных данных не определены.

yethdev/mistral-7b-manumit-v1 — диалоговая языковая модель на основе Mistral-7B-Instruct-v0.3, доработанная методом abliteration с помощью инструмента manumit v1. Она предназначена для генерации текста и ответов в чате; README описывает снижение частоты отказов на запросы. По метаданным, модель имеет плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. В сравнении из README частота отказов указана как 2,1% против 16,7% у базовой модели, а результат MMLU — 61,2 против 61,8. Модель подходит для диалоговых сценариев и генерации ответов с менее строгими ограничениями на отказы. Abliteration-инструмент manumit в README назван находящимся в разработке; приведённые показатели ограничены указанным сравнением и сами по себе не характеризуют качество на других задачах. Репозиторий использует формат safetensors и библиотеку Transformers. Лицензия — Apache-2.0.

Mistral 7B SFT α — диалоговая языковая модель, разработанная HuggingFaceH4 и дообученная на базе mistralai/Mistral-7B-v0.1 с помощью TRL SFTTrainer на отфильтрованной и предварительно обработанной выборке UltraChat. Модель с архитектурой MistralForCausalLM содержит 7,1 млрд параметров и рассчитана на генерацию текста в диалогах; основной язык — английский. Указанная длина контекста — 32 768 токенов. Модель подходит для ответов на вопросы и ведения диалога на общие темы. В карточке приведён результат loss 0,9316 на оценочной выборке, но сравнительные показатели качества не указаны. Лицензия — MIT.

Модель Minbyul/mistral-7b-wo-kqa_silver_wogold-sft — дообученная на датасете HuggingFaceH4/deita-10k-v0-sft языковая модель семейства Mistral, разработанная на основе mistralai/Mistral-7B-v0.1. Это плотная авторегрессионная модель с 7,1 млрд параметров для генерации текста; максимальный контекст составляет 32 768 токенов. Модель подходит для генерации ответов и продолжения текста в сценариях, где нужен текстовый языковой интерфейс. Карточка сообщает о результате Loss 0,8699 на оценочном наборе, но не описывает протокол оценки и конкретные целевые сценарии. Указана лицензия Apache-2.0.

DevQuasar/mistralai.Magistral-Small-2509-GGUF — это квантизированная версия модели Magistral-Small-2509 от Mistral AI, подготовленная сообществом или организацией DevQuasar. Модель предназначена для генерации текста и совместима с форматом GGUF, который обычно используется для локального запуска языковых моделей, однако конкретный вариант квантования в README не указан. Из доступных данных известно только, что модель относится к задачам text-generation. Сведения о размере, архитектуре, количестве параметров, поддерживаемых языках, длине контекста и мультимодальных возможностях отсутствуют, поэтому их нельзя достоверно описать. Вероятным преимуществом является возможность более компактного локального размещения по сравнению с полной версией, но квантизация может влиять на качество и точность генерации. Лицензия и условия использования в README не указаны. Перед применением модели в коммерческих или публичных системах необходимо отдельно проверить лицензию исходной модели Magistral-Small-2509 и условия распространения квантизированной версии.

ehristoforu/mistral-distil-test-3 — текстовая генеративная модель на архитектуре Mistral, созданная с помощью mergekit методом passthrough на основе unsloth/Mistral-Nemo-Instruct-2407. В README приведена конфигурация объединения слоёв исходной модели; метаданные указывают 9 млрд параметров и формат safetensors. Модель предназначена для генерации текста и диалогового взаимодействия. Карточка не описывает специальные предметные области или отдельные функции помимо текстовой генерации и чата. В метаданных указан контекст 1 024 000 токенов. Модель опубликована под идентификатором Hugging Face, однако сведения о лицензии в предоставленных данных отсутствуют.

Dory 12b — дообученная BeaverAI версия Mistral Nemo Base 2407 с 12,1 млрд параметров. Модель предназначена для генерации текста в формате инструкций и диалога; для запросов используется шаблон с секциями System, Instruction и Response, похожий на Alpaca. Модель не ориентирована специально на эротический или ролевой контент. Она построена на плотной архитектуре Mistral и распространяется в формате safetensors через библиотеку Transformers. В метаданных указан контекст до 1 024 000 токенов и поддержка английского языка. Модель выпущена под лицензией Apache-2.0. README не приводит результатов оценки качества или подробностей о данных дообучения, кроме указания датасета BeaverAI/Nemo-Inst-Tune-ds в метаданных.

mistral-nemo-kartoffel-PRUNE3 — языковая модель на архитектуре Mistral, созданная nbeerbower с помощью mergekit. Это merge методом Passthrough из слоёв модели nbeerbower/mistral-nemo-kartoffel-12B: сохранены слои 0–22 и 36–40. Модель содержит 8,1 млрд параметров, распространяется в формате Safetensors и предназначена для генерации текста и диалогового взаимодействия. Указанная длина контекста — 1 024 000 токенов. Модель подходит для диалоговых приложений и генерации текста. README не приводит результаты оценки качества или подробные сценарии применения. Условия лицензии в предоставленных данных не описаны.

Mistral-Nemo-Prism-12B-GGUF — это набор квантизированных версий текстовой генеративной модели Mistral-Nemo-Prism-12B, опубликованный пользователем bartowski. Базовая модель разработана nbeerbower и дополнительно обучалась с использованием наборов данных Arkhaios-DPO и Purpura-DPO. Файлы представлены в формате GGUF для запуска через llama.cpp и совместимых приложений, включая LM Studio. Модель предназначена для генерации текста и диалоговых сценариев; в README указан шаблон промпта с ролями system, user и assistant. Доступны варианты от полного F16 до различных уровней квантизации Q8, Q6, Q5, Q4, Q3 и Q2, что позволяет выбирать между качеством, размером файла и требованиями к памяти. Размер базовой модели составляет 12B параметров, однако сведения о поддерживаемых языках, длине контекста и мультимодальности не приведены. Сильной стороной является широкий выбор квантизаций: варианты Q6 и Q5 заявлены как близкие к исходному качеству, а Q4 — как подходящие для большинства сценариев. Некоторые варианты оптимизированы для ARM, но требуют соответствующей аппаратной поддержки и не рекомендуются для Mac или Windows. К ограничениям относятся снижение качества у компактных вариантов и отсутствие подробных данных о качестве, языках и контекстном окне. Модель распространяется по лицензии Apache-2.0.

Mixtral_7Bx5_MoE_30B — языковая модель семейства Mixtral с архитектурой Mixture of Experts (MoE), опубликованная cloudyu. Согласно карточке, это объединение пяти моделей на базе Mistral 7B: Toten5/Marcoroni-neural-chat-7B-v1, NurtureAI/neural-chat-7b-v3-16k, mncai/mistral-7b-dpo-v6, cookinai/CatMacaroni-Slerp и ignos/Mistral-T5-7B-v1. Модель предназначена для генерации текста; карточка приводит примеры запуска на GPU и CPU. В репозитории указано 7,1 млрд параметров, контекст до 32 768 токенов и формат Safetensors. README не описывает специализацию и языковой охват, поэтому модель можно характеризовать только как генеративную языковую модель общего назначения. Лицензия CC BY-NC 4.0 разрешает использование с атрибуцией, но запрещает коммерческое применение.

zelk12/MT4-Gen5-gemma-2-9B — объединённая языковая модель на базе Gemma 2, созданная с помощью mergekit из zelk12/MT4-Gen5-GMA-gemma-2-9B и zelk12/MT4-Gen5-IBMUMM-gemma-2-9B. Для объединения использован метод SLERP с параметром t=0,25; веса сохранены в формате safetensors. Модель содержит 9 млрд параметров, использует архитектуру Gemma2ForCausalLM и имеет контекст до 8192 токенов. Модель предназначена для генерации текста и диалогового общения. Её можно использовать в чат-сценариях и приложениях, которым требуется генерация текста на основе языковой модели. Карточка не описывает отдельные специализированные области или языки. Лицензия — Gemma; перед использованием следует соблюдать её условия. Качество, языковое покрытие и ограничения модели отдельно в карточке не охарактеризованы.

zelk12 создал объединённую методом SLERP языковую модель Gemma 2 с 9 млрд параметров на основе zelk12/MT-Max-Merge_02012025163610-MUG-gemma-2-9B и zelk12/MT-Max-Merge_02012025163610-BI-gemma-2-9B. Модель предназначена для генерации текста и диалогового общения; она использует архитектуру Gemma2ForCausalLM, работает с контекстом до 8192 токенов и распространяется в формате safetensors для библиотеки Transformers. Модель подходит для ответов в чате и генерации текста по запросу. Данные не позволяют установить её языковое покрытие, специализацию или сравнительное качество. Лицензия в предоставленных источниках не указана.

zelk12 создал эту разговорную модель, объединив методом SLERP две предварительно обученные языковые модели: zelk12/MT-Gen4-gemma-2-9B и zelk12/MT3-Gen4-gemma-2-9B. Это плотная модель Gemma 2 с 9 млрд параметров, предназначенная для генерации текста и диалогов. Она поддерживает контекст длиной до 8192 токенов и работает через библиотеку Transformers; веса опубликованы в формате Safetensors. Модель подходит для диалоговых приложений и генерации текстовых ответов. В карточке указана лицензия Gemma, поэтому перед использованием следует соблюдать её условия. README не приводит оценок качества или специальных ограничений по сценариям применения.

Muse-Glimmer-30B Abliterated — дообученная версия Muse-Glimmer-30B, созданная автором репозитория jorkle. Это плотная мультимодальная модель семейства Muse-Glimmer с примерно 29,8 млрд параметров; карточка описывает вариант BF16 и отдельные квантизированные сборки GGUF. Модель предназначена для диалогового ассистирования общего назначения с уменьшенной склонностью к отказам. Для снижения частоты отказов применялось дообучение LoRA на 544 примерах с ограничением отклонения от базовой модели через KL-регуляризацию; адаптер затем объединён с базовыми весами. В README приведены измерения отказов и KL-дивергенции, но бенчмарки способностей не проводились. Модель может принимать текстовые и визуальные входы согласно мультимодальности базовой модели, однако карточка не описывает отдельно оценку этих возможностей. Указанная лицензия — Apache-2.0. Модель следует проверять на конкретном сценарии: снижение числа отказов не устраняет отказы полностью, а результаты тестирования выявили как пропуски ожидаемых отказов, так и отдельные отказы на кибербезопасностных запросах.

My-Zephyr-7B-iter-2 — диалоговая модель для генерации текста, созданная TTTXXX01 дообучением My-Zephyr-7B-iter-1 на обновлённом и исходном наборах данных. Она основана на плотной архитектуре Mistral и содержит 7,1 млрд параметров; модель рассчитана на контекст до 32 768 токенов и поддерживает диалоговый режим. Подходит для ответов на запросы и генерации текста в чат-сценариях. Модель распространяется по лицензии MIT. В README не приведены сведения об оценке качества и целевых сценариях обучения, поэтому её результаты для конкретных задач следует проверять отдельно.

MuXodious/Nanbeige4.2-3B-ARA-heresy — дообученная версия Nanbeige4.2-3B, созданная с помощью Heretic и Arbitrary-Rank Ablation с нормализацией строк весов. Проект разработал MuXodious на основе модели Nanbeige; README сообщает, что финальный вариант выбрали по результатам PiQA. В эксперименте число отказов снизилось с 535 из 540 до 9 из 540, при этом измеренная KL-дивергенция составила 0,0824. Модель предназначена для генерации текста в диалогах и может использоваться как менее склонный к отказам вариант базовой модели для общих запросов, рассуждений, программирования и агентных сценариев. Базовое семейство Nanbeige4.2-3B рассчитано на вызов инструментов и многошаговые рабочие процессы; сама карточка этой версии не приводит отдельных оценок её агентных возможностей. Это плотная причинная языковая модель архитектуры NanbeigeForCausalLM на 3,2 млрд параметров с контекстом до 262 144 токенов. В метаданных указаны английский и китайский языки. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Снижение числа отказов может ослабить защитное поведение; результаты, приведённые в карточке, не гарантируют качество на произвольных задачах.

Neophanis-8x7B — экспериментальная инструктивная модель Envoid, созданная четырёхэтапным QLoRA-дообучением mistralai/Mixtral-8x7B-v0.1. Это текстовая авторегрессионная модель семейства Mixtral с архитектурой MoE; в метаданных указано 7,1 млрд параметров и контекстное окно 32 768 токенов. Для инструктивного поведения автор обучал модули внимания, а последующие этапы затронули также слои MLP и использовали расширявшиеся наборы необработанного текста. Модель предназначена для ответов на инструкции, диалогов и ролевых сценариев, включая форматы SillyTavern и шаблон Mistral/Mixtral Instruct. Автор отмечает, что ответы могут быть неточными и галлюцинаторными, а при длинном контексте модель может перестать корректно выдавать EOS и завершать ответ. Репозиторий содержит веса safetensors; для модели указана лицензия CC BY-NC 4.0, которая ограничивает коммерческое использование.

uukuguy/neural-chat-7b-v3-1-dare-0.85 — экспериментальная версия Intel/neural-chat-7b-v3-1, созданная с применением метода DARE (Drop and REscale). В ней случайным образом обнулена доля весовых изменений, соответствующая weight_mask_rate 0.85, с масштабированием оставшихся изменений. Это плотная авторегрессионная языковая модель семейства Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для генерации текста и может использоваться для диалога, ответов на вопросы и решения текстовых задач. В карточке приведены результаты бенчмарков ARC, HellaSwag, MMLU, TruthfulQA, Winogrande, GSM8K и DROP, однако подробные инструкции по запуску и оценке качества отсутствуют. Распространяется в формате PyTorch по лицензии Llama 2; условия лицензии следует учитывать при использовании.

NeuralsirkrishnaShadow_Experiment24Experiment28 — слитая языковая модель, опубликованная MaziyarPanahi. Она объединяет модели automerger/NeuralsirkrishnaShadow-7B и automerger/Experiment24Experiment28-7B и предназначена для генерации текста. Модель построена на архитектуре Mistral, содержит 7,1 млрд параметров и принимает контекст длиной до 32 768 токенов. Модель подходит для генерации продолжений текста, диалоговых ответов и помощи в написании текстов. Репозиторий содержит веса в формате safetensors; лицензия — Apache 2.0. README не описывает специальные предметные области или подробные результаты оценки качества.