II.1Анализ требований и архитектура ПО

murtsu/capnstop — чат-модель на базе Granite 4.2 с системным промптом, который задаёт ограниченный бюджет усилий для ответа. Она предназначена для диалога и генерации текста, когда важны краткость и проверяемость: модель разбивает задачу на подцели, проверяет их по критериям завершения и останавливается после подтверждения результата. Если не может проверить часть ответа, она должна сообщить об этом и оценить уверенность, а при затруднении — попробовать другой подход вместо повторения одной попытки. Подход Budgeted Reward Allocation Марко Тахванайнена реализован промптингом, а не дообучением. Модель основана на Granite 4.2 и распространяется в формате GGUF для запуска через Ollama. В README указаны параметры генерации: temperature 0.6, top_p 0.95 и repeat_penalty 1.15. Лицензия — Apache 2.0.

bcoding/deepseek-llvm-sft-merged-7B — дообученная bcoding модель для генерации текста и диалогового общения. Она основана на unsloth/DeepSeek-R1-Distill-Qwen-7B-unsloth-bnb-4bit, использует плотную архитектуру Qwen2 с 7,1 млрд параметров и рассчитана на контекст до 131 072 токенов. Для обучения применялись Unsloth и библиотека Hugging Face TRL; карточка сообщает об ускоренном обучении. Модель подходит для генерации ответов в чате и других текстовых сценариев. В метаданных указан английский язык. Модель распространяется по лицензии Apache-2.0.

Карточка модели KnutJaegersberg/Deita-Mixtral-8x7b на Hugging Face совпадает с карточкой KnutJaegersberg/Deita-34b, поэтому описание составлено по ней. KnutJaegersberg/Deita-34b — языковая модель для генерации текста, построенная на архитектуре Llama с плотной схемой и 33,9 млрд параметров. Модель рассчитана на инструкции и диалоговые запросы; в README приведён пример ответа на вопрос о тонкой настройке языковой модели. Контекстное окно составляет 4096 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0. В метаданных указан датасет KnutJaegersberg/Deita-6k; они не уточняют связь модели с базовым чекпойнтом или способ её обучения.

DolphinHermesPro-ModelStock — языковая модель для генерации текста, созданная с помощью LazyMergekit путём слияния Dolphin 2.8 Experiment26 7B, Hermes 2 Pro Mistral 7B и Mistral 7B v0.1 методом model_stock. Это плотная причинная модель семейства Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов; репозиторий содержит веса Safetensors. Модель подходит для диалогов, ответов на вопросы и генерации текста в приложениях на основе LLM. Данные не уточняют поддерживаемые языки и специальные возможности. Лицензия — Apache-2.0.

Equatorium-v3-12B — языковая модель на 12,1 млрд параметров, созданная grimjim с помощью mergekit путём слияния нескольких предварительно обученных моделей семейства Mistral. В качестве базовой использована grimjim/mistralai-Mistral-Nemo-Base-2407; также в слияние вошли Rei-V3-KTO-12B, AbMagnolia-v1-12B и Mistral-Nemo-Instruct-2407. Модель использует плотную архитектуру MistralForCausalLM и принимает текст для генерации текста. Модель предназначена для генерации связных ответов и продолжения текста в сценариях, типичных для языковых моделей этого семейства. Автор отмечает, что слияние выбиралось с учётом устойчивости и связности ответов при температуре 1,0 и параметре minP 0,02. Поддерживается контекст до 131 072 токенов. Указана лицензия Apache-2.0.

Experiment26Neuralsirkrishna_Experiment28Yam — объединённая модель, созданная на основе automerger/Experiment26Neuralsirkrishna-7B и automerger/Experiment28Yam-7B. Она предназначена для генерации текста и может использоваться в приложениях, которым нужна языковая модель общего назначения. Модель построена на архитектуре Mistral с плотной структурой и содержит 7,1 млрд параметров. Длина контекста составляет до 32 768 токенов. Веса опубликованы в формате safetensors, лицензия — Apache-2.0. Данных о специализированной области применения или языках в карточке нет.

Experiment26Yamshadow_Experiment24Inex12 — объединённая модель семейства Mistral, созданная из automerger/Experiment26Yamshadow-7B и automerger/Experiment24Inex12-7B. Она предназначена для генерации текста и может использоваться в приложениях, которым нужна языковая модель общего назначения. Модель имеет плотную архитектуру MistralForCausalLM и 7,1 млрд параметров. Контекст составляет до 32 768 токенов; веса опубликованы в формате safetensors. Репозиторий распространяется по лицензии Apache-2.0. Карточка не описывает отдельные специализации или подтверждённые языковые предпочтения модели.

Experiment28M7_Experiment26Yam — объединённая модель Mistral от MaziyarPanahi, созданная на основе automerger/Experiment28M7-7B и automerger/Experiment26Yam-7B. Она предназначена для генерации текста и может использоваться в приложениях, которым нужны ответы или продолжения текста на основе текстового запроса. Модель содержит 7,1 млрд параметров, использует плотную архитектуру Mistral и поддерживает контекст до 32 768 токенов. Веса представлены в формате Safetensors. Репозиторий распространяется по лицензии Apache-2.0.

MaziyarPanahi/Experiment28T3q_Inex16Calme — объединённая модель семейства Mistral с плотной архитектурой MistralForCausalLM и 7,1 млрд параметров. Она создана слиянием automerger/Experiment28T3q-7B и automerger/Inex16Calme-7B. Модель предназначена для генерации текста и принимает текстовые запросы. Контекстное окно составляет 32 768 токенов. Репозиторий содержит веса в формате Safetensors; лицензия — Apache-2.0.

Experiment28T3q_Neuralsirkrishnaexperiment26Experiment24 — объединённая модель семейства Mistral от MaziyarPanahi, созданная на основе automerger/Experiment28T3q-7B и automerger/Neuralsirkrishnaexperiment26Experiment24-7B. Она предназначена для генерации текста и может использоваться для диалогов и ответов на текстовые запросы. Модель имеет плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст длиной до 32 768 токенов. Веса доступны в формате Safetensors. Лицензия — Apache-2.0.

G9v3-39A5B-Q3Q4-GGUF — квантованная GGUF-версия причинной языковой модели с архитектурой Mixture-of-Experts от команды AI9Stars. Базовая модель G9v3-39A5B содержит около 39 млрд параметров, из которых при генерации активируется около 5 млрд на токен. Контекст составляет до 131 072 токенов; модель ориентирована на английский и китайский языки. Модель предназначена для диалогового помощника, программирования, работы с инструментами и задач рассуждения. В одном чекпойнте доступны режимы Think и No Think. Карточка описывает запуск локально и на одной видеокарте с 24 ГБ памяти; для GGUF-квантизации авторы отмечают, что варианту требуется уровень Q3 для полноценной работы, а сама модель не особенно хорошо поддаётся квантизации. Модель выпущена как предварительная версия. Ответы могут быть неточными, предвзятыми или небезопасными и требуют проверки, особенно в важных сценариях; поведение может меняться между версиями. Лицензия — Apache-2.0.

Gemma 3 27B IT GGUF — квантизированная версия инструкционной модели Gemma 3 27B IT, разработанной Google. Модель подготовлена сообществом LM Studio, а GGUF-квантизацию выполнил bartowski на основе llama.cpp. Она предназначена для локального запуска и генерации текста, включая ответы на вопросы, суммаризацию и задачи рассуждения. Модель поддерживает мультимодальный ввод с изображениями, нормализованными до разрешения 896 × 896, а также текстовые сценарии. Заявленная длина контекста составляет до 128 000 токенов, максимальная длина вывода — 8 192 токена. В README не указаны полный перечень поддерживаемых языков, конкретный метод и уровень квантизации, а также требования к аппаратным ресурсам. К сильным сторонам относятся большой контекст, поддержка понимания изображений и пригодность для локального использования через формат GGUF. Ограничения связаны с зависимостью от совместимого llama.cpp runtime версии 1.19.0 или новее, причём актуальная версия runtime на момент публикации обозначена как beta. Как квантизированная сборка, модель может отличаться по качеству и потреблению ресурсов от оригинальной версии. Доступ и использование регулируются лицензией Gemma от Google.

Grafted-Hermetic-Platypus-B-2x7B — языковая модель для диалогов и генерации текста, созданная объединением Platyboros-Instruct-7B и Hermes-Instruct-7B-100K. Модель построена на архитектуре Mixtral с механизмом смеси экспертов (MoE), содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель подходит для ответов на инструкции, диалогов и других задач генерации текста. В README указаны два варианта формата запросов: Mistral-Instruct и Alpaca; токенизатор по умолчанию настроен на Alpaca. В карточке приведены результаты оценок на нескольких тестах, включая AI2 Reasoning Challenge и HellaSwag. Модель распространяется по лицензии Apache-2.0. Данные о поддерживаемых языках и специфических ограничениях качества в предоставленных материалах отсутствуют.

Hermes-3-Llama-3.1-70B-lorablated — диалоговая модель mlabonne на архитектуре Llama 3.1, созданная слиянием Hermes-3-Llama-3.1-70B от NousResearch с адаптером abliteration. Модель предназначена для генерации ответов в диалоге и выполнения инструкций; версия lorablated настроена на снижение отказов отвечать на допустимые запросы. В карточке приведены результаты оценивания на IFEval и BBH. Модель содержит 69,5 млрд параметров, использует архитектуру LlamaForCausalLM и формат safetensors; максимальный контекст — 131 072 токена. Для работы с ней нужны текстовые запросы, ответы генерируются в текстовом виде. Указана библиотека Transformers. Сведений о лицензии в доступных данных нет.

HyperLLama3.1-8b-Nova — объединённая языковая чат-модель, созданная bunnycore с помощью mergekit и метода Model Stock. В объединение вошли bunnycore/LLama-3.1-8b-Ultra-Max-Pro, bunnycore/HyperLlama-3.1-8B, bunnycore/StockLLama-3.1-8B и arcee-ai/Llama-3.1-SuperNova-Lite; архитектура — плотная LlamaForCausalLM, размер — 7,5 млрд параметров. Модель предназначена для генерации текста и диалогов. Она принимает текст и выдаёт текст, поддерживает контекст до 131 072 токенов и доступна в формате safetensors для Transformers. Карточка описывает способ объединения, но не приводит сравнительных оценок качества или подробностей о поведении модели. В метаданных указана англоязычная базовая модель Arcee.ai на базе Llama 3.1 8B Instruct; отдельные сведения о лицензии этой модели здесь не приведены.

Infinity-Instruct-3M-0625-Llama3-70B — языковая модель Beijing Academy of Artificial Intelligence (BAAI), дообученная методом supervised instruction tuning на наборах Infinity-Instruct-3M и Infinity-Instruct-0625. Это плотная причинная модель семейства Llama с 69,5 млрд параметров, предназначенная для диалогов и следования текстовым инструкциям; она не проходила RLHF. Модель использует шаблон чата Llama 3 Instruct, принимает текст и генерирует текст, а её контекст составляет 8192 токена. В карточке заявлены благоприятные результаты на AlpacaEval 2.0, однако приведённая таблица и текст описывают разные варианты модели, поэтому результаты конкретно этой версии следует трактовать осторожно. Подходит для диалоговых ассистентов, ответов на вопросы и выполнения инструкций, в том числе в задачах с кодом и математикой. Модель ориентирована на английский язык согласно метаданным; оснований считать её специально адаптированной для русского нет. Репозиторий распространяется под Apache-2.0, но README отдельно ограничивает использование связанных ресурсов академическими исследованиями и запрещает коммерческое применение; следует учитывать это ограничение и проверять применимые условия перед использованием.

InnerILLM-OpenPipe-Nous-Yarn-Mistral-optimized-1228-7B-slerp — объединённая модель на базе Mistral, созданная с помощью LazyMergekit методом SLERP из OpenPipe/mistral-ft-optimized-1218 и NousResearch/Yarn-Mistral-7b-128k. Она предназначена для генерации текста и диалоговых сценариев; второй компонент ориентирован на работу с длинным контекстом. Модель имеет плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и принимает текст, выдавая текст. Метаданные указывают длину контекста 32 768 токенов. Модель опубликована в формате Safetensors и распространяется по лицензии Apache-2.0. README описывает состав и метод слияния, но не приводит оценок качества или подробных результатов тестирования, поэтому пригодность для конкретных задач следует проверять на собственных данных.

InternLM2.5-20B-Chat — разговорная текстовая модель семейства InternLM, разработанная командой InternLM. Данный репозиторий содержит её квантизованные версии в формате GGUF, подготовленные Second State Inc. на основе модели internlm/internlm2_5-20b-chat и предназначенные для локального запуска средствами, совместимыми с GGUF, включая LlamaEdge. Модель предназначена для генерации текста и диалоговых сценариев; README также указывает поддержку использования инструментов через специальный шаблон prompt. Это текстовая модель без заявленной поддержки других модальностей. Она содержит 20 миллиардов параметров, использует шаблон ChatML и поддерживает контекст размером до 32 000 токенов. Доступны варианты квантования от Q2_K до Q8_0, а также f16; их размер составляет примерно от 7,55 до 39,7 ГБ. Основное преимущество репозитория — выбор компромисса между размером файлов и качеством: Q4_K_M рекомендован как сбалансированный вариант, а Q5_K_M и Q5_K_S — как варианты с минимальной потерей качества. Более агрессивное квантование уменьшает требования к памяти, но может заметно ухудшить качество ответов. Для запуска с LlamaEdge требуется версия 0.13.0 или выше. Лицензия указана как other, без дополнительных условий в README.

johnpaulbin/johnpaulbin-e2-instruct-merge-fp16 — объединённая языковая модель, созданная разработчиком johnpaulbin с помощью LazyMergekit из johnpaulbin/llama3.1-8b-e2-epoch3-merged-fp16 и meta-llama/Meta-Llama-3.1-8B-Instruct. Используется архитектура LlamaForCausalLM с плотной архитектурой и примерно 7,5 млрд параметров; веса представлены в формате safetensors. Для объединения применён метод TIES с нормализацией и int8-маской. Модель предназначена для генерации текста по текстовым запросам. Указанное базовое семейство — Meta Llama 3.1, а длина контекста составляет 131 072 токена. В метаданных нет сведений о лицензии и поддерживаемых естественных языках, поэтому условия использования и языковой охват здесь не описаны.

Llama-3.1-Nemotron-70B-Instruct-HF-GGUF — крупная языковая модель для генерации текста, разработанная NVIDIA на основе Llama 3.1 Nemotron 70B Instruct. Представленная версия распространяется в формате GGUF; квантизация выполнена bartowski с использованием llama.cpp версии b3901. Модель ориентирована на повышение полезности ответов на пользовательские запросы и предназначена для диалоговых приложений, ассистентов и других сценариев текстовой генерации. Модель содержит 70 миллиардов параметров, поддерживает контекст длиной до 128 тысяч токенов и предназначена прежде всего для работы с английским языком. В README указана специализация на текстовой модальности и приведены результаты оценки: Arena Hard — 85,0, AlpacaEval 2 LC — 57,6 и GPT-4-Turbo MT-Bench — 8,98. В качестве набора данных указан NVIDIA HelpSteer2. К сильным сторонам относятся большой контекст, высокая заявленная полезность ответов и возможность использования GGUF-версии в совместимых инструментах локального запуска. Модель может генерировать неточные, вредные или неподходящие ответы, а README не содержит подробностей о требованиях к аппаратному обеспечению и конкретном варианте квантизации. Лицензия указана как llama3.1; условия её применения следует проверять в исходной карточке модели NVIDIA.

Это GGUF-сборка модели Llama 3.1 Nemotron 70B Instruct, опубликованная MarsupialAI. Она основана на Meta Llama 3.1 70B Instruct и предназначена для диалоговой генерации текста. В метаданных указана связь с датасетом NVIDIA HelpSteer2; README сообщает, что сборка использует iMatrix, созданную с помощью groups_merged.txt от Kalomaze. Модель можно применять для диалоговых ассистентов, ответов на вопросы и генерации текста на английском и других поддерживаемых языках базовой модели. Репозиторий содержит формат GGUF, подходящий для запуска совместимыми средствами инференса. Размер базовой модели — 70 млрд параметров. Используется лицензия Llama 3.1; перед применением необходимо соблюдать её условия.

Llama-3.1-Tulu-3-8B-GGUF — текстовая генеративная модель, созданная Allen Institute for AI (AI2) на базе Llama 3.1 Tulu 3 8B. Она предназначена для генерации текста и решения разнообразных задач, включая сценарии, где важны высокая производительность и работа с длинным контекстом. Модель доступна в формате GGUF для использования через llama.cpp и совместимых приложений, включая LM Studio. Модель содержит 8 млрд параметров, поддерживает контекст длиной до 128 тысяч токенов и, согласно карточке, ориентирована на английский язык. Исходная модель, а также данные, код и рецепты обучения заявлены как полностью открытые. GGUF-квантизация выполнена bartowski на основе llama.cpp b4132; конкретные варианты квантизации в README не указаны. Модель распространяется по лицензии llama3.1. README не содержит подробных результатов бенчмарков, сведений о дополнительных модальностях или точных ограничениях качества, поэтому её возможности следует оценивать с учётом возможных неточных или неподходящих ответов генеративной модели.

Llama-Nephilim-Metamorphosis-v2-8B — объединённая языковая модель на архитектуре Llama, созданная автором репозитория с помощью mergekit. В неё с небольшим весом добавлена модель grimjim/llama-3-Nephilim-v3-8B, дообученная на основе Instruct, а основой служит Meta-Llama-3.1-8B-Instruct. После объединения дополнительное обучение не проводилось. Модель предназначена для прямого диалога и генерации текста. Она содержит около 7,5 млрд параметров, рассчитана на контекст до 131 072 токенов и сохраняет возможности обработки длинного контекста; автор сообщает о тестировании до 16 тыс. токенов. Используются архитектура Llama и формат safetensors. Карточка отмечает преимущественно сохранённое поведение безопасности. Модель принимает текст и генерирует текст. Она распространяется по лицензии llama3.1; применяйте её с соблюдением условий этой лицензии.

MaziyarPanahi/M7Yamshadowexperiment28_Experiment24Inex12 — слитая языковая модель семейства Mistral с архитектурой MistralForCausalLM и 7,1 млрд параметров. Она предназначена для генерации текста и принимает текстовые запросы, выдавая текст. Модель создана путём объединения automerger/M7Yamshadowexperiment28-7B и automerger/Experiment24Inex12-7B. Поддерживает контекст до 32 768 токенов и распространяется в формате safetensors. Лицензия — Apache-2.0.

MeliodasPercival_01_NeuralsirkrishnaM7 — объединённая модель на базе двух моделей Mistral: automerger/MeliodasPercival_01-7B и automerger/NeuralsirkrishnaM7-7B. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и принимает контекст длиной до 32 768 токенов. Модель предназначена для генерации текста и диалогов. Она принимает текстовые запросы и выдаёт текст; поддерживаемый язык в предоставленных данных не указан. Файлы весов опубликованы в формате safetensors. Лицензия — Apache-2.0.

MeliodasPercival_01_YamT3qm7xp — объединённая языковая модель на архитектуре Mistral, созданная из automerger/MeliodasPercival_01-7B и automerger/YamT3qm7xp-7B. Модель содержит 7,1 млрд параметров и поддерживает контекст длиной до 32 768 токенов. Она предназначена для генерации текста и может использоваться в сценариях, где требуется создавать продолжения и ответы на основе текстового запроса. Веса доступны в формате Safetensors; лицензия — Apache 2.0.

Merlinite-7B — языковая модель IBM Research для генерации текста и диалогового общения. Это плотная авторегрессионная модель архитектуры Mistral с 7,1 млрд параметров, дообученная на базе mistralai/Mistral-7B-v0.1 методом LAB (Large-scale Alignment for chatBots). При подготовке использовалась синтетическая обучающая выборка, созданная с помощью Mixtral-8x7B-Instruct в роли учителя. Модель рассчитана прежде всего на английский язык и поддерживает контекст до 32 768 токенов. Её можно применять для ответов на вопросы, рассуждений, творческого письма и работы с информацией из документов. Авторы рекомендуют использовать системный промпт из обучения для оптимальной работы. Merlinite-7B не проходила выравнивание по человеческим предпочтениям с помощью RLHF и может выдавать проблемные или вымышленные ответы; сохраняются и ограничения базовой модели. Для важных решений ответы нужно проверять. Модель распространяется по лицензии Apache 2.0.

Это версия Meta-Llama-3.1-8B-Instruct в формате GGUF, подготовленная mlx-community и опубликованная MaziyarPanahi. Модель предназначена для диалоговой генерации текста и выполнения инструкций; её можно запускать локально с помощью llama.cpp и совместимых приложений. Каталог указывает на 8 млрд параметров у базовой модели и плотную архитектуру семейства Mistral. Репозиторий содержит файлы GGUF в формате BF16. README перечисляет llama.cpp, llama-cpp-python, LM Studio, text-generation-webui и другие совместимые средства запуска. Лицензия и конкретные ограничения применения в предоставленных данных не описаны.

Mistral-Passthrough-8L-10B — текстовая авторегрессионная модель на архитектуре Mistral, созданная DeepKarkhanis с помощью LazyMergekit. Веса собраны методом passthrough из двух диапазонов слоёв одной модели mistralai/Mistral-7B-Instruct-v0.2; репозиторий содержит формат Safetensors, а размер модели составляет 7,1 млрд параметров. Модель предназначена для генерации текста и диалоговых ответов. Контекст — до 32 768 токенов. Используется лицензия Apache-2.0.

Mistral-Trismegistus-7B-Mistral-7B-Instruct-v0.1 — объединённая модель на архитектуре Mistral, созданная слиянием Mistral-7B-Instruct-v0.1 и Mistral-Trismegistus-7B методом SLERP. Она предназначена для генерации текста в ответ на инструкции и диалоговые запросы. Модель содержит 7,1 млрд параметров, принимает текст и рассчитана на контекст до 32 768 токенов. В метаданных указан английский язык. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Карточка описывает состав слияния и параметры конфигурации, но не приводит сравнительных оценок качества; результаты могут зависеть от формулировки запроса и сценария применения.