II.1Анализ требований и архитектура ПО

llama3.1-airoboros3.2-QDT-8B — плотная авторегрессионная языковая модель семейства Llama 3.1, созданная дообучением Meta Llama 3.1 8B Instruct на наборе jondurbin/airoboros-3.2. Модель содержит 7,5 млрд параметров, использует формат чата Llama 3 Instruct и рассчитана на генерацию текста в диалоговом режиме; заявленная длина контекста — 131 072 токена. Модель может применяться для ответов на запросы и ведения диалога. Она обучалась один цикл на 25% данных набора из-за ограниченных ресурсов, поэтому качество может быть нестабильным. Распространяется по лицензии llama3.

LLaMa-3.2-Instruct-JankMixBread-v0.1-3B — объединённая диалоговая языковая модель, созданная с помощью mergekit на основе Meta Llama 3.2. В состав слияния вошли meta-llama/Llama-3.2-3B-Instruct и PJMixers-Dev/LLaMa-3.2-Instruct-JankMix-v0.1-SFT-3B; использован метод breadcrumbs_ties. Модель имеет плотную архитектуру LlamaForCausalLM и около 3,2 млрд параметров. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на запросы и следование инструкциям. Заявленный размер контекста — 131 072 токена; репозиторий содержит веса safetensors и использует библиотеку Transformers. Метаданные указывают на мультиязычную основу, но конкретный перечень языков для этой модели не приведён. Модель распространяется по лицензии Llama 3.2. В README приведены результаты Open LLM Leaderboard, включая IFEval 50,41 и BBH 22,76; подробные результаты в доступной карточке отсутствуют. Слияние моделей не гарантирует улучшения качества относительно исходных чекпойнтов.

Llama-3-8B-Instruct-Gradient-4194k-GGUF — это версия модели Llama-3-8B-Instruct-Gradient-4194k в формате GGUF, конвертированная с помощью llama.cpp через сервис GGUF-my-repo. Конкретный автор конвертации — leafspark; исходная модель разработана Gradient AI. Модель предназначена для генерации текста и диалоговых сценариев, а запускать её можно с помощью llama.cpp. Это текстовая instruct-модель на базе архитектуры Llama 3 с размером 8 млрд параметров. README указывает английский язык и не сообщает о поддержке других языков или мультимодальности. Доступны варианты с разной степенью квантования — от F16 размером 14,9 ГБ до Q2_K размером 2,95 ГБ; рекомендуются Q6_K и Q4_K_M как варианты, сочетающие качество и экономию памяти. Заявленное контекстное окно составляет 4194k, однако в квантованных версиях его настройка описана как проблемная и требует параметров RoPE. Сильными сторонами являются широкий выбор квантованных вариантов и возможность локального запуска, включая версии Q4 и выше с заявленным хорошим качеством. Ограничения включают возможные проблемы с форматом prompt, необходимость использовать формат Llama 3, а также появление в выводе токенов EOS, например </s>. Модель распространяется по лицензии llama3; условия исходной модели следует уточнять в её оригинальной карточке.

OpenRLHF подготовила контрольную точку Llama 3 8B, обученную с помощью RLHF и PPO. Это плотная авторегрессионная языковая модель с 7,5 млрд параметров для генерации текста и диалоговых сценариев; веса доступны в формате safetensors. Указанный контекст составляет 8192 токена. В README приведены параметры обучения: PPO с одной эпохой, нормализацией награды и ограничением выборки до 100 тысяч примеров для экономии ресурсов GPU. Модель можно применять для генерации ответов в диалоге и продолжения текста. README не раскрывает идентификаторы базовой SFT-модели, reward model и набора промптов, поэтому определить точную базовую модель по имеющимся данным нельзя.

QuantFactory/LLaMA-3-8B-SFR-SFT-R-GGUF — квантизированная версия модели Salesforce/LLaMA-3-8B-SFR-SFT-R в формате GGUF, созданная с использованием llama.cpp. Модель разработана на основе семейства LLaMA 3 и представляет собой SFT-модель, связанную с проектом Salesforce/SFR-Iterative-DPO-LLaMA-3-8B-R; в исходной работе участвовали исследователи Salesforce и соавторы технического отчёта о рабочем процессе RLHF. Модель предназначена для генерации текста и сценариев, где требуется использовать дообученную instruction-following модель на базе LLaMA 3. Квантизация и формат GGUF ориентированы на запуск через совместимые инструменты, включая llama.cpp, и могут снизить требования к памяти по сравнению с полноразмерными весами, хотя конкретный тип квантизации в README не указан. Из известных характеристик указаны размер 8B и текстовая модальность; сведения о языках, размере контекста, архитектурных деталях и целевых бенчмарках отсутствуют. К сильным сторонам относятся дообучение методом supervised fine-tuning и возможность локального запуска в экосистеме GGUF. Ограничения включают отсутствие в README подробностей о качестве, поддерживаемых языках, контекстном окне и точном варианте квантизации. Модель распространяется по лицензии llama3.

princeton-nlp/Llama-3-Base-8B-SFT — разговорная модель генерации текста на архитектуре Llama, опубликованная как часть работы SimPO: Simple Preference Optimization with a Reference-Free Reward. Репозиторий содержит модель на 7,5 млрд параметров в формате safetensors; заявленная длина контекста — 8192 токена. Модель предназначена для диалоговой генерации текста и может использоваться для ответов на запросы и ведения беседы. README отсылает к репозиторию SimPO за дополнительными сведениями. Лицензия и конкретные языковые возможности в предоставленных данных не определены.

Карточка модели princeton-nlp/Llama-3-Base-8B-SFT-DPO на Hugging Face совпадает с карточкой princeton-nlp/Llama-3-Base-8B-SFT, поэтому описание составлено по ней. princeton-nlp/Llama-3-Base-8B-SFT — разговорная модель генерации текста на архитектуре Llama, опубликованная как часть работы SimPO: Simple Preference Optimization with a Reference-Free Reward. Репозиторий содержит модель на 7,5 млрд параметров в формате safetensors; заявленная длина контекста — 8192 токена. Модель предназначена для диалоговой генерации текста и может использоваться для ответов на запросы и ведения беседы. README отсылает к репозиторию SimPO за дополнительными сведениями. Лицензия и конкретные языковые возможности в предоставленных данных не определены.

Llama3-Crab-SFT — англоязычная плотная авторегрессионная языковая модель семейства Llama, разработанная Yunjia Qi, Hao Peng, Xiaozhi Wang, Bin Xu, Lei Hou и Juanzi Li. Модель дообучена на основе Llama3-8B с использованием набора CRAB, созданного методом constraint back-translation: к качественным парам инструкций и ответов добавлялись сложные ограничения, уже соблюдённые в ответах. Модель предназначена для генерации текста по инструкциям и особенно для задач, где нужно точно выполнять несколько требований к формату, длине или содержанию ответа. В карточке описано улучшение следования сложным инструкциям при оценке на бенчмарках IFEval и FollowBench. Размер модели — 7,5 млрд параметров, контекст — 8192 токена; доступны веса в формате PyTorch. Модель лицензирована по Apache-2.0. Её возможности описаны для английского языка; карточка не приводит ограничений, кроме того, что целевая специализация — выполнение сложных инструкций.

Llama-3-Hercules-5.0-8B — дообученная Locutusque языковая модель на базе Llama 3 8B. Она предназначена для выполнения инструкций, диалогов и вызова функций в научных и технических областях. Модель имеет плотную архитектуру LlamaForCausalLM, около 7,5 млрд параметров и контекст до 8192 токенов; репозиторий содержит веса в формате safetensors. Модель подходит для научно-технических чат-ботов, образовательных помощников, пошаговых объяснений и генерации кода с использованием вызовов функций. В карточке заявлена работа с биологией, химией, физикой, математикой, медициной и информатикой. Сведения о поддерживаемых естественных языках не приведены. Модель может выдавать токсичный контент, галлюцинировать и допускать фактические ошибки, в том числе в специализированных темах; ответы и вызовы функций требуют проверки. Лицензия указана как llama3.

M7-7b — текстовая генеративная модель на архитектуре Mistral, опубликованная пользователем liminerity. Это плотная причинная языковая модель объёмом 7,1 млрд параметров с контекстом до 32 768 токенов. В карточке приведён пример ответа на запрос о создании ASCII-арта; модель предназначена для генерации текста и диалоговых сценариев. Согласно README, модель Multiverse-Experiment-slerp-7b создана с помощью mergekit путём слияния liminerity/merge4 и liminerity/merge2; метаданные также указывают liminerity/merge4 как базовую модель. Репозиторий содержит веса Safetensors. Лицензия — Apache-2.0. Карточка демонстрирует текстовый вывод, но не приводит подробной оценки качества или ограничений.

M7Yamshadowexperiment28_Experiment28Strangemerges_32 — слитая языковая модель семейства Mistral, созданная объединением automerger/M7Yamshadowexperiment28-7B и automerger/Experiment28Strangemerges_32-7B. Она содержит 7,1 млрд параметров, построена на плотной архитектуре MistralForCausalLM и предназначена для генерации текста по текстовому запросу с контекстом до 32 768 токенов. Модель подходит для диалоговых сценариев, продолжения текста и других задач генерации на базе языковой модели. В карточке не приведены сведения о целевых языках, специализированных навыках или результатах оценки качества, поэтому их нельзя определить по доступным данным. Репозиторий распространяется под лицензией Apache-2.0.

SJTU-DENG-Lab/MBD-Code-SDAR-8B-Chat-b32 — чат-модель семейства SDAR с плотной архитектурой SDARForCausalLM, разработанная лабораторией SJTU-DENG-Lab. Это вариант Multi-Block Diffusion Language Model (MBD-LM), обученный методом Multi-block Teacher Forcing для генерации текста с параллельным декодированием нескольких последовательных блоков. Модель предназначена для диалоговой генерации текста. MBD-LM развивает Block Diffusion Language Models: использует KV-кэширование и генерацию переменной длины, а MultiBD декодирует несколько блоков одновременно для параллелизма между блоками. Размер модели — 7,6 млрд параметров, контекст — 32 768 токенов. Репозиторий содержит веса Safetensors для Transformers; лицензия — MIT.

EmbeddedLLM/Medusa2-Mistral-7B-Instruct-v0.2 — модель Medusa для Mistral 7B Instruct v0.2, обученная с использованием Medusa 2. Архитектура — плотная авторегрессионная языковая модель MistralForCausalLM с 7,1 млрд параметров; контекст — до 32 768 токенов. Модель предназначена для генерации текста в диалоговом формате, а Medusa используется для ускорения инференса за счёт предсказания нескольких токенов. Для обучения применён набор данных само-дистилляции Mistral 7B Instruct v0.2 с температурой 0,3 и целевой длиной вывода 2048 токенов. Модель рассчитана на сценарии чат-ответов и генерации текста; сведения о поддерживаемых естественных языках в предоставленных источниках отсутствуют. Репозиторий содержит веса PyTorch и использует лицензию Apache-2.0. Для загрузки README отсылает к инструкциям проекта Medusa на GitHub.

Memgpt-slerp-7b-1 — объединённая языковая модель, созданная автором liminerity с помощью LazyMergekit из starsnatched/MemGPT и starsnatched/MemGPT-3. Это плотная авторегрессионная модель семейства Mistral с архитектурой MistralForCausalLM и 7,1 млрд параметров; веса сохранены в формате safetensors. Модель предназначена для генерации текста и диалогового общения. Контекст модели составляет до 32 768 токенов. В конфигурации слияния использован метод slerp с базовой моделью starsnatched/MemGPT и точностью bfloat16. README не описывает отдельные сценарии применения, языки, результаты оценки или ограничения качества. Сведения о лицензии в предоставленных данных отсутствуют.

mergekit-community/mergekit-slerp-mkzyzjw — языковая модель для генерации текста и диалогового общения. Репозиторий создан с помощью mergekit методом SLERP на основе cognitivecomputations/dolphin-2.9-llama3-8b-256k; конфигурация использует 16-битные веса. Модель построена на архитектуре Llama и содержит около 7,5 млрд параметров. Модель принимает текст и генерирует текстовые ответы в формате диалога. В метаданных указано контекстное окно до 524 288 токенов. Карточка описывает слияние слоёв одной и той же базовой модели; отдельные специализированные сценарии применения не заявлены. Лицензия в предоставленных данных не указана.

mergekit-community/mergekit-slerp-oztfijl — объединение предварительно обученных языковых моделей Meta-Llama-3-8B и Mistral-7B-v0.1, созданное сообществом с помощью mergekit методом SLERP. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, предназначенная для генерации текста; в метаданных указана длина контекста 32 768 токенов. Объединение использует веса обеих базовых моделей и конфигурацию с разными параметрами интерполяции для слоёв self-attention и MLP. Модель можно использовать для генерации текста и диалоговых сценариев на основе текстовых запросов. README не описывает отдельную донастройку или специализированную область применения. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Лицензии в предоставленных данных нет.

Карточка модели mergekit-community/mergekit-ties-polycrr на Hugging Face совпадает с карточкой mergekit-community/mergekit-ties-fnacfof, поэтому описание составлено по ней. mergekit-community/mergekit-ties-fnacfof — языковая модель на архитектуре Llama, созданная сообществом с помощью слияния TIES. В объединении использованы NousResearch/Llama-2-7b-hf в качестве базовой модели, а также microsoft/Orca-2-7b и arcee-ai/Patent-Instruct-7b. Модель содержит 6,6 млрд параметров, распространяется в формате Safetensors и рассчитана на контекст до 4096 токенов. Модель предназначена для генерации текста и диалоговых сценариев, сочетая возможности включённых в слияние моделей. Карточка не уточняет отдельные преимущества, целевые языки или специализированные сценарии; базовая модель описана как англоязычная. Лицензия в предоставленных данных не указана.

thewordsmiths/Meta-Llama-3-8B_sft_merged_100000 — дообученная языковая модель на архитектуре Llama, разработанная thewordsmiths на основе meta-llama/Meta-Llama-3-8B. Модель содержит 7,5 млрд параметров и рассчитана на генерацию текста; в карточке также указано обучение с помощью Unsloth и библиотеки TRL. Модель может служить основой для генерации продолжений текста и других задач, решаемых через text-generation. Карточка не уточняет специализацию дообучения или особенности диалогового режима. Заявленное родительское семейство предназначено для английского текста и кода; контекст модели составляет 8192 токена. Модель распространяется под лицензией Apache-2.0. Доступны веса в формате Safetensors.

MFANN-Llama3.1-Abliterated-SLERP-V4 — текстовая диалоговая модель, созданная netcat420 слиянием методом SLERP через mergekit моделей mlabonne/Meta-Llama-3.1-8B-Instruct-abliterated и netcat420/MFANNv0.24. Она предназначена для генерации ответов в чате; README также описывает экспериментальный режим SATANN для задач кибербезопасности. Модель имеет плотную архитектуру LlamaForCausalLM и около 7,5 млрд параметров. Метаданные указывают контекст до 131 072 токенов, тогда как README рекомендует длину контекста и генерации 8 192 токена. Доступны веса в формате safetensors, лицензия — Apache-2.0. Показатели на Open LLM Leaderboard приведены для отдельных тестов, но сами по себе не гарантируют качество в прикладных задачах.

lee-loo/MiniCPM5-2B-MLX-bf16 — конверсия весов MiniCPM5-2B от OpenBMB в формат MLX с точностью BF16 для запуска на устройствах Apple Silicon. Это плотная языковая модель архитектуры Llama с 2,2 млрд параметров и контекстом до 131 072 токенов; репозиторий предоставляет веса safetensors и рассчитан на работу через MLX-LM. Квантизация не применялась, точность BF16 проверена автором карточки. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы ассистента и рассуждения. Автор сообщает о тестировании на Apple M4 Max с 128 ГБ объединённой памяти; приведённые показатели скорости относятся к этому оборудованию и короткому тесту, поэтому могут отличаться на других устройствах и при иной длине запросов. Для интерактивного использования параметры генерации следует подбирать под задачу. Лицензия — Apache-2.0.

MiniMax-M2.5-MLX-8bit — это 8-битная квантованная версия языковой модели MiniMax-M2.5, разработанной компанией MiniMaxAI. Квантование выполнено командой LM Studio с использованием mlx_lm, а модель оптимизирована для работы на компьютерах Apple Silicon через MLX. Модель предназначена для генерации текста и других сценариев, поддерживаемых задачей text-generation, включая локальный запуск в совместимых средах. README не содержит подробностей о размере исходной модели, архитектуре, поддерживаемых языках, длине контекста или мультимодальных возможностях, поэтому эти характеристики нельзя достоверно указать. Ключевое преимущество модели — снижение требований к памяти по сравнению с полноразмерной версией благодаря 8-битному квантованию и оптимизации под Apple Silicon. Ограничения включают возможную потерю качества из-за квантования, зависимость от совместимого оборудования и программной среды, а также отсутствие в README сведений о результатах тестирования и производительности. Модель распространяется по лицензии modified-MIT; условия следует уточнять в указанном файле лицензии MiniMaxAI.

Это текстовая версия базовой модели Ministral 3, подготовленная aimeri из mistralai/Ministral-3-14B-Base-2512. При экспорте удалены башня зрения Pixtral и мультимодальный проектор, а веса языковой модели сохранены без изменений: модель не дообучалась, не объединялась с другими и не квантизировалась. Архитектура — плотная авторегрессионная Ministral3ForCausalLM с 13,4 млрд параметров, 40 слоями и контекстом до 262 144 токенов. Модель предназначена для генерации текста и использования в качестве базовой точки для дальнейшей настройки. В карточке перечислена поддержка английского, французского, испанского, немецкого, итальянского, португальского, нидерландского, китайского, японского, корейского и арабского языков. Она распространяется в формате safetensors по лицензии Apache-2.0. Это базовая, а не чат-модель: готового шаблона диалога нет. По README, большинство управляющих токенов не обучены и не должны использоваться без дополнительной настройки или замены соответствующих весов. При загрузке через AutoTokenizer также есть ограничения на работу с пользовательскими Jinja-шаблонами; для таких сценариев README рекомендует PreTrainedTokenizerFast.

Карточка модели princeton-nlp/Mistral-7B-Base-SFT-KTO на Hugging Face совпадает с карточкой princeton-nlp/Llama-3-Base-8B-SFT, поэтому описание составлено по ней. princeton-nlp/Llama-3-Base-8B-SFT — разговорная модель генерации текста на архитектуре Llama, опубликованная как часть работы SimPO: Simple Preference Optimization with a Reference-Free Reward. Репозиторий содержит модель на 7,5 млрд параметров в формате safetensors; заявленная длина контекста — 8192 токена. Модель предназначена для диалоговой генерации текста и может использоваться для ответов на запросы и ведения беседы. README отсылает к репозиторию SimPO за дополнительными сведениями. Лицензия и конкретные языковые возможности в предоставленных данных не определены.

filipealmeida/Mistral-7B-v0.1-sharded — шардированная версия предварительно обученной языковой модели Mistral-7B-v0.1, разработанной командой Mistral AI. Разбиение весов на шарды позволяет загружать модель при ограниченной памяти CPU. Модель содержит 7,1 млрд параметров и построена на архитектуре Transformer с Grouped-Query Attention, Sliding-Window Attention и токенизатором byte-fallback BPE; заявленная длина контекста — 32 768 токенов. Модель предназначена для генерации текста по текстовому запросу и может служить базой для приложений на основе языковой модели. Это предварительно обученная модель, а не специализированный чат-ассистент. Репозиторий содержит веса в формате PyTorch. Лицензия — Apache-2.0. README сообщает о результатах сравнений с Llama 2 13B, однако конкретные условия и метрики здесь не приведены.

KakaoL0L/mistral_CVetOFFRElast_16bit — дообученная языковая модель KakaoL0L на базе unsloth/mistral-7b-instruct-v0.2-bnb-4bit. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, предназначенная для генерации текста и диалогового общения. Для обучения использовались Unsloth и библиотека Hugging Face TRL; модель принимает текст и генерирует текст, а заявленная длина контекста составляет 32 768 токенов. Модель может служить основой для чат-ботов и генерации ответов на текстовые запросы. В карточке указаны английский язык и лицензия Apache-2.0. Специализированная область применения и ограничения качества в описании модели не приведены.

nbeerbower/mistral-nemo-gutades-12B — диалоговая языковая модель на базе Mistral Nemo, разработанная автором репозитория nbeerbower. Модель содержит 12,1 млрд параметров и предназначена для генерации текста в диалоге. Она дообучена методом ORPO в течение трёх эпох на датасете jondurbin/gutenberg-dpo-v0.1; в метаданных также заявлены интерфейсы чата и вызова инструментов. Модель опубликована в формате safetensors и использует библиотеку Transformers. Метаданные указывают контекстное окно до 1 024 000 токенов. README приводит результаты отдельных тестов Open LLM Leaderboard, включая IFEval и BBH, но этих значений недостаточно для выводов о качестве на других задачах. Лицензия — Apache-2.0.

DS-Archive выпустил объединённую языковую модель Mixtral-8x7B-Instruct-v0.1-LimaRP-ZLoss-DARE-TIES, созданную методом DARE TIES с помощью mergekit. В объединение вошли Mixtral-8x7B-Instruct-v0.1 и Mixtral-8x7B-v0.1-LimaRP-ZLoss; базой указан Mixtral-8x7B-v0.1. Архитектура — Mixtral MoE для авторегрессионной генерации текста; модель распространяется в формате safetensors и имеет контекст длиной 32 768 токенов. Модель предназначена для генерации текста в диалоговом формате и других сценариях продолжения текста. Карточка называет один из компонентов LimaRP-ZLoss, однако не приводит подробностей о целевых сценариях и языках. Лицензия в предоставленных данных не указана.

Mixtral Megamerge DARE 8x7B v2 — объединённая модель семейства Mixtral, созданная автором репозитория martyn с помощью DARE. В слияние вошли базовая и instruct-версии Mixtral-8x7B-v0.1, а также Dolphin, Dolly, OpenHermes и Noromaid на базе Mixtral. Архитектура — языковая модель с разреженной экспертной маршрутизацией (MoE); в репозитории указано 7,1 млрд параметров и контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогов. README сообщает, что слияние рассчитано на обобщение форматов промптов и настроек генерации. Веса доступны в формате safetensors, лицензия — Apache-2.0. Карточка не приводит результатов оценки качества или подробного описания ограничений.

moe-minicpm-x4-base — языковая модель на архитектуре Mixtral с механизмом смеси экспертов (MoE), созданная babybirdprd с помощью LazyMergekit на основе NurtureAI/minicpm-2b-sft-bf16-llamafied-16k. Она предназначена для генерации текста и диалогового общения; конфигурация направляет каждый токен к двум из четырёх экспертов, использует случайный режим выбора шлюза и повторяет одну и ту же базовую модель во всех экспертных ветвях. Модель содержит 2,7 млрд параметров и поддерживает контекст до 16 384 токенов. Доступна в формате safetensors по лицензии Apache-2.0. Карточка не приводит результатов оценки качества или сведений о языках обучения, поэтому их нельзя определить по имеющимся данным.

MoMo-72B-lora-1.8.7-DPO — языковая модель Moreh, дообученная методом Direct Preference Optimization (DPO) на основе MoMo-72B-LoRA-V1.4. Предыдущая версия MoMo-72B-LoRA-V1.4 прошла supervised fine-tuning с LoRA на базе QWEN-72B; для совместимости с Llama обученные веса были переориентированы, слияние весов не применялось. Модель представляет собой плотную авторегрессионную архитектуру LlamaForCausalLM с 71 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для генерации текста и диалоговых ответов. При обучении использовались наборы SlimOrca, Truthy и Orca DPO Pairs; разработчики приводят результаты TruthfulQA и GSM8K, но полная таблица оценок не заполнена. Карточка содержит пример загрузки через Transformers. Поддержка английского указана в метаданных. Лицензия — MIT.