II.1Анализ требований и архитектура ПО

Experiment28M7_Experiment27Shadow — объединённая языковая модель на архитектуре Mistral с 7,1 млрд параметров, созданная из automerger/Experiment28M7-7B и automerger/Experiment27Shadow-7B. Она предназначена для генерации текста и принимает текстовые запросы, продолжая их в виде текста. Модель поддерживает контекст длиной до 32 768 токенов. Опубликована в формате safetensors и распространяется по лицензии Apache 2.0. Данных о специализации на конкретных языках или прикладных областях в карточке нет.

MaziyarPanahi/Experiment28T3q_ShadowYam — объединённая языковая модель на архитектуре Mistral, созданная слиянием automerger/Experiment28T3q-7B и automerger/ShadowYam-7B. Модель содержит 7,1 млрд параметров и принимает текст для авторегрессионной генерации текста; поддерживает контекст до 32 768 токенов. Модель предназначена для генерации продолжений и ответов на текстовые запросы. Репозиторий содержит веса в формате safetensors. Языки и специализированные области применения в карточке не указаны. Лицензия — Apache-2.0.

Experiment28T3q_YamYam — модель генерации текста, созданная объединением automerger/Experiment28T3q-7B и automerger/YamYam-7B. Она предназначена для генерации текста в сценариях, поддерживаемых архитектурой Mistral. Модель имеет плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Модель опубликована MaziyarPanahi и распространяется по лицензии Apache-2.0. Доступные сведения не описывают конкретные преимущества или специализированные области применения; характеристики и качество результата могут зависеть от запроса и способа использования.

Модель ehristoforu/Gemma2-9b-it-train6-plus_layer-1 — текстовая генеративная модель, созданная из ehristoforu/Gemma2-9b-it-train6 с помощью mergekit. В README указан метод passthrough: модель собрана из диапазонов слоёв исходного чекпойнта; метаданные классифицируют её как дообученную производную Gemma 2 и отмечают поддержку диалогового режима. Модель предназначена для генерации текста и ведения диалога. Она построена на плотной архитектуре Gemma2ForCausalLM, содержит 7,1 млрд параметров и рассчитана на контекст до 8192 токенов. Репозиторий использует формат safetensors, а при создании указан тип данных bfloat16. README не описывает отдельные специализации, языки или гарантии качества, поэтому модель следует рассматривать как универсальную текстовую модель. Лицензия в предоставленных сведениях не указана.

TheStageAI/gemma-4-E4B-it-GGUF — набор из четырёх квантизированных GGUF-чекпойнтов модели Gemma 4 E4B IT, основанной на google/gemma-4-E4B-it. Модель предназначена для локального запуска через llama.cpp и генерации текста, включая диалоговые сценарии, следование инструкциям и задачи, требующие развёрнутого рассуждения. Разработчик и поставщик чекпойнтов — TheStageAI; базовую модель разработала Google. Доступны варианты XS, S, M и L размером от 2,91 до 8,02 ГБ: XS использует минимальный объём памяти, S рекомендован как оптимальный по соотношению размера и качества, M соответствует рабочей точке Q4, а L ориентирован на более высокую точность Q8. Чекпойнты используют смешанную посттренировочную квантизацию с конфигурацией точности, подобранной с учётом стоимости хранения и накопления ошибки между слоями. В README указаны результаты IFEval и MMLU-Pro; вариант S практически соответствует BF16-версии по instruction-strict IFEval, тогда как XS заметно уступает по качеству, но требует меньше памяти. Модель поддерживает текстовую генерацию; сведения о языках, размере контекста и мультимодальных возможностях в README не указаны. Основные преимущества — локальный запуск, несколько вариантов под разные ограничения памяти и сохранение качества на рекомендованном варианте S. Ограничения связаны с потерями точности при квантизации, особенно у XS, а также с отсутствием в предоставленных данных подробностей о языковом покрытии и контекстном окне. Распространение заявлено по лицензии Apache-2.0.

Карточка модели Ishowbackup/Gemma-4-E4B-it-qat-MXFP4-CRACK на Hugging Face совпадает с карточкой dealignai/Gemma-4-E4B-it-qat-MXFP4-CRACK, поэтому описание составлено по ней. Gemma 4 E4B-it QAT MXFP4 CRACK — мультимодальная модель семейства Gemma 4 от dealignai, созданная на основе google/gemma-4-e4b-it. Это плотная модель с гибридным скользящим и глобальным вниманием, дообученная с удалением отказов и квантизированная до 4-битного формата MXFP4. Она принимает текстовые запросы, изображения и аудио, а также предназначена для диалога, ответов на вопросы, многошаговых рассуждений и генерации кода; в метаданных также заявлен интерфейс вызова инструментов. В README автор сообщает о сохранении визуальных и аудиовходов, проверке генерации кода и снижении результата MMLU на 3,9 процентного пункта относительно базовой модели. Удаление отказов означает, что модель может выполнять вредоносные запросы; заявленные результаты HarmBench приведены автором и не являются независимой оценкой. Для запуска требуется Apple Silicon с достаточной объединённой памятью и vMLX с поддержкой Gemma 4. Лицензия — Gemma; автор публикует модель для исследовательских целей.

Crystalcareai/Gemma-COT — дообученная Crystalcareai модель семейства Gemma с плотной архитектурой GemmaForCausalLM и примерно 8,2 млрд параметров. Модель обучали в течение трёх эпох на датасете Crystalcareai/alpaca-gpt4-COT, поэтому она предназначена для генерации текста с рассуждениями в стиле chain-of-thought и ответов на инструкции.

GreenNode-mini-7B-multilingual-v1olet-Mistral-7B-Instruct-v0.1 — чат-модель, созданная слиянием Mistral AI и GreenNode. Она предназначена для генерации ответов на инструкции и диалоговые запросы. Модель использует плотную архитектуру MistralForCausalLM и содержит 7,1 млрд параметров; в метаданных указан контекст длиной до 32 768 токенов. Слияние выполнено методом SLERP с настройками, различающимися для слоёв self-attention и MLP. Карточка заявляет многоязычную направленность, однако метаданные перечисляют только английский язык. Модель распространяется в формате safetensors по лицензии Apache-2.0.

drowzeys/keys-GLM-5.3-EXL3-Abliterated — производная версия GLM-5.3 от drowzeys с правкой весов, основанной на derisk-проекции Blackfrost AI. Это полноразмерная разреженная MoE-модель с 78 слоями и 256 маршрутизируемыми экспертами. Экспертные матрицы квантованы до 3 бит в формате EXL3; остальные компоненты сохранены в bf16/fp16. Репозиторий содержит веса в safetensors и предназначен для диалоговой генерации текста. Модель рассчитана на запуск через описанный авторами стек vLLM на четырёх NVIDIA DGX Spark с контекстом до 1 000 000 токенов. README сообщает, что изменение весов направлено на снижение отказов на безвредных запросах, а проверки включали рассуждения, код, фактические вопросы и творческий текст. Это заявление авторов карточки, не независимая оценка качества. В метаданных базовой указана zai-org/GLM-5.3; лицензия — MIT. Для запуска требуются значительные аппаратные ресурсы и совместимый стек, описанный в репозитории.

Ling-3.0-flash-abliterated-APEX-GGUF — неофициальная общественная GGUF-сборка модели Ling-3.0-flash, разработанной inclusionAI. Модель предназначена для генерации текста и задач рассуждения, включая локальный запуск через совместимое с GGUF программное обеспечение. В официальной версии мышление включено по умолчанию. Модель использует гибридную архитектуру MoE: 124 млрд параметров всего и около 5,1 млрд активных параметров. В её основе — стек из Kimi Delta Attention и gated MLA в соотношении 5:1, разреженный MoE с 512 маршрутизируемыми экспертами, выбором top-8 и одним общим экспертом, два плотных слоя и обученная MTP-голова. Заявленный график контекстного окна составляет 8K, затем 32K и до 256K токенов. Формат GGUF использует архитектуру bailingmoe3 и смешанную квантизацию APEX; наличие поддерживаемых языков в README не указано. Эта сборка отличается от официальной применением abliterix v6 trial 21 для снижения частоты отказов и последующим преобразованием в GGUF. Поэтому она может заметно отличаться от исходной модели по поведению и безопасности; README указывает на необходимость самостоятельной оценки соответствия требованиям, контроля доступа и аудита. Также для указанных уровней квантизации не использовалась imatrix. Лицензия — MIT, при этом необходимо соблюдать условия inclusionAI и применимое местное законодательство.

Fischerboot/ll3-test-3 — текстовая генеративная модель семейства Llama, созданная с помощью mergekit методом SLERP на основе Fischerboot/ll3-test-2. Репозиторий содержит веса в формате safetensors; архитектура — плотная авторегрессионная модель LlamaForCausalLM примерно на 6,6 млрд параметров с контекстом до 8192 токенов. Метаданные отмечают поддержку диалогового сценария. Модель подходит для генерации текста и ведения диалогов. README указывает на слияние вариантов одной базовой модели с разными диапазонами слоёв и параметрами смешивания. Лицензия и конкретные языковые возможности в предоставленных данных не обозначены.

RedHatAI/Llama-2-7b-dolphin-open_platypus-pruned_50 — разреженная на 50% модель Llama 2 с 7 млрд параметров, дообученная для следования инструкциям на смеси наборов Platypus, Open Orca и Dolphin. Архитектура — LlamaForCausalLM; модель принимает текст и генерирует текст. Контекст составляет 4096 токенов. Карточка описывает запуск через Transformers, а для ускоренного вывода с учётом разреженности — через nm-vllm или deepsparse. Модель предназначена для ответов на инструкции и запросы в текстовом формате. В приведённых в карточке бенчмарках её результаты немного ниже результатов Llama-2-7b-instruct: например, 45,10% против 48,60% на MMLU и 78,86% против 79,45% на HellaSwag. Лицензия в предоставленных данных не указана.

Shining Valiant 2 — чат-модель Valiant Labs, дообученная на базе Meta-Llama-3.1-8B-Instruct. Это плотная авторегрессионная модель семейства Llama с 7,5 млрд параметров и контекстом до 131 072 токенов; она принимает текст и генерирует текст, используя формат инструкций Llama 3.1 Instruct. Модель рассчитана на диалог, ответы на технические вопросы и структурированные рассуждения, особенно в естественных науках, инженерии и информатике. Для обучения использованы наборы sequelbox/Celestia для технических знаний, sequelbox/Spurline для сложных рассуждений и sequelbox/Supernova для общего диалога. В README заявлены улучшения в логике и структурированном рассуждении, а также в физике, химии, биологии, астрономии, науках о Земле, информатике и теории информации. Метаданные указывают английский язык. Модель распространяется в формате safetensors по лицензии llama3.1; применение требует соблюдения условий лицензии Llama 3.1.

bunnycore/LLama-3.1-Hyper-Stock — объединённая плотная языковая модель семейства Llama 3.1, созданная автором с помощью mergekit и метода Model Stock на базе unsloth/Meta-Llama-3.1-8B. В объединение вошли семь языковых моделей, включая инструктивные и uncensored-варианты. Модель содержит 7,5 млрд параметров, работает через библиотеку Transformers и распространяется в формате safetensors; заявленная длина контекста — 131 072 токена. Модель предназначена для генерации текста и может использоваться в диалоговых сценариях и для задач с длинным контекстом. README указывает на включение моделей с разными настройками и назначением, однако не приводит отдельных оценок качества или подробностей о поведении итогового объединения. Лицензия в предоставленных данных не указана.

Llama3.3-70B-CogniLink-i1-GGUF — квантизированная GGUF-версия модели Daemontatox/Llama3.3-70B-CogniLink, подготовленная mradermacher. Это текстовая языковая модель семейства Llama с 70 миллиардами параметров, ориентированная на генерацию текста, выполнение инструкций и задачи, требующие рассуждений. Модель обучалась с использованием наборов данных Daemontatox/Deepthinking-COT и gghfez/QwQ-LongCoT-130K-cleaned; заявленный язык — английский. Поддержка других языков, мультимодальность и размер контекстного окна в README не указаны. Модель предназначена для локального запуска в приложениях и средах, совместимых с форматом GGUF. Доступно множество вариантов квантизации размером примерно от 15,4 до 58 ГБ, что позволяет выбирать компромисс между требованиями к памяти, скоростью и качеством; README отмечает, что вариант i1-Q4_K_M является быстрым и рекомендуемым, а некоторые низкобитные варианты имеют пониженное качество. К ограничениям относятся возможная потеря качества из-за квантизации, высокие требования к ресурсам у 70B-версии и отсутствие опубликованных в README количественных результатов тестирования. Модель распространяется по лицензии Apache-2.0.

Это 8-битная конверсия модели Llama 3 8B Instruct, выполненная сообществом mlx-community для запуска в формате MLX. Веса получены из gradientai/Llama-3-8B-Instruct-1048k с помощью mlx-lm версии 0.10.0. Модель предназначена для диалоговой генерации текста и поддерживает контекст до 1 048 576 токенов. Модель имеет плотную архитектуру LlamaForCausalLM и около 7,5 млрд параметров. В метаданных указан английский язык; заявленная лицензия — llama3. Для использования в MLX в README приведена установка mlx-lm.

MaziyarPanahi/Llama-3-8B-Instruct-v0.8 — инструктивная разговорная модель семейства Llama 3, разработанная MaziyarPanahi на основе MaziyarPanahi/Llama-3-8B-Instruct-v0.4. Это плотная авторегрессионная языковая модель с архитектурой LlamaForCausalLM и 7,5 млрд параметров, предназначенная для генерации текста и диалогов. Она принимает текстовые запросы в формате ChatML и рассчитана на контекст до 8192 токенов. Модель подходит для чат-ботов, ответов на вопросы, следования инструкциям и других задач генерации текста. В README приведены результаты оценивания на Open LLM Leaderboard, но они не гарантируют качество на конкретных пользовательских задачах. В метаданных указан английский язык. Модель доступна в формате safetensors; README также ссылается на отдельную сборку GGUF. Лицензия обозначена как other, поэтому условия использования следует уточнить по карточке модели и связанным лицензионным материалам.

Llama3-DocChat-1.0-8B-GGUF — это квантизированная GGUF-версия языковой модели Llama3-DocChat-1.0-8B, разработанной Cerebras. Модель предназначена для генерации текста и диалога по содержимому документов, включая сценарии document chat. Указан английский язык. Базовый размер модели — 8B параметров; доступны варианты от F16 до различных форматов квантизации Q8, Q6, Q5, Q4, Q3 и Q2. Квантизация выполнена bartowski с использованием llama.cpp и imatrix, поддерживается запуск в LM Studio и через совместимые инструменты llama.cpp. Главное преимущество — широкий выбор вариантов с разным соотношением качества, размера и требований к оперативной памяти: версии Q6 и Q5 обеспечивают очень высокое качество, Q4 предлагают более компактный компромисс, а некоторые варианты Q4_0 оптимизированы для ARM и CPU-инференса. Ограничения README не раскрывает: не указаны размер контекста, результаты сравнительных тестов, поддержка дополнительных языков или мультимодальных входов. Лицензия обозначена как other, но её конкретные условия не приведены, поэтому перед использованием необходимо проверить лицензию исходной модели Cerebras.

Llama 3 Tulu V2 8B — языковая модель-помощник от AllenAI, дообученная на базе meta-llama/Meta-Llama-3-8B на смеси общедоступных, синтетических и созданных людьми инструкций и диалогов. Модель с плотной архитектурой Llama содержит 7,5 млрд параметров и предназначена для генерации ответов в диалогах и выполнения разнообразных инструкций; основной язык — английский. Указанный родной размер контекста — 8129 токенов. Модель подходит для прототипирования англоязычных помощников, ответов на вопросы, объяснений и других задач генерации текста. В карточке приведены результаты сравнительных тестов, однако они не гарантируют качество для конкретного сценария. Модель не прошла этап выравнивания RLHF и не использует фильтрацию ответов во время работы, поэтому может выдавать небезопасный или проблемный контент. Лицензия репозитория — Apache 2.0; карточка также отмечает лицензию Meta Llama 3 для базовой модели.

MaziyarPanahi/M7Yamshadowexperiment28_NeuralsirkrishnaInex12 — объединённая модель для генерации текста и диалогов, созданная на основе двух моделей Mistral: automerger/M7Yamshadowexperiment28-7B и automerger/NeuralsirkrishnaInex12-7B. Архитектура — плотная MistralForCausalLM, размер — 7,1 млрд параметров; модель работает с контекстом до 32 768 токенов и распространяется в формате safetensors. Модель предназначена для генерации продолжений текста и ведения диалогов. Лицензия — Apache-2.0. Карточка не приводит сведений о языковой специализации или оценках качества, поэтому пригодность для конкретных языков и задач требует проверки.

MaziyarPanahi/M7Yamshadowexperiment28_T3qm7xpExperiment26 — объединённая методом SLERP языковая модель семейства Mistral, разработанная на основе automerger/M7Yamshadowexperiment28-7B и automerger/T3qm7xpExperiment26-7B. Модель содержит 7,1 млрд параметров, построена на плотной архитектуре MistralForCausalLM и принимает текст для генерации текста и диалогов с контекстом до 32 768 токенов. Модель предназначена для генерации продолжений текста и ответов в диалоге. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0. README не сообщает о специальных ограничениях качества или целевых областях применения; указанные возможности относятся к генерации текста общего назначения.

Marcoro14-7B-slerp_v2 — слитая модель Mistral для генерации текста. Её создал автор oz1115 с помощью mergekit, объединив OpenPipe/mistral-ft-optimized-1218 и mlabonne/NeuralHermes-2.5-Mistral-7B методом SLERP; в конфигурации базовой моделью указана OpenPipe/mistral-ft-optimized-1218. Модель с архитектурой MistralForCausalLM содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Она предназначена для генерации текста на входе текстовых запросов. В репозитории указаны веса в формате safetensors. Модель распространяется по лицензии Apache-2.0. В предоставленных материалах не описаны конкретные языки или специализированные области применения.

MeliodasPercival_01_Experiment27Shadow — объединённая модель Mistral с 7,1 млрд параметров, созданная на основе automerger/MeliodasPercival_01-7B и automerger/Experiment27Shadow-7B. Она предназначена для генерации текста и диалогов, принимает текстовые запросы и выдаёт текст. Контекстное окно составляет до 32 768 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0. README и метаданные не описывают специализацию по языкам или предметным областям, а также не приводят отдельные оценки качества.

MeliodasPercival_01_T3qm7xpT3q — объединённая текстовая модель семейства Mistral, созданная слиянием automerger/MeliodasPercival_01-7B и automerger/T3qm7xpT3q-7B. Она предназначена для генерации текста и диалогов, включая сценарии с длинными запросами и контекстом до 32 768 токенов. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и распространяется в формате safetensors. Модель может использоваться для создания ответов и продолжения текста в приложениях на базе Transformers. Поддерживаемые языки и специализированные области применения в карточке не описаны. Лицензия — Apache-2.0.

MeliodasT3q_AlloyingotneoyNeuralsirkrishna — объединённая языковая модель, опубликованная MaziyarPanahi. В README указано, что она объединяет automerger/MeliodasT3q-7B и automerger/AlloyingotneoyNeuralsirkrishna-7B. Модель построена на архитектуре Mistral и содержит 7,1 млрд параметров; для генерации текста доступно контекстное окно до 32 768 токенов. Модель предназначена для генерации текста по текстовому запросу. Репозиторий содержит веса в формате Safetensors и распространяется по лицензии Apache-2.0.

mahiatlinux/merged1and2 — объединённая автором модель семейства Mistral, созданная с помощью LazyMergekit слиянием mahiatlinux/merged1 и mahiatlinux/merged2 методом SLERP. Это плотная авторегрессионная языковая модель с архитектурой MistralForCausalLM и 7,1 млрд параметров; она предназначена для генерации текста и диалогового взаимодействия. Заявленная длина контекста — 32 768 токенов. Весовые файлы представлены в формате Safetensors, тип данных при слиянии — bfloat16. Модель принимает текст и генерирует текст. Сведения о языковой специализации и лицензии в предоставленных данных отсутствуют, поэтому их нельзя определить. Качество и ограничения унаследованы от объединённых моделей, но карточка не описывает их отдельно.

Merlinite-7B-Lab — диалоговая языковая модель IBM Research на архитектуре Mistral, дообученная методом LAB на синтетических данных, созданных с помощью Mixtral-8x7B-Instruct. Модель насчитывает 7,1 млрд параметров, принимает текст и генерирует текст; её контекстное окно — 32 768 токенов. Основной язык — английский. Модель предназначена для диалогов и выполнения разнообразных инструкций: ответов на вопросы, рассуждений, творческого письма и задач на знания и навыки. Метод LAB использует таксономию примеров для генерации обучающих данных и поэтапное обучение с буферами повторного воспроизведения, чтобы добавлять знания и навыки к базовой модели. Модель распространяется по лицензии Apache 2.0. В README отмечено, что модель не проходила выравнивание по человеческим предпочтениям и может выдавать проблемные или вымышленные ответы. Рекомендуется использовать системный промпт, применённый при обучении; модель не следует считать единственным источником для важных решений.

Meta-Llama-3-8B-Instruct-BPE-fix-GGUF — это GGUF-версия инструкционной языковой модели Meta-Llama-3-8B-Instruct, разработанной Meta. Модель предназначена для генерации текста и выполнения инструкций в сценариях диалоговых ассистентов, ответов на вопросы, написания и преобразования текста. В карточке указаны английский язык и задача text-generation; поддержка других языков не заявлена. Известно, что модель относится к семейству Llama 3 и содержит 8 миллиардов параметров. Формат GGUF ориентирован на локальный запуск с совместимыми инструментами инференса, а суффикс BPE-fix указывает на вариант с исправлением, связанным с токенизацией BPE, однако подробности этого исправления в README не приведены. Сведения о размере контекста, точной архитектуре, модальностях, производительности и ограничениях качества отсутствуют. Модель распространяется по лицензии Meta Llama 3 Community License. Лицензия разрешает использование, воспроизведение, распространение, создание производных работ и модификацию на установленных условиях. При распространении материалов или продуктов необходимо включать текст лицензии, указывать «Built with Meta Llama 3», сохранять требуемое уведомление об авторских правах и соблюдать Acceptable Use Policy. Для организаций и продуктов с более чем 700 миллионами ежемесячных активных пользователей предусмотрено получение отдельной лицензии Meta.

MFANN3bv0.19.12 — слитая модель для генерации текста, созданная netcat420 с помощью mergekit. Она объединяет liminerity/Phigments12, netcat420/MFANN3bv0.19 и netcat420/MFANN3bv0.19.11 методом TIES; в конфигурации указаны нормализация, int8-маска и формат bfloat16. Модель построена на архитектуре PhiForCausalLM, содержит 3,5 млрд параметров и принимает контекст до 32 768 токенов. Репозиторий использует Transformers и хранит веса в safetensors. Модель предназначена для генерации текста по текстовому запросу и может применяться для диалогов, черновиков и продолжения текста. Данные не уточняют специализацию по темам или языкам. Условия лицензирования в предоставленных сведениях не описаны.

MiniCPM5-2B-JANG_8M — 8-битная квантизированная версия MiniCPM5-2B от OpenBMB, подготовленная Jinho Jang. Модель содержит 2,2 млрд параметров и распространяется в формате MLX Safetensors для локального запуска на устройствах Apple Silicon через стандартную библиотеку mlx_lm; пользовательский код модели и trust_remote_code не требуются. Контекст составляет до 131 072 токенов. Модель предназначена для генерации текста и диалоговых сценариев, включая рассуждения, задачи с длинным контекстом и работу с инструментами. В README описана калибровка на 1,85 млн токенов с применением imatrix, AWQ и GPTQ; автор сообщает о меньшем расхождении с исходной bf16-моделью по сравнению со стандартной квантизацией MLX того же размера. Модель поддерживает английский и китайский языки. Вызовы инструментов выводятся в XML, а mlx_lm сам не распознаёт этот формат: для обработки вызовов нужен отдельный парсер. Модель распространяется по лицензии Apache-2.0.