II.1Анализ требований и архитектура ПО

YamshadowInex12_T3qm7xStrangemerges_32 — слитая модель семейства Mistral, созданная из automerger/YamshadowInex12-7B и automerger/T3qm7xStrangemerges_32-7B. Она предназначена для генерации текста и может использоваться в приложениях с текстовым вводом и текстовыми ответами. Модель содержит 7,1 млрд параметров, использует плотную архитектуру MistralForCausalLM и поддерживает контекст до 32 768 токенов. Веса опубликованы в формате safetensors. Репозиторий распространяется по лицензии Apache-2.0. Карточка не описывает специальные области применения, языковую специализацию или результаты оценки качества, поэтому пригодность для конкретных сценариев следует проверять самостоятельно.

YamshadowInex12_YamExperiment26 — объединённая модель для генерации текста, созданная на основе automerger/YamshadowInex12-7B и automerger/YamExperiment26-7B. В карточке указано, что это merge двух моделей; архитектура — плотная MistralForCausalLM с 7,1 млрд параметров, веса опубликованы в формате Safetensors. Модель предназначена для генерации текста и принимает контекст длиной до 32 768 токенов. README не уточняет специальные сценарии применения или поддерживаемые языки. Модель распространяется по лицензии Apache-2.0.

MaziyarPanahi/YamshadowInex12_YamExperiment28 — слитая автором карточки текстовая модель семейства Mistral с архитектурой MistralForCausalLM и примерно 7,1 млрд параметров. Она предназначена для генерации текста и принимает запросы в текстовом формате. Модель объединяет automerger/YamshadowInex12-7B и automerger/YamExperiment28-7B. Поддерживает контекст до 32 768 токенов и распространяется в формате Safetensors по лицензии Apache-2.0. Карточка не описывает специализированные сценарии и ограничения качества; пригодность следует оценивать для конкретных задач.

YamshadowStrangemerges_32_Experiment24Experiment26 — объединённая модель MaziyarPanahi на архитектуре Mistral с 7,1 млрд параметров. Она создана на основе automerger/YamshadowStrangemerges_32-7B и automerger/Experiment24Experiment26-7B; формат весов — safetensors. Модель предназначена для генерации текста и принимает контекст длиной до 32 768 токенов. Карточка не описывает специализированные сценарии, языки или дополнительные возможности модели. Модель распространяется по лицензии Apache-2.0.

YamshadowStrangemerges_32_MeliodasT3q — объединённая языковая модель от MaziyarPanahi, созданная на основе automerger/YamshadowStrangemerges_32-7B и automerger/MeliodasT3q-7B. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, предназначенная для генерации текста. Она принимает текстовые запросы и генерирует текст; заявленная длина контекста составляет 32 768 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0. Доступные сведения подтверждают её назначение для генерации текста, но не описывают специализацию по предметной области или отдельные языковые возможности.

YamT3qm7xp_Experiment31Experiment29 — объединённая модель генерации текста, созданная путём слияния automerger/YamT3qm7xp-7B и automerger/Experiment31Experiment29-7B. Модель основана на архитектуре Mistral и содержит 7,1 млрд параметров; она предназначена для генерации текста с контекстом до 32 768 токенов. Модель подойдёт для сценариев, где требуется продолжать или создавать текст по текстовому запросу. Репозиторий содержит веса в формате Safetensors. Лицензия — Apache-2.0.

YetAnotherMerge-v0.7b — плотная языковая модель семейства Mistral на 12,1 млрд параметров, созданная Nohobby слиянием предварительно обученных моделей с помощью mergekit и метода della. В качестве основы использована Nohobby/YetAnotherMerge-v0.3; в слияние также вошла nbeerbower/mistral-nemo-gutenberg-12B-v3, дообученная на датасете Gutenberg DPO. Модель предназначена для генерации текста и диалоговых сценариев: она принимает текст и выдаёт текст. Заявленная длина контекста — 1 024 000 токенов. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Данные о лицензии и целевых языках в доступных источниках отсутствуют.

Aryanne/Zephyr-3.43B — языковая модель для генерации текста, созданная слиянием Aryanne/Astridboros-3B и stabilityai/stablelm-zephyr-3b. В модели 40 слоёв и около 3,43 млрд параметров; объединение выполнено методом passthrough с весами в формате float16. Для запросов рекомендуется использовать формат промпта Zephyr. Модель предназначена для генерации текста по текстовым запросам и диалоговых сценариев. Она основана на архитектуре StableLM Epoch и имеет контекст до 4096 токенов; в карточке указан английский язык. Репозиторий содержит веса Safetensors. Автор сообщает, что лицензия совпадает с лицензией Zephyr, однако метаданные Hugging Face обозначают её как other, поэтому условия следует сверить с лицензией базовой модели перед использованием.

zephyr-7b-alpha-sharded-Mistral-7B-Instruct-v0.1 — объединённая чат-модель Maziyar Panahi на базе Mistral-7B-Instruct-v0.1 и anakin87/zephyr-7b-alpha-sharded. Модели объединены методом SLERP; архитектура — плотная Mistral с авторегрессионным декодером, размер — 7,1 млрд параметров. Репозиторий содержит веса в формате safetensors. Модель предназначена для генерации текста в ответ на инструкции и для диалоговых сценариев. Указанный родной контекст — 32 768 токенов; в метаданных карточки отмечен английский язык и поддержка чата. Модель распространяется по лицензии Apache-2.0. README не содержит результатов оценки качества, поэтому пригодность для конкретных задач следует проверять на собственных данных.

ShenaoZ/0.0_continue_iter_2 — диалоговая языковая модель на архитектуре Mistral, дообученная разработчиком ShenaoZ на базе ShenaoZ/0.0_continue_iter_1 с использованием датасета HuggingFaceH4/ultrafeedback_binarized. Она предназначена для генерации текста и ведения диалога, включая ответы на запросы в контексте до 32 768 токенов. Модель содержит 7,1 млрд параметров и опубликована в формате safetensors. Модель распространяется по лицензии MIT. README не приводит результатов оценки и не описывает специальные сценарии применения или ограничения; качество ответов и их соответствие запросу следует проверять для конкретной задачи.

Это модель SentenceTransformer, дообученная на наборе it_project_docs на базе sentence-transformers/all-MiniLM-L6-v2. Энкодер BERT преобразует предложения и абзацы в плотные векторы размерностью 384; сходство векторов можно оценивать по косинусной мере. В метаданных указано 25,9 млн параметров и контекст до 512 токенов, тогда как README задаёт максимальную длину последовательности 256 токенов. Модель предназначена для семантического поиска и сравнения вопросов и текстов проектной документации, а также для поиска перефразировок, кластеризации и классификации текстов. Она выдаёт эмбеддинги, а не готовые ответы на вопросы. Обучение проводилось на парах вопросов и ответов из it_project_docs с функцией потерь MultipleNegativesRankingLoss. Модель рассчитана на английский язык, унаследованный от базовой модели; подтверждений поддержки других языков нет. Качество зависит от соответствия корпуса и запроса обучающим данным, а входные последовательности длиннее 256 токенов выходят за указанную в README максимальную длину. Лицензия в предоставленных данных не указана.

AlloyingotneoyInex12-7B — автоматическое слияние моделей, выполненное Maxime Labonne методом DARE-TIES. В конфигурации указаны nlpguy/AlloyIngotNeoY и MSL7/INEX12-7b; метаданные Hugging Face связывают модель с MSL7/INEX12-7b как с дообученной базовой моделью. Это плотная причинная языковая модель семейства Mistral с 7,1 млрд параметров, рассчитанная на генерацию текста и контекст до 32 768 токенов. Модель подходит для генерации продолжений и диалоговых ответов на текстовые запросы. В карточке указана лицензия Apache-2.0. Сведения о конкретных языковых возможностях и сравнительной производительности не приведены.

AlphaMonarch-daser — диалоговая модель, созданная abideen на основе mlabonne/NeuralMonarch-7B. Это дообученная методом DPO модель семейства Mistral с 7,1 млрд параметров, предназначенная для генерации текста, общения и следования инструкциям. Для обучения использован набор предпочтений argilla/OpenHermes2.5-dpo-binarized-alpha; автор сообщает о 1080 шагах обучения и сочетании методов LaserQLoRA и DoRA с обучением половины проекций. Модель принимает текст и генерирует текст; заявленная длина контекста — 32 768 токенов. В метаданных указан английский язык. Автор приводит сравнения с родственными вариантами на YALL leaderboard и OpenLLM bench, где результаты различаются в зависимости от бенчмарка. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.

calme-2.1-llama3-70b — диалоговая языковая модель Maziyar Panahi, дообученная методом DPO на базе meta-llama/Meta-Llama-3-70B-Instruct. Это плотная авторегрессионная архитектура Llama с 69,5 млрд параметров, рассчитанная на генерацию текста и ответы в формате ChatML; для работы используется библиотека Transformers. В карточке указано окно контекста 8192 токена, а среди данных дообучения — набор mlabonne/chatml-OpenHermes2.5-dpo-binarized-alpha. Модель подходит для диалогового ассистента, ответов на инструкции и генерации текста. В README приведены результаты Open LLM Leaderboard, включая средний балл 78,11, AI2 Reasoning Challenge — 71,67 и HellaSwag — 85,83. Указанная лицензия — llama3; для использования необходимо учитывать её условия. Данные карточки указывают английский язык, поэтому пригодность для других языков не подтверждена.

COKAL-v1-70B — авторегрессионная языковая модель Seungyoo Lee (DopeorNope) на архитектуре LLaMA 2 с 68,9 млрд параметров. Она принимает текст и генерирует текст; модель представлена в формате SafeTensors и предназначена для задач генерации текста. Модель дообучена методом SFT на наборе garage-bAInd/Open-Platypus. Для запуска в README приведён пример с Transformers и PyTorch. Размер контекста составляет 2048 токенов. Модель выпущена под лицензией Apache-2.0.

mrcuddle/DarkHermes3-Llama3.2-3B-Instruct — дообученная компанией mrcuddle языковая модель для диалогов, следования инструкциям и генерации текста. Она основана на mrcuddle/Dark-Hermes3-Llama3.2-3B и обучена на англоязычном наборе llamafactory/alpaca_en. Модель использует плотную архитектуру LlamaForCausalLM, содержит 3,2 млрд параметров и поддерживает контекст до 131 072 токенов. Она рассчитана на текстовый ввод и генерацию текста; метаданные указывают поддержку чата и выполнения инструкций. В README приведено значение loss 1,1205 на оценочном наборе, но подробности оценки не описаны. Модель подходит для англоязычных диалоговых приложений, ответов на инструкции и генерации текста. Весовые файлы доступны в форматах PyTorch и Safetensors. Лицензия в предоставленных данных не указана.

DeepSeek-R1-Distill-Qwen-14B-heretic — текстовая генеративная модель, созданная на основе DeepSeek-R1-Distill-Qwen-14B компанией или автором репозитория saidutta69 с использованием Heretic версии 1.4.0. Это вариант с подавленным поведением отказа, полученный направленной абляцией и изменением весов в выходных проекциях attention и down-прекциях MLP, без дообучения. Модель предназначена для разработчиков, которым нужны диалоги, генерация текста и рассуждения без встроенных отказов базовой модели. Модель имеет примерно 14,8 млрд параметров, поддерживает текстовую модальность и ориентирована на английский язык. Доступны полноточные веса BF16 и квантованные варианты GGUF Q4_K_M, Q5_K_M, Q6_K и Q8_0. Для запуска рекомендуются GPU с 16–24 ГБ памяти; квантованные версии подходят для потребительского оборудования, CPU и Apple Silicon. Модель совместима с llama.cpp, Ollama, LM Studio, Jan, vLLM, SGLang и Transformers. Размер контекста в README не указан. Главное преимущество — сохранение знаний и навыков следования инструкциям базовой модели при уменьшении количества отказов, а также широкий выбор квантований для локального запуска. При этом это не улучшенная по возможностям версия DeepSeek-R1-Distill-Qwen-14B, а модификация с удалёнными защитными ограничениями. Отсутствие дополнительной фильтрации означает повышенный риск небезопасной генерации, поэтому ответственность за применение и развёртывание лежит на пользователе. Модель распространяется по лицензии deepseek-research-license, унаследованной от базовой модели.

DeepSeek-V4.1-Flash-UNCENSORED-DwarfStar-Q2 — независимая общественная конверсия модели DeepSeek-V4.1-Flash, разработанной DeepSeek AI, и производного abliterated-чекпойнта dealignAI. Конверсию, упаковку и локальное тестирование выполнил pyrodog; обучение, дообучение, слияние моделей и дополнительная abliteration не проводились. Модель предназначена для генерации текста и программного кода, а также для сценариев с вызовом инструментов, что было проверено через OpenCode. Это текстовая модель с вводом и выводом в виде текста, представленная в специальном формате Q2 GGUF для inference engine DwarfStar. Файл занимает около 340,6 GiB; используются различные схемы квантования, включая IQ2_XXS, Q2_K, Q8_0, F16 и F32. Визионные веса и веса для speculative decoding DSpark удалены, поэтому данная сборка не поддерживает соответствующие возможности исходного чекпойнта. Языки, точный размер архитектуры и полный перечень параметров в карточке не указаны. В примерах запуска задан контекст до 262 144 токенов. Главные особенности — существенно меньший размер по сравнению с исходным чекпойнтом, возможность работы на Apple Silicon с SSD-streaming и поддержка инструментов через DwarfStar. Ограничения включают нестандартную раскладку тензоров: файл не предназначен для llama.cpp, Ollama, LM Studio и других обычных GGUF-рантаймов. Для работы требуются DwarfStar с поддержкой DeepSeek V4.1, быстрый локальный SSD и значительный объём дискового пространства; на тестовой системе Apple M5 Max с 128 GB unified memory основные веса превышали доступную оперативную память и загружались потоково. Качество не гарантируется эквивалентным опубликованной activation-calibrated Q2-сборке. Распространение указано под лицензией MIT.

DeepSeek V4 Flash REAP K128 (Uniform) — производная версия DeepSeek V4 Flash от sleepyeldrazi. В модели удалена половина маршрутизируемых экспертов MoE с помощью метода REAP; механизм внимания, эмбеддинги, общие эксперты, маршрутизатор и компоненты MTP сохранены. Тонкая настройка не выполнялась: оставшиеся веса взяты без изменений из исходной модели. Репозиторий содержит GGUF с равномерной квантизацией экспертов IQ2_XXS/Q2_K; заявленный размер файла — 46,98 ГиБ. Модель предназначена для генерации текста и диалогового использования, в том числе для задач программирования, вызова инструментов и поиска знаний. Совместима со средой ds4-engine; для запуска требуется ds4-for-reaped с поддержкой компактного GGUF. Калибровка при отборе экспертов проводилась на контексте 4096 токенов, но это не подтверждает максимальную длину контекста модели. Лицензия — MIT. Удаление половины экспертов и низкая точность квантизации могут повлиять на качество ответов; README не приводит количественных результатов оценки. Вызов инструментов обозначен как сценарий калибровки и использования, но сам по себе не подтверждает наличие отдельного интерфейса tool calling.

Deita 7B V1.0 SFT — языковая модель HKUST-NLP, дообученная на Mistral-7B-v0.1 для следования инструкциям. Она обучена на 6 тысячах автоматически отобранных примеров выравнивания Deita 6K V0 и предназначена для диалоговых ответов и выполнения текстовых инструкций на английском языке. Модель использует архитектуру Mistral с 7,1 млрд параметров и поддерживает контекст до 32 768 токенов; формат общения — шаблон vicuna_v1.1. Модель подходит для исследований и прототипирования помощников, отвечающих на вопросы и выполняющих запросы на естественном языке. В README приведены результаты сравнительной оценки, но они не гарантируют качество для конкретных задач. Репозиторий распространяется по лицензии Apache-2.0.

Это асимметрично квантованная до низкой точности версия diffusiongemma-26B-A4B-it — языковой модели Gemma 4 с архитектурой MoE и диффузионной генерацией. Версию GGUF подготовил hyperspaceai на основе unsloth/diffusiongemma-26B-A4B-it-GGUF. В модели 26 млрд параметров, около 4 млрд активных; используется 128 экспертов, из которых для каждого токена активируются 8, и 30 слоёв. Файл весит 10,98 ГБ. Модель предназначена для диалоговой генерации текста: ответы на вопросы, объяснения, списки, творческий текст и код. В отличие от обычных авторегрессионных языковых моделей, она создаёт текст итеративным параллельным уточнением токенов в контексте длиной 256 токенов. Квантование распределено асимметрично: экспертные слои в основном сжаты до 2 бит с использованием матрицы важности, а чувствительные проекции сохранены в более высокой точности. Автор сообщает о проверке генерации на CUDA и приводит примеры связных ответов, но это не независимая оценка качества. Для запуска нужен совместимый с архитектурой diffusion-gemma GGUF-рантайм; стандартная авторегрессионная генерация через llama-cli и оценка perplexity для этой модели не подходят. Лицензия — Gemma; использование должно соответствовать её условиям.

ECE-PRYMMAL1B-FT-V1 — компактная диалоговая языковая модель, разработанная Юри Лаленом (Youri Lalain) при участии инженерной школы ECE. Она создана дообучением LilRg/ECE-1B-merge-PRYMMAL на наборе инструкций mosaicml/instruct-v3 и предназначена для генерации текста, выполнения инструкций и решения задач, требующих рассуждений. Модель построена на плотной архитектуре Qwen2, содержит 1,5 млрд параметров и поддерживает контекст до 32 768 токенов. Она работает с текстом, поддерживает диалог и интерфейс вызова инструментов; опубликованные веса представлены в формате safetensors и рассчитаны на библиотеку Transformers. Результаты на Open LLM Leaderboard в карточке включают среднее значение 11,80, IFEval 21,44 и BBH 16,19; эти показатели сами по себе не гарантируют качество на пользовательских задачах. Лицензия Apache-2.0 допускает использование на её условиях. Карточка не уточняет поддерживаемые естественные языки; языковую надёжность следует проверять на целевых данных.

Dohyeon1/ERNIE-Sub-MoE-ngroups56-adaptive — языковая модель семейства ERNIE с архитектурой Mixture-of-Experts, опубликованная пользователем Dohyeon1 на Hugging Face. Модель предназначена для генерации текста и диалоговых сценариев через библиотеку Transformers; в метаданных также указана поддержка формата SafeTensors и conversational-тегов. Модель содержит около 3,3 млрд параметров и поддерживает контекст длиной до 131 072 токенов, что позволяет работать с большими текстовыми запросами и документами. Конкретные языки, лицензия, данные обучения, результаты оценки и рекомендации по применению в карточке модели не описаны.

Erosumika-MistralLayla-Slerp — языковая модель, созданная Smuggling1710 слиянием моделей localfultonextractor/Erosumika-7B-v2 и l3utterfly/mistral-7b-v0.2-layla-v4 методом Slerp с помощью LazyMergekit. Это плотная авторегрессионная модель семейства Mistral на 7,1 млрд параметров, распространяемая в формате safetensors; для объединения использован тип bfloat16. Модель предназначена для генерации текста. Контекстное окно составляет до 32 768 токенов. В README не описаны конкретные прикладные сценарии или языковое покрытие, поэтому их нельзя надёжно уточнить по доступным данным. Лицензия в предоставленных источниках не указана.

e.star.7.b — текстовая модель семейства Mistral, разработанная gate369 и дообученная на yam-peleg/Experiment26-7B. Она предназначена для генерации текста и может использоваться для диалогов, написания черновиков и экспериментов с языковыми моделями. Модель содержит 7,1 млрд параметров, имеет контекстное окно 32 768 токенов и распространяется в формате safetensors. В карточке приведены результаты оценок на AI2 Reasoning Challenge и HellaSwag. Модель обучалась с использованием Unsloth и библиотеки TRL от Hugging Face. Лицензия — Apache-2.0. README не уточняет, какие языки, кроме английского, поддерживаются, и не описывает специфические ограничения качества.

EVA-Qwen2.5-14B-v0.1-GGUF — набор GGUF-квантизаций текстовой генеративной модели EVA-Qwen2.5-14B-v0.1, разработанной EVA-UNIT-01. Квантизации подготовлены пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для локального запуска и генерации текста, включая выполнение инструкций, художественное письмо, создание структурированных текстов и ролевые сценарии; это следует из использованных наборов данных, среди которых есть instruction-, writing- и roleplay-датасеты. Модель имеет 14 миллиардов параметров и работает в текстовой модальности. README не содержит сведений о поддерживаемых языках, максимальном размере контекста или точной архитектуре базовой модели. Доступны варианты от F16 до Q2_K_L, включая рекомендуемые автором Q4_K_M, Q5-, Q6- и другие форматы; размер файлов варьируется примерно от 6,66 до 29,55 ГБ. Некоторые варианты оптимизированы для ARM-процессоров и требуют поддержки SVE или i8mm. Основные преимущества — возможность локального запуска через llama.cpp или LM Studio и выбор между несколькими уровнями качества, размера и требований к памяти. Более сильное сжатие уменьшает потребление ресурсов, но может снижать качество генерации; конкретное влияние зависит от выбранного варианта квантизации. Лицензия модели указана как Apache-2.0.

EVA-Qwen2.5-14B-v0.2-GGUF — это набор квантованных моделей в формате GGUF для генерации текста, созданный на основе EVA-Qwen2.5-14B-v0.2 и опубликованный пользователем bartowski. Квантование выполнено с помощью llama.cpp с использованием метода imatrix; доступны варианты от F16 и Q8_0 до более компактных Q3 и IQ3/IQ4. Модель предназначена для локального запуска, в частности через LM Studio, с использованием указанного шаблона чата. Модель имеет размер 14B параметров и относится к семейству Qwen2.5. Она ориентирована на текстовые сценарии, включая следование инструкциям, написание и структурирование текста, ролевые диалоги и генерацию художественного контента, что следует из использованных наборов данных. Поддерживаемые языки, максимальная длина контекста и точные архитектурные характеристики в README не указаны. Главное преимущество — выбор большого числа вариантов квантования с разным компромиссом между качеством и требованиями к памяти: версии Q5 и Q6 описаны как высококачественные, а Q4 — как подходящие для случаев с ограниченными ресурсами. Более агрессивное квантование может снижать качество генерации; заявленные оценки производительности отсутствуют. Некоторые варианты оптимизированы для ARM и требуют соответствующих аппаратных инструкций, при этом README не рекомендует их для Mac или Windows. Указанная лицензия — Apache-2.0.

Experiment26Yam_Experiment27Yam — объединённая языковая модель семейства Mistral, созданная из automerger/Experiment26Yam-7B и automerger/Experiment27Yam-7B. Модель содержит 7,1 млрд параметров, использует плотную архитектуру MistralForCausalLM и распространяется в формате safetensors. Модель предназначена для генерации текста; контекстное окно составляет до 32 768 токенов. Лицензия Apache-2.0 разрешает использование на её условиях. README и метаданные не уточняют специализацию слияния, поддерживаемые языки или отдельные возможности сверх генерации текста.

Experiment26Yamshadow_NeuralExperiment26 — объединённая модель на архитектуре Mistral, созданная из automerger/Experiment26Yamshadow-7B и automerger/NeuralExperiment26-7B. Модель содержит 7,1 млрд параметров и предназначена для генерации текста; поддерживает контекст до 32 768 токенов. Модель подходит для продолжения текста и генерации ответов по текстовым запросам. Она распространяется в формате safetensors по лицензии Apache 2.0. Карточка не описывает специальные возможности, целевые языки или ограничения качества.

MaziyarPanahi/Experiment28M7_Experiment26Experiment28 — слитая языковая модель семейства Mistral, созданная на основе automerger/Experiment28M7-7B и automerger/Experiment26Experiment28-7B. Она предназначена для генерации текста и имеет 7,1 млрд параметров с контекстом до 32 768 токенов. Модель принимает текст и генерирует текст. В карточке не описаны специальные области применения или языки, поэтому её можно рассматривать как модель общего назначения для текстовых запросов и продолжения текста. Веса опубликованы в формате safetensors. Лицензия — Apache-2.0. Карточка не приводит результатов оценки качества или иных специфических ограничений.