II.1Анализ требований и архитектура ПО

MaziyarPanahi/Experiment28M7_NeuralsirkrishnaExperiment26 — слитая текстовая модель семейства Mistral, созданная объединением automerger/Experiment28M7-7B и automerger/NeuralsirkrishnaExperiment26-7B. Она предназначена для генерации текста и может использоваться в диалоговых и других текстовых приложениях на базе языковой модели. Модель имеет плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Веса опубликованы в формате Safetensors. Лицензия — Apache-2.0. Карточка не приводит результатов оценки качества или сведений о специализации и поддерживаемых языках. Поэтому качество генерации и пригодность для конкретных предметных областей по имеющимся данным оценить нельзя.

Experiment28T3q_OgnoPastiche — объединённая автором MaziyarPanahi модель семейства Mistral для генерации текста. Она создана слиянием моделей automerger/Experiment28T3q-7B и automerger/OgnoPastiche-7B. Модель имеет плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Веса опубликованы в формате Safetensors; лицензия — Apache 2.0. Карточка не описывает специальные навыки, домены или языки модели.

MaziyarPanahi/Experiment28T3q_Strangemerges_30Experiment26 — объединённая модель семейства Mistral с плотной архитектурой MistralForCausalLM и 7,1 млрд параметров. Она создана путём слияния automerger/Experiment28T3q-7B и automerger/Strangemerges_30Experiment26-7B и предназначена для генерации текста, включая диалоговые и другие сценарии продолжения текста. Модель принимает текст и выдаёт текст; заявленная длина контекста составляет 32 768 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0. Карточка не сообщает подробностей о методе слияния, обучающих данных или результатах оценки качества, поэтому пригодность для конкретных задач следует проверять отдельно.

Fett-uccine-Long-Noodle-7B-120k-Context — объединённая модель для генерации текста и диалогов, созданная с помощью mergekit методом SLERP. В слиянии использованы Fett-uccine-7B и Mistral Yarn 120k ctx; модель построена на архитектуре Mistral и содержит 7,1 млрд параметров. Модель предназначена для генерации текста в диалоговом формате. В названии и описании проекта заявлено расширение контекста до 120 тысяч токенов за счёт Mistral Yarn, однако метаданные указывают native context в 32 768 токенов. Поэтому заявленную длину 120 тысяч токенов нельзя считать подтверждённой характеристикой этой публикации. Модель распространяется в формате safetensors и рассчитана на использование через Transformers. Лицензия в предоставленных данных не указана.

Flammen-Bophades — объединённая методом SLERP языковая модель на основе двух моделей Mistral, созданная nbeerbower с помощью mergekit. Она предназначена для генерации текста, диалоговых ответов и математических запросов. Модель имеет плотную архитектуру MistralForCausalLM, 7,1 млрд параметров и контекстное окно до 32 768 токенов; веса опубликованы в формате safetensors и рассчитаны на работу через Transformers. В объединение вошли nbeerbower/flammen15-gutenberg-DPO-v1-7B и nbeerbower/slerp-bophades-truthy-math-mistral-7B. Репозиторий распространяется по лицензии Apache-2.0. Карточка подтверждает генерацию текста и включение математически ориентированной базовой модели, но не приводит сравнительных оценок качества или подробных ограничений; результаты могут зависеть от запроса и настроек генерации.

FofoNet-CatDolphin-PPT-slerp — языковая модель для генерации текста, созданная слиянием CatPPT-base и dolphin-2.6-mistral-7b-dpo-orca-v2 методом slerp с помощью LazyMergekit. Она предназначена для генерации ответов и диалогового взаимодействия на основе текстовых запросов. Модель построена на плотной архитектуре MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Веса опубликованы в формате safetensors. Карточка не сообщает о специализированных областях применения или языках. Лицензия в предоставленных данных не указана.

FRED-T5-large — русскоязычная предварительно обученная текстовая модель семейства T5, разработанная командой SberDevices. Она предназначена для задач преобразования текста, включая генерацию и переформулирование; обучение проводилось на корпусе русского языка объёмом 300 ГБ с использованием смеси семи denoising-целей, основанной на подходе UL2. Архитектура включает 24 слоя и скрытое представление размером 1024; в метаданных указано 403,9 млн параметров и класс T5ForConditionalGeneration. Модель использует токенизатор BBPE и поддерживает русский язык. Веса опубликованы в формате PyTorch по лицензии Apache-2.0. Модель подходит как русскоязычная основа для генеративной обработки текста и дообучения под прикладные сценарии. Длина контекста в предоставленных сведениях не указана.

MCZK/Gemma-2-9B-It-SPPO-Iter3-GGUF — это версия модели Gemma-2-9B-It-SPPO-Iter3, разработанной UCLA-AGI, преобразованная в формат GGUF. Модель предназначена для генерации текста и диалоговых сценариев с использованием instruction-tuned версии Gemma 2. В метаданных указан английский язык и набор данных openbmb/UltraFeedback. Модель имеет около 9 млрд параметров; исходная архитектура относится к семейству Gemma 2, а вариант SPPO-Iter3, согласно идентификатору, получен на третьей итерации оптимизации методом SPPO. Для K-квантизованных вариантов применена iMatrix-квантизация. Текст iMatrix подготовлен на основе c4_en_ja_imatrix.txt из набора TFMC/imatrix-dataset-for-japanese-llm. Формат GGUF подходит для локального запуска в совместимых инструментах, однако конкретные требования к памяти, размер контекста, поддерживаемые модальности и результаты бенчмарков в README не указаны. Лицензия обозначена как gemma. README не содержит подробностей о сильных сторонах, ограничениях, допустимых сценариях коммерческого использования или точных параметрах отдельных вариантов квантизации, поэтому эти характеристики требуют дополнительной проверки.

Gemma-3-4B-VL-it-Gemini-Pro-Heretic-Uncensored-Thinking-GGUF — мультимодальная instruction-tuned модель на архитектуре Gemma 3 с примерно 4 млрд параметров. Она основана на модели DavidAU/Gemma-3-4B-VL-it-Gemini-Pro-Heretic-Uncensored-Thinking, опубликована в формате GGUF и предназначена для эффективного локального запуска; в README издателем указан mradermacher. Модель поддерживает работу с текстом и изображениями, ориентирована на английский язык и используется для диалогов, рассуждений, анализа, творческого письма, суммаризации, перефразирования, описания изображений, визуальных вопросов и понимания сцен и объектов. Длина контекста в представленном описании не указана. Ключевая особенность модели — сниженный уровень контентной фильтрации и ограничений выравнивания, что может быть полезно для экспериментов, исследований и специализированных локальных сценариев, но повышает вероятность чувствительных или нежелательных ответов. Модель совместима с GGUF-совместимыми средствами инференса, включая llama.cpp и сборки Ollama, однако фактическая производительность и поддержка мультимодальных функций зависят от используемого рантайма и оборудования. Для публичных и критически важных применений необходимы дополнительные фильтры и проверка результатов. Указана лицензия Apache 2.0, унаследованная от базовой модели.

Карточка модели GodsDevProject/gemma-4-E4B-it-The-DECKARD-HERETIC-UNCENSORED-Thinking на Hugging Face совпадает с карточкой DavidAU/gemma-4-E4B-it-The-DECKARD-HERETIC-UNCENSORED-Thinking, поэтому описание составлено по ней. DavidAU разработал The-DECKARD-HERETIC-UNCENSORED-Thinking — дообученную модель Google Gemma 4 E4B Instruct с настройкой на внутренних датасетах и изменённым шаблоном чата, который по умолчанию включает режим рассуждения. Модель предназначена для диалога, творческого письма, ролевых сценариев, генерации историй и кода. Автор сообщает о поддержке текста, изображений, видео и аудио, а также контекста до 128 тысяч токенов. Gemma 4 E4B описана как модель примерно с 8 млрд параметров, из которых около 4,5 млрд активны; веса этой версии представлены в формате bfloat16 и safetensors. Карточка приводит внутренние результаты сравнения с базовой моделью, но отмечает, что статистика ещё собирается и instruct-режим иногда показывает лучшие результаты, чем thinking. Использование чата в режиме instruct требует отдельного шаблона. Лицензия — Apache 2.0.

GLM-5.3-Flash W4A16 NVFP4 GGUF — преобразованная в формат GGUF версия модели axiomofmind/GLM-5.3-Flash-W4A16-NVFP4, основанной на zai-org/GLM-5.3-Flash-BF16. Это разговорная текстовая модель семейства GLM5Next с архитектурой MoE. Основные маршрутизируемые эксперты используют квантование W4A16 NVFP4 с размером группы 16; внимание, общие эксперты, маршрутизаторы, эмбеддинги, выходной слой, веса MTP и другие сохранённые тензоры остаются в BF16 или F32. Файл модели с весами MTP занимает 204,1 ГБ. Модель предназначена для генерации текста и диалогов. Для запуска требуется сборка llama.cpp с поддержкой GLM5Next и GGUF NVFP4. Репозиторий распространяется по лицензии MIT.

SirSahOl подготовил эту версию GLM-Edge-4B-Chat для запуска через MLX на Apple Silicon. Это плотная авторегрессионная модель семейства GLM с 4,1 млрд параметров, предназначенная для диалогов и генерации текста; она поддерживает контекст до 8 192 токенов. Репозиторий содержит веса в формате safetensors с точностью 16 бит без квантизации. Конверсия рассчитана на локальный вывод с использованием GPU Apple Silicon и библиотеки MLX; заявленный активный объём памяти составляет около 9,3 ГБ, рекомендуется не менее 16 ГБ объединённой памяти. Модель подходит для интерактивного помощника, многоходового чата и локального дополнения текста. Карточка указывает лицензию «other», но не приводит её конкретных условий, поэтому перед использованием следует проверить лицензию исходной модели и репозитория. Это преобразованная версия базовой модели THUDM/glm-edge-4b-chat; поддержка других аппаратных платформ в карточке не заявлена.

Goku-8x22B-v0.2 — разговорная языковая модель MaziyarPanahi, дообученная на основе v2ray/Mixtral-8x22B-v0.1 на наборах OpenHermes-2.5, WizardLM Evol Instruct V2 и Orca Math Word Problems. Она использует архитектуру Mixtral с разреженной смесью экспертов (MoE) и предназначена для генерации текста в диалогах, выполнения инструкций и решения математических задач. В README указана общая ёмкость в 141 млрд параметров, из которых активны 35 млрд; метаданные каталога указывают 22 млрд параметров. В README также сообщается об обучении с длиной последовательности 8192 токена, а метаданные приводят длину контекста 65 536 токенов. Модель работает с текстом и поддерживает чат. В карточке отмечены английский, французский, итальянский, немецкий и испанский языки. Лицензия — Apache-2.0. Доступные сведения не содержат результатов сравнительных оценок качества; значения размера и контекста различаются между README и метаданными, поэтому их следует трактовать с осторожностью.

Helios-10.7B — объединённая языковая модель автора occultml, созданная с помощью mergekit из jeonsworld/CarbonVillain-en-10.7B-v4 и kekmodel/StopCarbon-10B-v5. Веса объединены методом SLERP; архитектура — плотная LLaMA с причинно-языковой моделью, объёмом около 7,1 млрд параметров и контекстом до 4096 токенов. Модель предназначена для генерации текста и диалогового использования. В карточке приведены результаты оценки на нескольких тестах рассуждения и понимания текста. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

Kwaipilot/HiPO-1.7B — плотная языковая модель семейства Qwen3 с 1,7 млрд параметров, предназначенная для генерации текста и диалоговых ответов. Она дообучена на основе Qwen/Qwen3-8B с использованием подхода HiPO (Hybrid Policy Optimization), который помогает модели выбирать, когда разворачивать рассуждение, а когда отвечать без него. Модель рассчитана на диалоговые сценарии, решение задач с адаптивным рассуждением и сокращение лишних рассуждений на простых запросах. В README описан структурированный формат ответа с явным машинно-читаемым путём рассуждения; заявленные результаты экспериментов относятся к подходу HiPO и сами по себе не гарантируют таких же показателей для этого чекпойнта. Модель принимает текст и выдаёт текст, поддерживает контекст до 40 960 токенов и распространяется в формате Safetensors через Transformers. Лицензия — Apache-2.0. README не сообщает языковой охват, а также не содержит подробностей о составе обучающих данных или независимых оценках именно этого чекпойнта.

Hunyuan-4B-Pretrain — базовая плотная языковая модель Tencent из семейства Hunyuan. Она содержит 3,9 млрд параметров и предназначена для генерации текста и последующего дообучения под прикладные сценарии. В репозитории указаны архитектура HunYuanDenseV1ForCausalLM и поддержка Transformers. Модель поддерживает контекст до 262 144 токенов, механизм Grouped Query Attention и режимы быстрого и пошагового рассуждения. Семейство Hunyuan рассчитано на разные варианты развертывания, включая ограниченные по ресурсам среды; для инференса также описана поддержка TensorRT-LLM, vLLM и SGLang. Карточка приводит результаты бенчмарков для базовых моделей семейства, но не указывает отдельные языковые коды или лицензионные условия для этой модели.

TareksGraveyard/Inception-LLaMa-70B — экспериментальная объединённая языковая модель, созданная автором репозитория с помощью mergekit и метода SCE. В качестве базовой модели указана nbeerbower/Llama-3.1-Nemotron-lorablated-70B; в объединение также вошли несколько моделей семейства Llama 70B, включая Progenitor, Nevoria, Prikol и Nova Tempus. Модель предназначена для генерации текста и диалогов. Это плотная авторегрессионная архитектура Llama с 69,5 млрд параметров и контекстом до 131 072 токенов; репозиторий содержит веса safetensors. Автор описывает результат как эксперимент и оценивает его качество субъективно, без приведённых количественных тестов. Указана лицензия llama3.3.

AIJUUD/juud-Mistral-7B — разговорная модель семейства Mistral, опубликованная командой BNK AI. Это плотная авторегрессионная языковая модель с 7,1 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия. Метаданные указывают контекст до 32 768 токенов, использование Transformers и формат весов safetensors. Модель можно применять для ответов в чате, продолжения текста и создания диалоговых приложений. Карточка README не описывает обучение, наборы данных, языки или результаты оценки качества. Модель распространяется по лицензии Apache-2.0; фактическая пригодность для конкретных задач требует отдельной проверки.

Blackfrost-AI/K2-Horizon-MoVA-36B-A4B-DERISKED-BF16 — экспериментальный производный чекпойнт Blackfrost на базе IFM/K2-Horizon-MoVA-36B-A4B. Это причинная языковая модель семейства K2 Horizon с архитектурой MoE и модификациями поведения, внесёнными непосредственно в веса. В карточке указано 36 млрд параметров всего и 4 млрд активных на токен; метаданные каталога сообщают 3,7 млрд параметров. Контекстная конфигурация рассчитана на 524 288 токенов, но возможность использовать весь контекст зависит от оборудования и среды запуска. Модель предназначена для диалоговой генерации текста, рассуждений и агентных сценариев; она сохраняет исходные токенизатор, шаблон чата и форматы вызова инструментов K2 Horizon. Поддерживаются структурированные сообщения ролей и выбор уровня рассуждений. Заявленная модификация не является системным промптом, адаптером или фильтром на этапе декодирования. Карточка не приводит количественных оценок качества модифицированного чекпойнта; широкие способности, многоязычность, длинный контекст и вызовы инструментов ещё не прошли полную проверку. Модель распространяется в BF16 в формате safetensors и использует библиотеку Transformers. Лицензия — Apache-2.0. Карточка помечает её как исследовательский эксперимент; репозиторий закрыт на время проверки конкретного артефакта. Для запуска может потребоваться доверенный пользовательский код модели, а совместимость инструментов зависит от среды обслуживания.

atomimpnsc/kanana-1.5-8b-instruct-2505-Safe-DPO — диалоговая модель генерации текста, опубликованная atomimpnsc. Это плотная модель семейства Llama с 7,5 млрд параметров и контекстом 32 768 токенов; README сообщает о дообучении с использованием Unsloth и библиотеки TRL. Модель поддерживает чат и интерфейс вызова инструментов. Модель предназначена для генерации ответов в диалоге и других текстовых сценариев. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0. Карточка указывает английский язык; других сведений о языковом охвате и специализированных областях применения нет.

KANN-I-0.1-7b — объединённая языковая модель, опубликованная euser и созданная с помощью mergekit методом DARE TIES. В качестве основы указана mistralai/Mistral-7B-v0.1; в метаданных также перечислены другие модели-участницы слияния. Это плотная авторегрессионная архитектура Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для генерации текста в диалоговом формате и может использоваться для ответов на вопросы и написания текстовых продолжений. Карточка показывает пример запуска через Transformers и чат-шаблон. Языки модели в доступных сведениях не указаны, поэтому её языковую специализацию определить нельзя. Репозиторий содержит веса Safetensors; лицензия в предоставленных данных не указана.

Это базовая гибридная языковая модель ComplexKDA, выпущенная авторами ComplexKDA. Она предназначена для генерации текста и диалоговых сценариев. Модель содержит около 1,1 млрд параметров; в README указано точное значение 1,36 млрд. Архитектура включает 24 слоя: линейное внимание в большинстве слоёв и полное внимание в каждом четвёртом. Используется SwiGLU, 16 голов внимания и свёртка ширины 4. Контекст обучения — 4096 токенов. В этой версии используется базовый ограниченный сигмоидный затвор KDA, где коэффициент затухания находится в диапазоне (0, 1]. Модель распространяется в формате safetensors, работает через Transformers и включает собственную реализацию и токенизатор; при подготовке входа следует использовать токенизатор из репозитория, поскольку его настройки отличаются от upstream-варианта. Лицензия — MIT. В README не указаны поддерживаемые естественные языки и результаты оценки качества.

Kosmos-EVAA-v8-8B — объединённая языковая модель семейства Llama, созданная jaspionjader с помощью mergekit. Веса двух предварительно обученных моделей, Kosmos-EVAA-v3-8B и Kosmos-EVAA-v7-8B, объединены методом SLERP; архитектура — плотная авторегрессионная модель LlamaForCausalLM примерно на 7,5 млрд параметров. Модель предназначена для генерации текста и диалогов. Она принимает текст и формирует текстовые ответы, а её нативный контекст составляет до 8192 токенов. В репозитории представлены веса Safetensors для библиотеки Transformers. Сведений о целевых языках, специальных областях применения и сравнительной оценке качества в доступных данных нет. Лицензия в предоставленных данных не указана. Результаты слияния могут отличаться от поведения исходных моделей; качество и ограничения конкретных сценариев требуют отдельной проверки.

Kunokukulemonchini-7b — плотная языковая модель на архитектуре Mistral, созданная автором репозитория как слияние SLERP моделей grimjim/kukulemon-7B и Nitral-AI/Kunocchini-7b-128k-test с помощью mergekit. Она предназначена для генерации текста и диалогового общения. Модель содержит 7,1 млрд параметров, принимает текст и имеет заявленное контекстное окно 32 768 токенов. Автор также описывает варианты квантизации EXL2 с разной точностью, включая 4,1 bpw для систем с 6 ГБ видеопамяти; в метаданных этой карточки указаны веса safetensors. В README приведены результаты оценок на нескольких тестах, включая средний балл 69,61, однако подробности таблицы доступны не полностью. Лицензия CC BY-NC 4.0 ограничивает коммерческое использование.

mergekit-community выпустил слитую плотную языковую модель семейства Llama с 7,5 млрд параметров. Она объединяет djuna/L3.1-gramamax и djuna/L3.1-Romes-Ninomos методом breadcrumbs_ties; базой слияния служит djuna/L3.1-gramamax. Модель предназначена для генерации текста и диалогового общения, принимает текст и выдаёт текст. Заявленная длина контекста составляет 131 072 токена. Модель доступна в формате safetensors и рассчитана на использование через Transformers. README не уточняет языковой охват, специализацию по предметным областям или результаты оценки качества. Лицензия не указана в предоставленных данных.

L3.3-Nevoria-R1-70b-GGUF — это GGUF-квантизированная версия текстовой генеративной модели L3.3-Nevoria-R1-70b, подготовленная bartowski на основе модели Steelskull/L3.3-Nevoria-R1-70b. Модель относится к объединённым моделям, созданным с использованием mergekit, и предназначена для генерации текста в локальных средах на базе llama.cpp, включая LM Studio. Модель рассчитана на диалоговые и общие задачи генерации текста. Доступны варианты квантизации от Q8_0 до Q2_K и IQ2_XXS, поэтому можно выбирать между качеством, размером файла и требованиями к оперативной памяти. Наиболее качественными и рекомендуемыми в README названы Q6_K, Q5_K_M, Q5_K_S и Q4_K_M; более компактные варианты экономят память, но могут заметно уступать по качеству. Известный размер исходной модели — 70 миллиардов параметров. Формат GGUF и квантизация с использованием imatrix ориентированы на локальный инференс, однако для запуска качественных вариантов требуется значительный объём памяти. README не указывает архитектуру, поддерживаемые языки, размер контекстного окна, мультимодальные возможности, результаты тестирования или лицензию, поэтому эти характеристики нельзя достоверно определить по имеющимся данным.

L3-8B-Everything-COT-GGUF — это набор квантизированных файлов модели L3-8B-Everything-COT, опубликованный и подготовленный пользователем bartowski на основе оригинальной модели FPHam. Модель относится к семейству Llama 3 и предназначена для генерации текста, включая диалоговые сценарии и задачи, где полезно пошаговое рассуждение. Файлы представлены в формате GGUF для запуска через llama.cpp. Размер базовой модели — 8 миллиардов параметров, однако README не указывает точные архитектурные характеристики, поддерживаемые языки, длину контекста и исходные данные обучения. Доступны варианты квантизации от Q8_0 и Q8_0_L до Q2_K и IQ2_M; размер файлов составляет примерно от 2,94 до 9,52 ГБ. Варианты с более высокой точностью обеспечивают лучшее качество, а варианты Q3 и Q2 требуют меньше памяти, но заметно уступают по качеству. Рекомендуемыми названы многие варианты Q4–Q6, в частности Q6_K и Q5_K_M. Ключевые преимущества — возможность локального запуска, широкий выбор компромисса между качеством и потреблением памяти, а также применение imatrix-квантизации. Экспериментальные варианты используют F16 для эмбеддингов и выходных весов и могут отличаться по качеству. Для работы требуется совместимое ПО, например llama.cpp, и использование указанного шаблона prompt. Лицензия модели в README не указана.

Larson-72B-DPO-1.0.3 — языковая модель для генерации текста, опубликованная ccrains. Это плотная модель семейства Llama с 71 млрд параметров, представленная в формате safetensors; для диалога рекомендуется шаблон запросов Llama 2. Карточка описывает её как дообученную версию Qwen-72B, однако точный идентификатор базовой модели не указан. Модель предназначена для генерации текста и диалоговых сценариев. В метаданных указан контекст длиной до 32 768 токенов, а README заявляет поддержку английского языка. Модель распространяется по лицензии Apache-2.0 согласно метаданным; README дополнительно просит соблюдать условия лицензии базовой модели. Карточка не приводит результатов оценки качества или подробных ограничений применения.

Это чат-модель Llama 2 Chat на 13 млрд параметров, разработанная Meta и размещённая в формате Transformers с весами PyTorch. Репозиторий содержит копию meta-llama/Llama-2-13b-chat-hf с весами, разбитыми на части для загрузки. Архитектура — плотный авторегрессионный трансформер LlamaForCausalLM; контекст — до 4096 токенов. Модель принимает текст и генерирует текст. Модель оптимизирована для диалогов в формате помощника: она может отвечать на вопросы, вести беседу и выполнять текстовые инструкции. Для ожидаемого поведения чат-варианту требуется форматирование запросов с маркерами инструкций и специальными токенами. В карточке указано назначение для английского языка; применение на других языках исключено из заявленного сценария. Модель дообучена с учителем и с использованием обучения с подкреплением на основе отзывов людей для повышения полезности и безопасности. Использование регулируется специальной коммерческой лицензией Meta: перед загрузкой весов необходимо принять условия лицензии. Возможны неточные, предвзятые или нежелательные ответы; перед внедрением нужны проверки и настройка безопасности для конкретного применения.

RedHatAI/Llama-2-7b-dolphin-open_platypus-pruned_70 — разреженная на 70% модель Llama 2 с 6,6 млрд параметров, дообученная на следование инструкциям на смеси наборов Platypus, OpenOrca и Dolphin. Она предназначена для генерации текста в ответ на инструкции и может запускаться через библиотеку Transformers; для ускоренного инференса с использованием разреженности в README упоминаются nm-vllm и deepsparse. Контекст модели — до 4096 токенов. В приведённых бенчмарках модель уступает Llama-2-7b-instruct: например, результаты составляют 42,33% против 48,60% на MMLU, 77,21% против 79,45% на HellaSwag и 71,90% против 75,69% на WinoGrande. Репозиторий содержит веса safetensors. Сведения о лицензии в предоставленных данных отсутствуют.