III.10Проекты, процессы и операционное управление

KSI-RPG-128k-7B — объединённая с помощью mergekit языковая модель AlekseiPravdin, созданная на основе AlekseiPravdin/KSI-RP-NSK-128k-7B и flammenai/flammen18X-mistral-7B. Это плотная авторегрессионная модель семейства Mistral с архитектурой MistralForCausalLM и 7,1 млрд параметров. Она предназначена для генерации текста и диалогового использования. Модель распространяется в формате safetensors по лицензии Apache-2.0. В карточке Hugging Face указан нативный контекст 32 768 токенов; название модели содержит «128k», однако заявленный метаданными размер контекста составляет 32 768 токенов. Сведения о целевых языках и специальных предметных областях в предоставленных данных отсутствуют.

Карточка модели 4bit/Llama-2-7b-chat-hf на Hugging Face совпадает с карточкой NousResearch/Llama-2-7b-chat-hf, поэтому описание составлено по ней. NousResearch/Llama-2-7b-chat-hf — диалоговая языковая модель семейства Llama 2, разработанного Meta и опубликованная в формате Hugging Face Transformers. Это плотный авторегрессионный трансформер с 6,6 млрд параметров; веса представлены в форматах PyTorch и Safetensors. Модель принимает текст и генерирует текст, а её контекст составляет 4096 токенов. Модель дообучена с помощью supervised fine-tuning и обучения с подкреплением по человеческим отзывам для диалогов в формате помощника. Она предназначена для ответов на вопросы, ведения диалога и генерации текста на английском языке. Для ожидаемого поведения нужно соблюдать форматирование Llama 2 Chat с соответствующими маркерами инструкций и токенами. Модель может выдавать неточные, предвзятые или нежелательные ответы, а проведённые оценки не охватывают все возможные сценарии. Данные предобучения имеют срез до сентября 2022 года. Использование регулируется собственной лицензией Meta для Llama 2; для получения весов требуется принять её условия.

Tensoic/Llama-2-openhermes — языковая модель семейства Llama 2, созданная дообучением базовой модели llama-2-7b-hf на датасете OpenHermes от teknium. Она предназначена для генерации текста и диалоговых сценариев. Модель имеет плотную архитектуру LlamaForCausalLM, около 6,6 млрд параметров и контекст до 4096 токенов; доступен формат PyTorch. Лицензия в предоставленных данных не указана.

v000000 — линейное слияние языковых моделей, созданное с помощью mergekit на основе Sao10K/Llama-3.1-8B-Stheno-v3.4 и grimjim/Llama-3-Instruct-abliteration-LoRA-8B. Модель построена на архитектуре LlamaForCausalLM, содержит 7,5 млрд параметров и рассчитана на генерацию текста в диалоговом формате. Заявленная длина контекста — 131 072 токена. Модель подходит для диалогов, ответов на инструкции, ролевых сценариев и творческого письма; базовая Stheno v3.4 описана в каталоге как англоязычная. В репозитории указаны веса Safetensors, а README также упоминает варианты GGUF и GGUF imatrix, подготовленные другим автором. Лицензия в предоставленных данных не указана.

Llama-3-8B-WizardLM-196K — дообученная Magpie-Align версия языковой модели Meta Llama 3 8B, разработанная на базе meta-llama/Meta-Llama-3-8B. Модель предназначена для генерации текста в диалоговом формате и может использоваться как чат-модель общего назначения. Модель содержит 7,5 млрд параметров, построена на плотной архитектуре LlamaForCausalLM и принимает текст, выдавая текст. Длина контекста, указанная в метаданных, — 8192 токена. Веса доступны в форматах PyTorch и safetensors; лицензия — llama3. README сообщает о дообучении, но не раскрывает датасет и не описывает специализированные возможности или результаты, кроме значения loss 0,6077 на оценочном наборе.

Llama-Spark — разговорная языковая модель компании Arcee.ai на архитектуре Llama, предназначенная для чат-ботов, виртуальных помощников и диалоговых систем. Модель насчитывает 7,5 млрд параметров и создана на основе Llama-3.1-8B: её дообучили на наборе данных Tome, а затем объединили с Llama-3.1-8B-Instruct. В метаданных указано окно контекста до 131 072 токенов. Модель генерирует текст в формате беседы и рассчитана на естественные, информативные ответы. В карточке приведены результаты Open LLM Leaderboard, включая IFEval и BBH; эти оценки не гарантируют качество в конкретном приложении. Для работы с весами в формате safetensors нужна совместимая среда. Лицензия — Llama 3.1 Community License.

M7Yamshadowexperiment28_MeliodasPercival_01 — объединённая авторами модели MaziyarPanahi модель Mistral с плотной архитектурой и 7,1 млрд параметров. Она объединяет automerger/M7Yamshadowexperiment28-7B и automerger/MeliodasPercival_01-7B и предназначена для генерации текста и диалогов по текстовому запросу. Контекст модели — до 32 768 токенов; веса представлены в формате safetensors. Модель подходит для текстовых помощников, черновиков и продолжения текста. Данных о специальных возможностях, языковой специализации или ограничениях качества в карточке нет. Лицензия — Apache-2.0.

M7Yamshadowexperiment28_YamNeuralsirkrishna — объединённая модель семейства Mistral, созданная путём слияния automerger/M7Yamshadowexperiment28-7B и automerger/YamNeuralsirkrishna-7B. Модель содержит 7,1 млрд параметров, использует плотную архитектуру MistralForCausalLM и распространяется в формате safetensors. Модель предназначена для генерации текста и диалогов на входном текстовом запросе. Контекст составляет до 32 768 токенов, что позволяет работать с длинными запросами и документами. Карточка не сообщает о специализации на отдельных языках или предметных областях, а также не приводит результатов оценки качества. Лицензия — Apache-2.0. Слияние объединяет две базовые модели, поэтому поведение и качество могут отличаться от каждого исходного чекпойнта; отдельные ограничения или рекомендации по использованию в карточке не описаны.

Marcoroni-neural-chat-7B-v2-Mistral-7B-Instruct-v0.1 — языковая чат-модель MaziyarPanahi, созданная слиянием Mistral-7B-Instruct-v0.1 и Marcoroni-neural-chat-7B-v2 методом SLERP. Это плотная архитектура Mistral с 7,1 млрд параметров, предназначенная для генерации текста в ответ на инструкции и диалоговые запросы; заявленный размер контекста — 32 768 токенов. Модель подходит для диалоговых помощников и генерации ответов на текстовые запросы. README описывает объединение весов с отдельными коэффициентами смешивания для слоёв self-attention и MLP. Репозиторий распространяется в формате safetensors по лицензии Apache-2.0. В предоставленных данных не обозначены языки обучения или специализированные области применения.

MeliodasPercival_01_NeuralsirkrishnaExperiment28 — объединённая модель семейства Mistral, созданная слиянием automerger/MeliodasPercival_01-7B и automerger/NeuralsirkrishnaExperiment28-7B. Она предназначена для генерации текста и диалогов; модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель принимает текст и выдаёт текст. Веса опубликованы в формате safetensors по лицензии Apache-2.0. README не уточняет специализацию, языки, оценки качества или особенности настройки диалогов.

Карточка модели mergekit-community/mergekit-slerp-fcxoywi на Hugging Face совпадает с карточкой mergekit-community/mergekit-slerp-jeyctse, поэтому описание составлено по ней. mergekit-community/mergekit-slerp-jeyctse — языковая чат-модель, созданная сообществом слиянием моделей HuggingFaceH4/zephyr-7b-beta и Equall/Saul-Base методом SLERP с помощью mergekit. Это плотная модель Mistral с 7,1 млрд параметров, доступная в формате safetensors и рассчитанная на контекст до 32 768 токенов. Модель предназначена для генерации текста в диалоге: ответов на вопросы и выполнения пользовательских инструкций. В метаданных основной язык не задан; базовая Zephyr-7B-β описана как англоязычная чат-модель. Условия лицензирования в предоставленных данных не приведены. Качество и поведение результата слияния могут отличаться от исходных моделей.

Это дообученная разговорная языковая модель sleeepeer на базе meta-llama/Llama-3.1-8B-Instruct, обученная с помощью TRL. Она предназначена для генерации текста в ответ на инструкции и вопросы в диалоговом формате. Модель использует плотную архитектуру Llama с 7,5 млрд параметров и принимает текст; заявленный контекст составляет до 131072 токенов. Модель подходит для диалоговых сценариев и генерации ответов. В карточке приведён пример ответа на вопрос в формате чата. Репозиторий содержит веса Safetensors и использует библиотеку Transformers. Лицензия в предоставленных данных не указана.

MFANNv0.16.10 — диалоговая языковая модель, созданная netcat420 слиянием моделей методом TIES с помощью mergekit. В основе использована MaziyarPanahi/Llama-3-8B-Instruct-v0.4; в слияние также вошли netcat420/MFANNv0.15 и netcat420/MFANNv0.16. Модель построена на архитектуре Llama и предназначена для генерации текста в диалоговом формате, включая ответы ассистента. Она содержит 7,5 млрд параметров, поддерживает контекст длиной до 32 768 токенов и распространяется в формате safetensors для библиотеки Transformers. Карточка не приводит специальных ограничений или сведений о лицензии; условия использования следует сверять с лицензией базовой модели и компонентов слияния.

CorticalStack/mistral-7b-openhermes-2.5-sft — языковая модель на архитектуре Mistral, дообученная методом supervised fine-tuning на датасете teknium/OpenHermes-2.5. В README указаны параметры LoRA: r=256, alpha=128 и dropout=0; метаданные описывают плотную модель MistralForCausalLM размером 7,1 млрд параметров с контекстом до 32 768 токенов. Модель предназначена для генерации текста и диалоговых сценариев. Она принимает текст и выдаёт текст; в доступных данных нет сведений о поддержке отдельных языков или специализированных областях. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0. Ограничения качества и безопасного использования в карточке не описаны.

Mistral-7B-v0.1-Open-Platypus-Mistral-7B-Instruct-v0.1 — чат-модель MaziyarPanahi, полученная слиянием методом SLERP моделей Mistral-7B-Instruct-v0.1 и Mistral-7B-v0.1-Open-Platypus. Она предназначена для генерации ответов на инструкции и диалоговые запросы; каталог классифицирует её задачу как text-generation. Модель построена на плотной архитектуре Mistral с 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель принимает текст и выдаёт текст. Карточка указывает формат safetensors и лицензию Apache-2.0. Язык в предоставленных данных явно не задан; возможности и качество модели за пределами описания базовой чат-модели не подтверждены.

LeroyDyer/Mixtral_Instruct — текстовая генеративная модель на архитектуре Mistral с 7,1 млрд параметров. Репозиторий содержит веса в формате safetensors; модель доступна для использования через библиотеку Transformers. Карточка README оставлена в виде шаблона и не сообщает, кто разработал модель и как она обучалась. Модель предназначена для генерации текста. Контекстное окно составляет 32 768 токенов, а в метаданных указан английский язык. Каталог связывает модель слиянием с LeroyDyer/Mixtral_BaseModel и Locutusque/Hercules-3.1-Mistral-7B, поэтому её происхождение отмечено как merge. Лицензия — Apache-2.0. README не содержит результатов оценки качества или рекомендаций по применению.

liminerity/mm4.more.star — плотная языковая модель семейства Llama, разработанная liminerity и дообученная на liminerity/mm4.ascii.star. Она предназначена для генерации текста и диалогового общения; модель содержит 2,7 млрд параметров и поддерживает контекст до 32 768 токенов. Для обучения использовались Unsloth и Hugging Face TRL. В метаданных указан английский язык. Модель распространяется по лицензии Apache-2.0.

MonaTrix-v4 — объединённая модель для генерации текста на архитектуре Mistral, созданная CultriX с помощью LazyMergekit. В неё вошли Kukedlc/NeuralMaxime-7B-slerp, eren23/ogno-monarch-jaskier-merge-7b и eren23/dpo-binarized-NeutrixOmnibe-7B. Модель содержит 7,1 млрд параметров, поддерживает контекст длиной до 32 768 токенов и распространяется в формате safetensors. Модель подходит для диалоговых ответов и продолжения текста. В метаданных указана лицензия Apache-2.0. Данных о специальных предметных областях или более узких ограничениях в карточке нет.

MotherEarth-Sauerkraut — языковая модель для диалоговой генерации текста, созданная объединением весов MotherEarth/MotherEarth-1.0-8B и VAGOsolutions/Llama-3.1-SauerkrautLM-8b-Instruct. Модели объединены методом SLERP с помощью mergekit; архитектура — плотная Llama с классом LlamaForCausalLM, размер — 7,5 млрд параметров. Модель предназначена для общения и генерации ответов на текстовые запросы. Она принимает текст и выдаёт текст, поддерживает контекст до 8192 токенов и опубликована в формате safetensors для библиотеки Transformers. Базовая SauerkrautLM ориентирована на немецкий и английский языки, но языки именно этой объединённой модели в карточке отдельно не описаны. Модель опубликована 17 сентября 2024 года. Сведения о лицензии и конкретных ограничениях применения в предоставленных данных отсутствуют.

zelk12/MT1-IM-gemma-2-9B — объединённая диалоговая языковая модель на архитектуре Gemma 2, созданная методом SLERP с помощью mergekit из двух моделей: zelk12/MT1-MA-gemma-2-RAt0.25v0.1RPMHv0.1-9B и zelk12/MT1-IF-gemma-2-RAt0.25v0.1GD-9B. Модель содержит 9 млрд параметров, распространяется в формате Safetensors и рассчитана на генерацию текста и диалоговые сценарии с контекстом до 8192 токенов. Её можно использовать для ответов на запросы, ведения диалога и генерации текста. В карточке не приведены сведения о специализации по языкам или прикладным областям, поэтому область применения следует считать общей. Лицензия в предоставленных данных не указана.

zelk12/MT4-Gen4-BB-gemma-2-MT4g2MT3g2-9B — объединённая диалоговая языковая модель на архитектуре Gemma 2, созданная с помощью mergekit методом SLERP из zelk12/MT4-Gen2-gemma-2-9B и zelk12/MT3-Gen2-gemma-2-9B. Модель содержит 9 млрд параметров, использует формат safetensors и рассчитана на контекст до 8192 токенов. Модель предназначена для диалога и генерации текста: она принимает текстовые запросы и формирует текстовые ответы. Может использоваться в чат-ботах, для черновиков и для продолжения текста. README описывает способ слияния и исходные модели, но не приводит отдельных оценок качества или подробных рекомендаций по применению. Лицензия в предоставленных данных не указана.

zelk12 создал эту объединённую языковую модель на основе Gemma 2, объединив методом SLERP две модели: zelk12/MT4-Gen5-GP-gemma-2-MTMMT3g4-9B и zelk12/MT4-Gen5-MA-gemma-2-MT4g2MT3g4-9B. Модель использует плотную архитектуру Gemma2ForCausalLM, содержит 9 млрд параметров и рассчитана на генерацию текста и диалоги; для запуска доступна в формате safetensors через Transformers. Модель принимает текст и генерирует текст, а её контекстное окно составляет 8192 токена. Карточка не описывает отдельные специализированные области или языки, поэтому её назначение следует считать общим. Условия лицензии в предоставленных данных не приведены.

zelk12 создал MT-Merge2-MU-gemma-2-MTg2MT1g2-9B — объединённую методом SLERP языковую модель на архитектуре Gemma 2 с 9 млрд параметров. Она предназначена для генерации текста и диалогового общения; доступна в формате Safetensors и рассчитана на контекст до 8192 токенов. Модель объединяет zelk12/MT1-Gen2-gemma-2-9B и zelk12/MT-Gen2-gemma-2-9B с помощью mergekit. В README приведены результаты оценки на Open LLM Leaderboard, включая IFEval и BBH. Сведения о лицензии и поддерживаемых естественных языках в предоставленных данных отсутствуют.

mvpmaster/nddmp-kellemar-KrishnaHercules-7b-slerp — объединённая модель для генерации текста, созданная методом SLERP с помощью LazyMergekit из mvpmaster/NeuralDareDMistralPro-7b-slerp и mvpmaster/kellemar-KrishnaHercules-0.1-7b-slerp. В метаданных указана архитектура MistralForCausalLM с плотными слоями и размером 7,1 млрд параметров. Модель принимает текстовые запросы и генерирует текст; заявленная длина контекста — до 32 768 токенов. Карточка не описывает специализированные сценарии, поддерживаемые языки или сравнительные результаты. Репозиторий содержит веса в формате safetensors; лицензия в предоставленных данных не указана.

neo_7b-slerp — текстовая генеративная модель на архитектуре LLaMA, созданная DewEfresh с помощью LazyMergekit. README описывает её как слияние двух моделей m-a-p/neo_7b; метаданные указывают базовую модель m-a-p/neo_7b и связь finetune. В репозитории используются веса Safetensors, а размер модели составляет 3,9 млрд параметров. Модель предназначена для генерации текста и диалоговых приложений. Она принимает текст и выдаёт текст; заявленная длина контекста — 8192 токена. Языки модели в доступных сведениях не указаны. Лицензия в предоставленных данных не указана.

YeonwooSung/Neos-Gemma-2-9b — диалоговая языковая модель на архитектуре Gemma 2, дообученная автором с помощью ORPO. В основе лежит google/gemma-2-9b-it; модель содержит 9 млрд параметров и рассчитана на контекст до 8192 токенов. Для дообучения использован набор mlabonne/orpo-dpo-mix-40k. Модель предназначена для генерации текста в диалоговом формате, ответов на вопросы и других задач общения с языковой моделью. В карточке приведены результаты оценок Open LLM Leaderboard, включая IFEval и BBH. Модель распространяется в формате safetensors по лицензии Apache-2.0.

Neural-Krishna-Multiverse-7b-v2 — объединённая языковая модель, созданная с помощью LazyMergekit из Kukedlc/Neural-Krishna-Multiverse-7b и liminerity/M7-7b. Веса объединены методом slerp; модель использует архитектуру Mistral с плотной декодерной трансформерной сетью и содержит 7,1 млрд параметров. Модель предназначена для генерации текста и диалоговых сценариев. Она принимает текст и выдаёт текст; заявленная длина контекста составляет 32 768 токенов. Данные карточки не уточняют целевые языки и специализированные области применения. Модель распространяется в формате Safetensors под лицензией Apache-2.0.

Corianas разработала Neural-Mistral-7B — диалоговую модель для генерации текста, полученную DPO-дообучением mistralai/Mistral-7B-Instruct-v0.2 на наборе Intel/orca_dpo_pairs. Модель построена на архитектуре Mistral с 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Для общения используется формат инструкций Mistral с маркерами [INST] и [/INST]; модель доступна в формате safetensors и рассчитана на работу через Transformers. Модель подходит для диалоговых ответов и выполнения текстовых инструкций на английском языке. В README описана архитектура с Grouped-Query Attention, Sliding-Window Attention и токенизатором Byte-fallback BPE. Лицензия — Apache 2.0. В карточке нет результатов оценки качества или подробных ограничений применения.

NeuralPipe-7B-slerp-DPO — языковая модель на архитектуре Mistral с 7,1 млрд параметров, созданная Samee-ur методом Direct Preference Optimization на наборе Intel/orca_dpo_pairs. Это версия модели Samee-ur/NeuralPipe-7B-slerp, настроенная на генерацию текста по предпочтениям. Она предназначена для текстовых запросов и ответов; поддерживает английский язык и контекст до 32 768 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0.

Nous Hermes 2 SOLAR 10.7B — чат-модель Nous Research, дообученная на базе Upstage SOLAR-10.7B-v1.0. Для обучения использован набор примерно из миллиона примеров, преимущественно сгенерированных GPT-4, а также данные из открытых наборов. Модель с архитектурой Llama и 10,6 млрд параметров предназначена для генерации текста, диалогов и выполнения инструкций; она использует шаблон ChatML для многоходового общения и поддерживает контекст до 4096 токенов. Модель рассчитана на англоязычные запросы. В карточке приведены результаты нескольких бенчмарков и заявлено улучшение относительно базовой SOLAR-10.7B, однако приведённых данных недостаточно для независимой оценки качества. Распространяется по лицензии Apache-2.0.