III.5Управление персоналом и организацией

zelk12/MT-Merge4-MMMA-gemma-2-9B — языковая модель для генерации текста и диалогов, созданная слиянием двух предварительно обученных моделей с помощью mergekit и метода SLERP. Она основана на архитектуре Gemma 2 с плотной архитектурой и содержит 9 млрд параметров; репозиторий содержит веса в формате safetensors. Модель принимает текст и генерирует текст, поддерживает контекст до 8192 токенов. Модель подходит для диалогового взаимодействия и генерации текста общего назначения. В README указано, что при слиянии использовались zelk12/MT-Merge4-MA-gemma-2-MT3g4MTg4-9B и zelk12/MT-Merge4-MM-gemma-2-MT5g4MT3g4-9B. Языки и специальные предметные области в предоставленных данных не описаны. Лицензия в метаданных и README не указана.

zelk12 выпустил эту объединённую модель Gemma 2 для диалоговой генерации текста. Она создана методом SLERP с помощью mergekit из моделей zelk12/MT-Gen5-gemma-2-9B и zelk12/MT5-Gen5-gemma-2-9B. Модель содержит 9 млрд параметров, использует архитектуру Gemma2ForCausalLM и принимает текстовый контекст длиной до 8192 токенов. Её можно применять для ведения диалогов и генерации текста. Модель распространяется в формате safetensors и использует библиотеку Transformers; лицензия в предоставленных данных не указана.

NeuralBeagleJaskier — объединённая языковая модель на архитектуре Mistral, созданная с помощью LazyMergekit из mlabonne/NeuralBeagle14-7B и bardsai/jaskier-7b-dpo-v6.1. Веса объединены методом TIES; указаны нормализация и маска int8. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогового общения. Она принимает текст и выдаёт текст; метаданные указывают поддержку чата. Данные о поддерживаемых языках и специализированных областях применения отсутствуют, поэтому её следует рассматривать как модель общего назначения. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.

NeuralPearlBeagle — слитая модель генерации текста на архитектуре Mistral, созданная с помощью LazyMergekit из louisbrulenaudet/Pearl-7B-slerp и mlabonne/NeuralBeagle14-7B. Веса объединены методом TIES; модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. Её можно применять для составления ответов, продолжения текста и ведения беседы; базовая модель также описана в каталоге как подходящая для математических задач. Данных о поддерживаемых естественных языках нет. Модель распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.

MaziyarPanahi/NeuralsirkrishnaShadow_YamNeuralsirkrishna — объединённая автором карточки модель на архитектуре Mistral с 7,1 млрд параметров, созданная слиянием automerger/NeuralsirkrishnaShadow-7B и automerger/YamNeuralsirkrishna-7B. Она предназначена для генерации текста и принимает запросы на естественном языке; заявленная длина контекста — до 32 768 токенов. Модель может применяться для диалога, составления текстов и ответов на вопросы. Веса опубликованы в формате Safetensors. Лицензия — Apache-2.0. Карточка не сообщает о специализации по языкам или прикладным областям, поэтому их нельзя подтвердить.

Nitral-Archive/NightWing3_Virtuoso-10B-v0.2 — языковая модель, созданная объединением моделей NightWing3-10B-v0.1 и Virtuoso-Lite-chatmlified-10B_r16-ep1. Она предназначена для генерации текста и диалогового общения; для взаимодействия используется формат ChatML с сообщениями system, user и assistant. Модель построена на плотной архитектуре Llama и содержит 9,9 млрд параметров. Она принимает текст и генерирует текст, поддерживает английский язык и контекст до 32 768 токенов. Репозиторий содержит веса в формате safetensors, модель рассчитана на Transformers. Лицензия указана как other, поэтому условия использования следует проверить в карточке модели и связанных компонентов.

NyakuraV2.1-m7-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная объединением весов Mistral-7B-Instruct-v0.2 и Sao10K/NyakuraV2.1-m7 методом SLERP. Модель построена на плотной архитектуре Mistral с 7,1 млрд параметров и рассчитана на генерацию текста и ответы на инструкции в формате диалога; длина контекста составляет до 32 768 токенов. Модель подходит для чат-ботов, ответов на запросы и генерации текста. Репозиторий содержит веса в формате Safetensors. Лицензия — Apache-2.0. В README не приведены результаты сравнительных оценок или подробности языковой специализации.

Nyxene-v1-11B — разговорная языковая модель на архитектуре Mistral, созданная автором beberik путём слияния нескольких моделей семейства 7B с помощью mergekit. В README указаны Starling-LM-7B-alpha, DPOpenHermes-7B, juanako-7b-UNA, loyal-piano-m7 и notus-7b-v1; автор описывает эксперименты с их сочетанием для получения более творческих ответов. Модель содержит 10,6 млрд параметров, использует формат safetensors, контекст до 32 768 токенов и предназначена для генерации текста в ответ на инструкции и диалоговые запросы. Модель подходит для чат-ботов, ответов на вопросы, следования инструкциям и творческой генерации текста. README приводит результаты Open LLM Leaderboard, включая средний балл 67,58, но не описывает методику оценивания подробно. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.

Odins-Allseeing-Eye-9B — слитая модель генерации текста на архитектуре Gemma 2, созданная с помощью mergekit методом SLERP из Delta-Vector/Odin-9B и lemon07r/Gemma-2-Ataraxy-9B. Модель содержит 9 млрд параметров, работает через Transformers и принимает текстовые запросы для диалогов и генерации текста. Модель подходит для разговорных сценариев и творческого письма. Длина контекста составляет 8192 токена. Файлы модели представлены в формате safetensors и имеют тип bf16. Лицензия в предоставленных данных не указана.

OmniBeagleSquaredMBX-v3-7B-v2 — языковая модель для генерации текста, созданная PaulML путём слияния моделей paulml/OmniBeagleMBX-v3-7B и flemmingmiguel/MBX-7B-v3 с помощью LazyMergekit. Для объединения использован метод SLERP с отдельными параметрами смешивания для слоёв self-attention и MLP. Модель построена на плотной архитектуре Mistral и содержит 7,1 млрд параметров. Она принимает текст и генерирует текст, поддерживая контекст до 32 768 токенов. Карточка не приводит сведений о специализации по языкам или предметным областям. Модель распространяется в формате safetensors по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование. Карточка не описывает отдельные оценки качества или известные технические ограничения.

Gunulhona/Openchat-Llama-Merge — объединение предварительно обученных языковых моделей, созданное с помощью mergekit методом SLERP. В него вошли meta-llama/Meta-Llama-3.1-8B и openchat/openchat-3.6-8b-20240522; конфигурация использует bf16. Модель относится к семейству Llama, имеет плотную архитектуру LlamaForCausalLM и содержит 7,5 млрд параметров. Модель предназначена для генерации текста и диалогового общения. Контекст составляет 8192 токена. Репозиторий использует библиотеку Transformers и формат safetensors. Языки в предоставленных данных не перечислены. Условия лицензии в доступных источниках не приведены.

Weyaxi/OpenOrca-Zephyr-7B — объединённая языковая модель на архитектуре Mistral, созданная с помощью TIES-merge из HuggingFaceH4/zephyr-7b-alpha и Open-Orca/Mistral-7B-OpenOrca. Она предназначена для генерации текста и диалоговых сценариев; в README приведены веса слияния 0,5 для Zephyr и 0,3 для OpenOrca, а также плотность 0,5 для обеих моделей. Модель содержит 7,1 млрд параметров, имеет контекст до 32 768 токенов и опубликована в формате safetensors. README содержит заголовок таблицы результатов Open LLM Leaderboard, но значений метрик нет, поэтому качество по этим результатам оценить нельзя. Репозиторий распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.

Orca Mini v9.2 — диалоговая языковая модель Pankaj Mathur, дообученная на базе Meta Llama 3.3 70B Instruct. Она предназначена для генерации текста и работы в роли разговорного ассистента; в карточке приведён формат промпта Llama 3. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 69,5 млрд параметров и поддерживает контекст до 131 072 токенов. Карточка указывает английский язык, а базовая модель поддерживает также французский, немецкий, хинди, итальянский, португальский, испанский и тайский; качество Orca Mini на этих языках отдельно не подтверждено. Модель может генерировать неточные, предвзятые или нежелательные ответы, поэтому перед применением требуется тестирование и настройка мер безопасности под конкретный сценарий. Распространяется по лицензии Llama 3.3.

phi-3.1-qlora-blend-dpo — объединённая модель на архитектуре Phi-3, созданная ndavidson с помощью mergekit и метода TIES. В состав слияния входят microsoft/Phi-3-mini-4k-instruct и две модели ndavidson/phi-3.1-qlorablend-1 и ndavidson/phi-3.1-qlorablend-0; итоговая модель содержит 3,7 млрд параметров и распространяется в формате safetensors. Модель предназначена для диалогов и генерации текста. Она принимает текст и выдаёт текст, поддерживает контекст до 4096 токенов. В метаданных указана лицензия Apache-2.0. Данные карточки не описывают отдельные специализированные области применения или языки, поэтому модель можно охарактеризовать как общего назначения.

bunnycore/Phi-3.5-mini-TitanFusion-V2 — объединённая языковая модель на базе Microsoft Phi-3.5-mini-instruct, созданная с помощью mergekit и метода TIES. В объединение вошли Phi-3.5-mini-TitanFusion-0.1, Phi-3.5-rp-lora_model и ArliAI/Phi-3.5-mini-3.8B-ArliAI-RPMax-v1.1; карточка также указывает conversational-возможности. Модель с архитектурой Phi-3 dense и примерно 3,7 млрд параметров предназначена для генерации текста и диалогов. Она принимает текст и выдаёт текст; указанный контекст — 4096 токенов. Карточка не уточняет языковой охват или специализацию по областям. Модель распространяется в формате safetensors через Transformers; сведения о лицензии в предоставленных данных отсутствуют.

wls04 представляет дообученную диалоговую модель на базе Qwen/Qwen2.5-7B-Instruct, обученную с помощью TRL. Это плотная авторегрессионная модель семейства Qwen2 с 7,1 млрд параметров, предназначенная для генерации текста и ответов в формате диалога. В карточке приведён пример запуска через Transformers для ответа на вопрос; метаданные указывают контекст длиной до 32 768 токенов. Модель принимает текст и выдаёт текст. Карточка не описывает специализацию дообучения, поэтому её можно охарактеризовать как диалоговую модель общего назначения. В репозитории указаны веса safetensors. Сведения о лицензии в предоставленных данных отсутствуют.

EpistemeAI/Reasoning-Llama-3.1-CoT-RE1-NMT — диалоговая языковая модель семейства Llama, разработанная EpistemeAI и дообученная на базе EpistemeAI/Reasoning-Llama-3.1-CoT-RE1. Это плотная модель с 7,5 млрд параметров, контекстом до 131 072 токенов и форматом весов safetensors. Модель предназначена для диалогов, выполнения инструкций и генерации ответов с многошаговыми рассуждениями. В карточке заявлены сценарии виртуальных помощников, поддержки клиентов, обучения и генерации текстов. Среди датасетов в метаданных указаны AI-MO/NuminaMath-TIR и bespokelabs/Bespoke-Stratos-17k. README также упоминает Unsloth и непрерывное обучение, но не приводит подробностей об их реализации в этой версии. Доступны способ запуска через Transformers и лицензия Apache-2.0. Качество и языковое покрытие отдельно не оценены в предоставленных сведениях.

Aleteian/Saiga-Unleashed — объединённая с помощью mergekit методом SLERP языковая модель, включающая IlyaGusev/saiga_nemo_12b и MarinaraSpaghetti/NemoMix-Unleashed-12B. Это плотная модель архитектуры MistralForCausalLM с 12,1 млрд параметров, предназначенная для генерации текста и диалогового общения; используется шаблон чата Mistral. Модель принимает текст и генерирует текст. Её можно применять для ведения диалогов, написания историй и других задач генерации текста. Указанная в метаданных длина контекста — 1 024 000 токенов. Модель опубликована в формате safetensors и использует библиотеку Transformers. В README и предоставленных метаданных сведения о лицензии и конкретных ограничениях не приводятся.

Aleteian/saiga-vikhr-dostoevsky-ru-mn-12b — русскоязычная диалоговая языковая модель, созданная слиянием двух моделей на базе Mistral Nemo: IlyaGusev/saiga_nemo_12b и IlyaGusev/vikhr_nemo_orpo_dostoevsky_12b. Для объединения использован метод SLERP с библиотекой mergekit; модель имеет плотную архитектуру MistralForCausalLM и содержит 12,1 млрд параметров. Модель предназначена для генерации текста в диалоге и ответов на запросы пользователей. Она принимает текст и выдаёт текст; метаданные указывают контекст до 1 024 000 токенов и поддержку чата. Лицензия в предоставленных данных не указана.

Модель создана как линейное слияние нескольких предварительно обученных языковых моделей с помощью mergekit. В качестве базовой использована версия filtered_e2e_alignment на шаге global_step7000; также объединены версии с шагов 3000, 4000, 5000 и 6000. Архитектура — плотная авторегрессионная GPT-NeoX, около 8,8 млрд параметров; модель доступна в формате safetensors и рассчитана на контекст до 16 384 токенов. Модель предназначена для генерации текста и диалогового использования. Карточка не уточняет языки обучения, специализацию или сравнительные преимущества, поэтому её следует рассматривать как универсальную языковую модель. Лицензия в предоставленных данных не указана.

sfm_filtered_e2e_alignment-6k_7k_8k_9k_10k_weightedavg_merge — объединение языковых моделей, созданное с помощью mergekit. В карточке указано линейное слияние контрольных точек обучения на шагах 6000, 7000, 8000, 9000 и 10000; контрольная точка шага 10000 использовалась как базовая при слиянии. Модель имеет архитектуру GPT-NeoX, около 8,8 млрд параметров и контекстное окно до 16 384 токенов. Она предназначена для генерации текста и диалогового взаимодействия. Данные не уточняют конкретные языки, предметные области или специальные сценарии применения. Модель распространяется в формате Safetensors. Лицензия в предоставленных данных не указана.

Это языковая модель GPT-NeoX объёмом 8,8 млрд параметров, созданная объединением нескольких предварительно обученных чекпойнтов с помощью mergekit. В качестве основы использован чекпойнт global_step10000; в слияние также вошли версии global_step8000 и global_step9000. Применён линейный метод слияния. Модель предназначена для генерации текста и диалогового взаимодействия. Она принимает текст и выдаёт текст; заявленная длина контекста составляет 16 384 токена. Репозиторий использует Transformers и формат весов safetensors. В карточке нет сведений о целевых языках, специальных предметных областях или ограничениях качества. Условия лицензии в доступных данных не описаны.

Smaura_8B — объединённая языковая модель на базе Llama 3, созданная методом Model Stock с помощью mergekit. В объединение вошли abacusai/Llama-3-Smaug-8B, Aura_Llama3, BlueMoon_Llama3, Luna_Llama3 и Theory_of_Mind_Llama3; основой указан abacusai/Llama-3-Smaug-8B. Модель предназначена для генерации текста и многоходового общения. Она имеет плотную архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров и поддерживает контекст до 8192 токенов. Репозиторий использует Transformers и хранит веса в формате safetensors. В README указано, что веса объединены в формате float16. Сведений о лицензии и языковом охвате в предоставленных источниках нет.

CallComply/SOLAR-10.7B-Instruct-v1.0-128k — англоязычная диалоговая языковая модель, дообученная на базе upstage/SOLAR-10.7B-v1.0 для одношаговых инструкций и бесед. Она построена на плотной архитектуре семейства Llama с 10,6 млрд параметров и поддерживает контекст до 131 072 токенов. Модель предназначена для генерации ответов и выполнения инструкций в чат-сценариях. При дообучении использовались SFT и итеративная DPO на наборах Alpaca-GPT4, OpenOrca, Intel Orca DPO и UltraFeedback; карточка также описывает применение данных для математических задач. В метаданных указана лицензия CC BY-NC 4.0, которая ограничивает коммерческое использование.

Synthia-70B — языковая модель migtissera, созданная на основе Llama 2 70B и дообученная на данных в стиле Orca. Она предназначена для следования инструкциям и продолжительных диалогов, а также для генерации подробных ответов на запросы пользователя. Модель использует плотную архитектуру LlamaForCausalLM, содержит 68,7 млрд параметров и работает с контекстом до 2048 токенов. Репозиторий содержит веса PyTorch; для использования требуется библиотека Transformers. В карточке заявлена поддержка английского языка. Модель оценивается на наборах задач общего назначения, включая ARC и HellaSwag. Synthia-70B подходит для диалоговых помощников, ответов на вопросы и генерации развернутых текстов по инструкциям. По заявлению карточки, модель не ограничивает тематику ответов; при этом она может выдавать фактически неверные, вводящие в заблуждение, предвзятые или оскорбительные результаты. Указана лицензия Llama 2; условия её использования определяются соответствующей лицензией.

MaziyarPanahi/T3qm7xNeuralsirkrishna_Experiment24Experiment28 — объединённая языковая модель на архитектуре Mistral с 7,1 млрд параметров. Она создана слиянием automerger/T3qm7xNeuralsirkrishna-7B и automerger/Experiment24Experiment28-7B и предназначена для генерации текста и диалогов. Модель принимает текст и выдаёт текст. Контекст составляет до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0. Карточка не описывает специализированные области применения или отдельные ограничения качества; возможности стоит оценивать на задачах конкретного приложения.

T3qm7xNeuralsirkrishna_Multi_verse_modelExperiment28 — объединённая авторами репозитория модель семейства Mistral с архитектурой MistralForCausalLM и 7,1 млрд параметров. Она предназначена для генерации текста и диалогов, принимает текст и поддерживает контекст до 32 768 токенов. Модель объединяет automerger/T3qm7xNeuralsirkrishna-7B и automerger/Multi_verse_modelExperiment28-7B. Веса опубликованы в формате safetensors. Карточка не уточняет специализацию модели, языки или сравнительное качество, поэтому её можно характеризовать только как модель генерации общего назначения. Лицензия — Apache-2.0.

T3qm7xNeuralsirkrishna_Multi_verse_modelOgno — объединённая языковая модель семейства Mistral, созданная на основе automerger/T3qm7xNeuralsirkrishna-7B и automerger/Multi_verse_modelOgno-7B. Модель содержит 7,1 млрд параметров и использует архитектуру MistralForCausalLM; для генерации текста ей доступен контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогов. Весовые файлы представлены в формате safetensors. Лицензия — Apache-2.0. Карточка не приводит конкретных сведений о языках, специализации или результатах оценки качества.

T3qm7xNeuralsirkrishna_PasticheInex12 — объединённая текстовая модель на архитектуре Mistral с 7,1 млрд параметров. Она предназначена для генерации текста и диалогов, а контекстное окно составляет до 32 768 токенов. Модель создана объединением automerger/T3qm7xNeuralsirkrishna-7B и automerger/PasticheInex12-7B. Доступна в формате Safetensors и распространяется по лицензии Apache-2.0. В README и метаданных не описаны специальные предметные области или языки, на которые она рассчитана.

Tess-70B-v1.6 — универсальная языковая модель из серии Tess, разработанной migtissera. Она дообучена на базе Miqu/LLaMA-2-70B и предназначена для генерации текста и диалогового общения. Модель использует плотную архитектуру LlamaForCausalLM и содержит 68,7 млрд параметров. Модель принимает текст и генерирует текст. Контекстное окно составляет 32 764 токена. В карточке указан формат safetensors и лицензия Llama 2. Для общения README задаёт формат с метками SYSTEM, USER и ASSISTANT; сведения о поддерживаемых естественных языках и специализированных областях применения не приведены.