III.5Управление персоналом и организацией

aqua-smaug-hermes-8B — объединённая модель на архитектуре Llama, созданная с помощью Mergekit из cognitivecomputations/dolphin-2.9-llama3-8b, NousResearch/Hermes-2-Pro-Llama-3-8B и abacusai/Llama-3-Smaug-8B. Разработчик — saucam. Модель предназначена для генерации текста и диалогового взаимодействия; её можно применять для ответов на вопросы, написания текстов и ведения беседы. Веса представлены в формате safetensors, размер модели — 7,5 млрд параметров, длина контекста — 8192 токена. Модель использует плотную архитектуру LlamaForCausalLM и распространяется по лицензии Apache-2.0. README не приводит результаты оценки качества или подробные инструкции по применению, поэтому пригодность для конкретных задач стоит проверять на собственных данных.

Jebadiah/Aria-p1-sand-stone — объединённая модель генерации текста, созданная с помощью mergekit методом DARE TIES на основе Jebadiah/Aria-Laylelemon-sand-stone с включением Jebadiah/Aria-flammen22x-stone-l3-8b. Модель построена на плотной архитектуре Mistral и содержит 7,1 млрд параметров. Модель предназначена для генерации текста по текстовому запросу. Контекстное окно составляет до 32 768 токенов; репозиторий содержит веса safetensors, а карточка указывает библиотеку Transformers. README не описывает специализированную предметную область или поддерживаемые языки. Карточка не сообщает результаты оценки качества и конкретные ограничения. Условия лицензии в предоставленных данных не приведены.

ArliAI-Llama-3-8B-Dolfin-v0.5 — разговорная модель OwenArli на архитектуре Llama 3, дообученная на базе Meta-Llama-3-8b-Instruct. Она предназначена для генерации ответов и следования инструкциям в диалогах; автор указывает, что использовал улучшенные наборы данных Dolphin и WizardLM, чтобы повысить следование инструкциям и снизить частоту отказов. Модель содержит 7,5 млрд параметров, а её базовый контекст составляет 8192 токена. Дообучение выполнялось методом QLoRA с рангом 64 и alpha 128; README сообщает о последовательностях длиной 2048 токенов при обучении и сохранении качества на контексте 8192 токена. Репозиторий содержит веса Safetensors. Модель рассчитана на текстовый ввод и текстовые ответы. Карточка не приводит отдельные результаты бенчмарков и подробного перечня поддерживаемых языков. Использование регулируется лицензией Meta Llama 3; необходимо соблюдать её условия.

Clown-DPO-Extended — языковая модель для генерации текста, созданная Arcee AI на основе CorticalStack/pastiche-crown-clown-7b-dare-dpo с помощью mergekit. При расширении архитектуры Mistral каждые пять слоёв добавлялся новый слой; параметры o_proj и down_proj новых слоёв инициализировались нулями по подходу LLaMA Pro. Модель содержит 8,9 млрд параметров, работает с текстом и поддерживает контекст до 32 768 токенов. Модель подходит для генерации ответов и продолжения текста в задачах общего назначения. В README приведены результаты базовой модели из набора OpenLLM, а не отдельная оценка Clown-DPO-Extended. Модель распространяется по лицензии Apache-2.0.

CollAIborate4x7B — разговорная модель генерации текста от collaiborate-tech, построенная как смесь экспертов (MoE) из дообученных моделей общего назначения на базе Mistral. Она предназначена для диалогов и генерации ответов на текстовые запросы. В метаданных указаны архитектура MixtralForCausalLM, 7,1 млрд параметров, контекст до 32 768 токенов и формат safetensors. Модель распространяется по лицензии Apache-2.0. Карточка не уточняет состав экспертов, языки обучения и результаты оценки качества, поэтому её пригодность для конкретных сценариев следует проверять на собственных запросах.

CrystalMistral-24B — текстовая генеративная модель семейства Mixtral, созданная с помощью LazyMergekit путём слияния четырёх моделей: eren23/dpo-binarized-NeuralTrix-7B, macadeliccc/WestLake-7B-v2-laser-truthy-dpo, Weyaxi/OpenHermes-2.5-neural-chat-v3-2-Slerp и cognitivecomputations/WestLake-7B-v2-laser. Архитектура — MixtralForCausalLM с механизмом смеси экспертов (MoE); в репозитории указаны веса Safetensors, а метаданные содержат размер 7,1 млрд параметров и контекст до 32 768 токенов. Модель предназначена для генерации текста и диалоговых ответов на запросы. Лицензия — Apache-2.0. Карточка не уточняет поддерживаемые языки, качество на конкретных задачах или специальные ограничения применения.

Einstein-4d-Marcoro14-nddmpk-KrishnaHercules-7b-slerp — языковая модель, созданная mvpmaster слиянием моделей Einstein-4D-Marcoro14-7b-full-slerp и nddmp-kellemar-KrishnaHercules-7b-slerp методом SLERP с помощью LazyMergekit. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, предназначенная для генерации текста. Она принимает текст и выдаёт текст; заявленная длина контекста — 32 768 токенов. Модель распространяется в формате Safetensors по лицензии Apache-2.0. В карточке и метаданных не приведены сведения о целевых языках, специализированных областях или оценках качества, поэтому их нельзя надёжно определить.

MaziyarPanahi/Experiment26Yam_YamMulti_verse_model — объединённая модель генерации текста на базе архитектуры Mistral, созданная слиянием automerger/Experiment26Yam-7B и automerger/YamMulti_verse_model-7B. Модель содержит 7,1 млрд параметров и принимает текстовый контекст длиной до 32 768 токенов. Модель предназначена для генерации текста. Веса доступны в формате safetensors, лицензия — Apache-2.0.

Experiment28M7_Experiment28Meliodas — объединённая модель для генерации текста, созданная на основе automerger/Experiment28M7-7B и automerger/Experiment28Meliodas-7B. Модель построена на архитектуре Mistral и содержит 7,1 млрд параметров; максимальная длина контекста составляет 32 768 токенов. Модель предназначена для генерации текста по текстовому запросу. Данные не описывают её специализацию по языкам или прикладным областям, поэтому её можно характеризовать только как модель общего назначения. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

MaziyarPanahi/Experiment28M7_Strangemerges_32Yamshadow — объединённая модель генерации текста на архитектуре Mistral с 7,1 млрд параметров. Она создана слиянием моделей automerger/Experiment28M7-7B и automerger/Strangemerges_32Yamshadow-7B; файлы представлены в формате Safetensors. Модель предназначена для генерации текста по текстовому запросу и поддерживает контекст до 32 768 токенов. Доступна по лицензии Apache-2.0. Информация о специализации по языкам и предметным областям в карточке не приведена.

Gemma 1.1 2B IT — компактная языковая модель Google с открытыми весами, построенная на исследованиях и технологиях, использованных для Gemini. Это декодерная трансформерная модель для генерации текста, дообученная следовать инструкциям и вести диалог. Она рассчитана прежде всего на английский язык и подходит для запуска на ноутбуках, настольных компьютерах и собственной облачной инфраструктуре. Модель можно применять для ответов на вопросы, суммаризации, диалоговых интерфейсов, создания текстов и помощи в обучении языку. Небольшой размер упрощает развёртывание при ограниченных вычислительных ресурсах. При этом ответы могут содержать фактические ошибки и отражать смещения обучающих данных; модель может испытывать трудности со сложными задачами, неоднозначностью и тонкими языковыми нюансами. Лицензия — Gemma; перед использованием следует учитывать условия лицензии и политику запрещённого использования Gemma.

Модель artificialguybr — дообученная версия Gemma 2 2B, созданная на наборе OpenHermes-2.5. Это плотная причинная языковая модель с 2,7 млрд параметров и контекстом до 8192 токенов, предназначенная для следования инструкциям и общих языковых задач. Она принимает текстовые запросы и генерирует текст; карточка указывает английский язык и формат safetensors. Модель подходит для генерации текста, ответов на вопросы и диалоговых сценариев с инструкциями. Она распространяется по лицензии Apache-2.0. Карточка предупреждает о возможных смещениях в обучающих данных и риске генерации вредного или предвзятого содержания.

Infinity-Instruct-7M-Gen-Llama3.1-70B — разговорная модель Beijing Academy of Artificial Intelligence (BAAI), дообученная на наборах Infinity-Instruct-7M и Infinity-Instruct-Gen. Это плотная авторегрессионная модель семейства Llama 3.1 с 69,5 млрд параметров; она генерирует текст по инструкциям и использует шаблон диалога Llama 3 Instruct. Контекстное окно составляет 8192 токена. Модель предназначена для диалогов и выполнения пользовательских инструкций. Разработчики сообщают о результатах на AlpacaEval 2.0 и Arena-Hard, сопоставимых с GPT-4, однако приведённые в карточке сведения не гарантируют качество в конкретных сценариях. Обучение проводилось без RLHF. В метаданных указан английский язык. Модель распространяется для академических исследований; коммерческое использование запрещено лицензией llama3.1 и условиями проекта.

Ingot-7b-slerp-3 — слитая модель на архитектуре Mistral, созданная с помощью LazyMergekit из flemmingmiguel/MBX-7B и liminerity/Ingot-7b-slerp. Веса объединены методом SLERP; в конфигурации flemmingmiguel/MBX-7B указан как базовая модель, а тип данных — bfloat16. Модель предназначена для генерации текста по запросу. Она содержит 7,1 млрд параметров и поддерживает контекст длиной до 32 768 токенов. Карточка не приводит сведений о целевых языках, специальных областях применения или оценках качества. Модель опубликована в формате safetensors. Лицензия в предоставленных сведениях не указана.

Ingot-7b-slerp-6 — слитая модель для генерации текста, созданная liminerity с помощью LazyMergekit. Она объединяет liminerity/Ingot-7b-slerp-2 и liminerity/Ingot-7b-slerp-4 методом SLERP; архитектура — dense MistralForCausalLM, размер — 7,1 млрд параметров, формат весов — safetensors, контекст — до 32 768 токенов. Модель предназначена для генерации текста по запросу и может использоваться для диалогов, написания черновиков и продолжения текста. Данных о специализированной области или поддерживаемых языках в карточке нет. Лицензия в предоставленных источниках не указана.

Vikhrmodels/it-5.4-fp16-orpo-v2 — русскоязычная чат-модель Vikhrmodels для генерации ответов на инструкции. Это плотная авторегрессионная модель семейства Llama с 7,3 млрд параметров и контекстом до 32 768 токенов. По карточке, в основе лежит Vikhr пятой версии на базе Mistral; модель обучали на переведённых инструкциях и ответах GPT-4, а затем улучшили методом ORPO на внутреннем датасете. Модель предназначена для диалогов и выполнения пользовательских инструкций на русском языке. В README отмечено высокое разнообразие ответов; для генерации авторы рекомендуют температуру 0,1–0,4. Модель распространяется в формате safetensors и обозначена как fp16; README также упоминает GGUF, но не приводит подробностей отдельной версии. Лицензия в предоставленных сведениях не указана. Возможности за пределами текстового чата и качество на конкретных задачах README не описывает.

KunaiBeagle-7b — модель генерации текста, созданная объединением SanjiWatsuki/Kunoichi-DPO-v2-7B и mlabonne/NeuralBeagle14-7B с помощью LazyMergekit. Она основана на Mistral-7B-v0.1 и использует плотную архитектуру Mistral с 7,1 млрд параметров; указанная длина контекста — 32 768 токенов. Модель предназначена для генерации текста и диалогового взаимодействия на основе текстовых запросов. Данные карточки не уточняют языки, в которых она лучше всего работает, и конкретные области применения. Репозиторий распространяется в формате safetensors; лицензия в предоставленных сведениях не указана.

ddobokki выпустил инструкционную модель Llama-2-70b-orca-200k на архитектуре LlamaForCausalLM с плотной архитектурой и примерно 68,7 млрд параметров. Она обучена на выборке из 200 тысяч примеров OpenOrca и предназначена для генерации текста по инструкциям и диалога в формате «Human — Assistant». Метаданные указывают английский язык и контекстное окно 4096 токенов; модель распространяется в формате PyTorch. Модель подходит для ответов на вопросы, выполнения текстовых инструкций и диалоговых сценариев на английском языке. Карточка ссылается на отдельные документы с политикой использования и рекомендациями по ответственному применению. Лицензия в предоставленных данных не указана.

Posicube Inc. разработала Posicube/Llama2-chat-AYB-13B — диалоговую плотную языковую модель на архитектуре Llama 2 с 12,9 млрд параметров. Модель создана на основе Llama-2-13b-chat-hf с использованием ансамблирования моделей, показавших высокие результаты в бенчмарках; в обучении применялись наборы данных в стилях Orca и Alpaca. Она предназначена для генерации текста и ответов в диалоге. Контекст составляет 4096 токенов; модель работает с текстом, а оценка в карточке описана для английских тестов ARC, HellaSwag и MMLU. Разработчик сообщает, что на момент публикации в октябре 2023 года модель занимала первое место среди моделей с 13 млрд параметров на упомянутых бенчмарках. Модель распространяется в формате safetensors по лицензии Llama 2. Как и другие большие языковые модели, она может выдавать неточные, предвзятые или нежелательные ответы; перед применением рекомендуется проверять её на сценариях конкретного продукта. Заявленная оценка охватывает английские тесты и не подтверждает качество во всех сценариях.

PerfectUsing/llama-3.1-8b-sam-v5-merged — дообученная текстовая генеративная модель на архитектуре Llama 3.1 с плотной архитектурой и примерно 7,5 млрд параметров. Разработчик — PerfectUsing; базовая модель — unsloth/llama-3.1-8b-unsloth-bnb-4bit. Для обучения использовались Unsloth и библиотека Hugging Face TRL. Модель предназначена для генерации текста. В метаданных указан контекст до 131 072 токенов и английский язык. Карточка не уточняет специальную область применения или особенности обучения. Модель распространяется по лицензии Apache-2.0.

Llama-3.1-SuperNova-Lite-14B — плотная авторегрессионная языковая модель семейства Llama, созданная с помощью mergekit методом passthrough. Модель предназначена для генерации текста и диалогового общения. Репозиторий содержит веса в формате safetensors; метаданные указывают размер 12,7 млрд параметров и контекст до 131 072 токенов. Модель объединяет предварительно обученные языковые модели; README называет компонент слияния Llama-3.1-SuperNova-Lite. Она подходит для генерации продолжений и ответов в чате. Сведений о языковом охвате, лицензии и конкретных ограничениях качества в доступной карточке нет.

Minbyul/llama3-8b-instruct-wo-kqa_golden-iter-sft-step1 — дообученная диалоговая языковая модель на архитектуре Llama, созданная на основе meta-llama/Meta-Llama-3-8B-Instruct. Она предназначена для генерации текста и ответов в формате чата. Модель содержит 7,5 млрд параметров и поддерживает контекст до 8192 токенов. Дообучение выполнено на наборе HuggingFaceH4/deita-10k-v0-sft; в карточке приведено значение loss 0,4835 на наборе оценки. Базовая модель описана как ориентированная на ассистентские ответы и генерацию текста на английском языке. Репозиторий содержит веса в формате safetensors. Лицензия — Llama 3.

II-8B-SFT — текстовая модель генерации на архитектуре Llama, дообученная автором репозитория на наборе allenai/tulu-3-sft-mixture с помощью Axolotl. Она содержит 7,5 млрд параметров, принимает текст и предназначена для диалоговых сценариев и генерации ответов. Заявленная длина контекста — 131 072 токена. Модель основана на meta-llama/Llama-3.1-8B и распространяется в форматах PyTorch и Safetensors по лицензии Llama 3.1. Карточка не приводит результатов оценки и подробных рекомендаций по применению; качество и ограничения для конкретных задач следует проверять отдельно.

M7Yamshadowexperiment28_Experiment24Shadow — слитая языковая модель, объединяющая automerger/M7Yamshadowexperiment28-7B и automerger/Experiment24Shadow-7B. Модель разработана на архитектуре Mistral с плотной структурой и содержит 7,1 млрд параметров; она предназначена для генерации текста, включая диалоговые сценарии и продолжение заданного текста. Поддерживает контекст до 32 768 токенов и распространяется в формате safetensors. Модель распространяется по лицензии Apache-2.0. В карточке не указаны специальные предметные области или языки. Поскольку происхождение и возможности исходных моделей описаны ограниченно, качество и специализацию результата следует оценивать на целевых задачах.

M7Yamshadowexperiment28_Inex12Experiment26 — объединённая языковая модель на архитектуре Mistral, созданная путём слияния automerger/M7Yamshadowexperiment28-7B и automerger/Inex12Experiment26-7B. Она предназначена для генерации текста и поддерживает контекст до 32 768 токенов. Модель содержит 7,1 млрд параметров и распространяется в формате safetensors по лицензии Apache-2.0. Карточка не описывает специализацию по языкам или предметным областям; модель можно рассматривать для общих задач генерации текста.

Magnum-v2.5-12b-kto — экспериментальная разговорная языковая модель Anthracite, созданная дообучением anthracite-org/magnum-12b-v2. Она предназначена для следования инструкциям и генерации прозы с качеством, ориентированным на Claude 3 Sonnet и Opus. Обучение версии использовало ограниченную часть инструкционных данных и гибридную стратегию KTO и DPOP: примеры отклонённых ответов получали из исходной модели, а предпочтительные — из исходного набора для дообучения. Модель построена на архитектуре Mistral, содержит 12,1 млрд параметров и принимает диалоги в формате ChatML. Метаданные указывают поддержку английского, французского, немецкого, испанского, итальянского, португальского, русского, китайского и японского языков и контекст до 1 024 000 токенов. Распространяется в формате Safetensors по лицензии Apache 2.0. Модель подходит для диалогов, выполнения инструкций и создания прозы. Авторы характеризуют эту версию как экспериментальную и отмечают, что обучение проведено на ограниченном объёме данных, поэтому обобщение может быть недостаточным.

MeowGPT-2 — разговорная языковая модель, разработанная CutyCat2000 на архитектуре Llama. Модель содержит 2,9 млрд параметров, использует плотную архитектуру LlamaForCausalLM и принимает текстовые запросы для генерации текста. Она обучена на наборе данных OpenOrca и предназначена для диалогового взаимодействия и других задач генерации текста на естественном языке. Модель загружается через библиотеку Transformers и распространяется в формате safetensors. Контекст составляет до 4096 токенов. В карточке указан английский язык, лицензия — MIT. Ответы могут быть неточными или неуместными, поэтому их следует проверять перед использованием в важных сценариях.

MergeCeption-7B-v3 — языковая модель CultriX, созданная слиянием моделей с помощью LazyMergekit. В конфигурации указаны CultriX/MonaTrix-v4 как базовая модель, а также Kukedlc/NeuralMaxime-7B-slerp, mlabonne/Monarch-7B и CultriX/NeuralTrix-bf16; применён метод dare_ties. Модель построена на плотной архитектуре MistralForCausalLM и содержит 7,1 млрд параметров. Модель предназначена для генерации текста и общих языковых задач. Контекст составляет до 32 768 токенов; репозиторий содержит веса в формате safetensors. Поддержка русского и других конкретных языков в предоставленных данных не подтверждена. Модель распространяется по лицензии Apache-2.0.

MFANN-Phigments12-slerp — слитая модель для генерации текста, созданная netcat420 с помощью mergekit из liminerity/Phigments12 и netcat420/MFANN3bv0.6 методом SLERP. Модель построена на архитектуре Phi и содержит 3,5 млрд параметров; веса представлены в формате safetensors. Модель принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов. Подходит для сценариев генерации и продолжения текста. В карточке указана лицензия Apache-2.0.

Mistral-11B-SynthIAirOmniMix — текстовая языковая модель, созданная автором репозитория путём слияния моделей SynthIA-7B-v1.5, Mistral-7B-v0.1-Open-Platypus, CollectiveCognition-v1.1-Mistral-7B и airoboros-mistral2.2-7b с помощью mergekit. Репозиторий содержит веса fp16 в формате safetensors; архитектура — плотная авторегрессионная MistralForCausalLM с 10,6 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для генерации текста и ответов на запросы в формате диалога. Автор приводит результаты собственных оценок и Open LLM Leaderboard, но они не гарантируют качество на других задачах. В README рекомендован шаблон с ролями SYSTEM, USER и ASSISTANT; также отмечено, что модели в слиянии используют не полностью одинаковые форматы промптов, поэтому формат запроса может влиять на результат. Лицензия CC BY-NC 4.0 ограничивает коммерческое использование.