III.10Проекты, процессы и операционное управление
В разделе собраны самостоятельные задачи, где AI помогает планировать работу, обнаруживать отклонения и улучшать операционные процессы. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
2 527 моделейrwitz2/go-bruins-v2.1.1 — текстовая генеративная модель семейства Mistral с плотной архитектурой MistralForCausalLM и 7,1 млрд параметров. Репозиторий содержит веса в формате Safetensors; заявленное окно контекста составляет 32 768 токенов. README сообщает, что модель основана на jan-hq/trinity-v1, дообученной методом DPO на Intel/orca_dpo_pairs, и содержит следы Cybertron-2. Модель предназначена для генерации текста и диалоговых сценариев на основе текстового запроса. README заявлял о первом месте в таблице лидеров 16 декабря 2023 года, но не уточняет саму таблицу или условия оценки. Автор также предупреждает о возможном загрязнении некоторых обучающих данных и сообщает о планах устранить его в будущих версиях. Лицензия репозитория — CC; конкретный вариант лицензии не указан в предоставленных метаданных.
Inex12T3qm7xp-7B — автоматически объединённая языковая модель, созданная Maxime Labonne на основе MSL7/INEX12-7b и nlpguy/T3QM7XP. Модель построена на архитектуре Mistral, содержит 7,1 млрд параметров и предназначена для генерации текста и диалоговых ответов; заявленная длина контекста составляет до 32 768 токенов. Для объединения использован метод DARE-TIES с плотностью 0,53 и весом 0,6 для nlpguy/T3QM7XP; веса представлены в формате safetensors. Модель принимает текст и генерирует текст. Лицензия — Apache-2.0. Карточка не приводит оценок качества или результатов тестирования.
J.O.S.I.E.3-Beta11-7B-slerp — объединённая чат-модель на архитектуре Mistral, созданная Goekdeniz Guelmez с помощью LazyMergekit на основе cognitivecomputations/dolphin-2.8-experiment26-7b и argilla/CapybaraHermes-2.5-Mistral-7B. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для диалогов и генерации текста. В карточке указаны английский, немецкий, испанский, французский, японский и китайский языки. Репозиторий предоставляет веса в формате safetensors; README также упоминает запуск GGUF-квантизации Q4_K_M через Ollama. Лицензия — Apache-2.0.
Kosmos-EVAA-PRP-v31-8B — языковая модель, созданная разработчиком jaspionjader слиянием двух предварительно обученных моделей: Kosmos-EVAA-PRP-v30-8B и Kosmos-EVAA-gamma-light-8B. Для объединения весов применён метод SLERP с помощью mergekit; архитектура — плотная Llama с причинной языковой моделью LlamaForCausalLM. Репозиторий содержит веса в формате safetensors. Модель предназначена для генерации текста и сценариев, где нужен ответ или продолжение текста по текстовой подсказке. Она содержит 7,5 млрд параметров и поддерживает контекст до 8192 токенов. Сведения о лицензии и специально поддерживаемых языках в использованных данных отсутствуют, поэтому условия распространения и языковую специализацию следует проверять отдельно.
Это преобразованная TheBloke в формат Hugging Face версия Meta Llama 2 70B Chat: авторские веса PTH конвертированы в формат Transformers fp16 и сохранены в Safetensors. В основе — авторегрессионный плотный Transformer Llama с 68,7 млрд параметров и контекстом 4096 токенов; модель принимает текст и генерирует текст. Версия Chat прошла supervised fine-tuning и обучение с подкреплением на основе человеческой обратной связи, чтобы вести диалог и отвечать в роли помощника. Модель предназначена для диалоговых сценариев на английском языке: ответов на вопросы, инструкций и генерации текста. Крупный размер и grouped-query attention в варианте 70B рассчитаны на масштабируемый вывод, однако для запуска требуются значительные вычислительные ресурсы. Ответы могут быть неточными, предвзятыми или нежелательными; перед применением нужны проверки безопасности и настройка под конкретный сценарий. Использование регулируется лицензией Meta Llama 2; для получения весов требуется принять её условия.
notcvnt/Llama-3.1-8B-Instruct-heretic — производная инструктивная версия Meta Llama 3.1, представленная сообществом как «heretic» и «abliterated». По метаданным это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM, примерно 7,5 млрд параметров, предназначенная для генерации текста и диалогов. Она принимает текст и выдаёт текст; заявленный контекст — до 131 072 токенов. README описывает исходную Llama 3.1 Instruct, а не конкретную версию heretic, поэтому сведения о языках, методе изменения поведения и характеристиках именно этого варианта ограничены. В метаданных указаны языки en, de, fr, it, pt, hi, es и th. Модель подходит для диалогового помощника и генерации текста на поддерживаемых языках. Метки «uncensored» и «abliterated» указывают на изменённый профиль отказов или ограничений, но карточка не раскрывает точную методику и результаты оценки; выходы следует проверять на точность и безопасность. Модель распространяется по лицензии Llama 3.1 Community License (идентификатор лицензии в метаданных — llama3.1); применение регулируется её условиями и Acceptable Use Policy.
LMCocktail-Mistral-7B-v1-Mistral-7B-Instruct-v0.1 — плотная языковая модель семейства Mistral, созданная объединением Mistral-7B-Instruct-v0.1 и Yhyu13/LMCocktail-Mistral-7B-v1 методом SLERP. Веса представлены в формате Safetensors; модель насчитывает 7,1 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации текста в ответ на инструкции и ведения диалогов. Её можно применять в чат-ботах и для создания ответов на текстовые запросы. Данные о поддерживаемых естественных языках в карточке не приведены. Модель распространяется по лицензии Apache-2.0. Качество и поведение при объединении моделей могут различаться в зависимости от запроса; отдельные ограничения в карточке не описаны.
Mayo — диалоговая языковая модель, созданная слиянием mlabonne/NeuralBeagle14-7B и openchat/openchat-3.5-0106 с помощью mergekit и метода SLERP. В основе лежит плотная архитектура Mistral с причинным языковым моделированием; размер модели — 7,1 млрд параметров, заявленный контекст — до 32 768 токенов. Модель предназначена для генерации текста в диалоге: она может использоваться для ответов на вопросы, следования инструкциям, рассуждений и творческого письма. Эти сценарии соответствуют характеристикам базовой NeuralBeagle14-7B и назначению компонентов слияния; README не приводит отдельные результаты оценки Mayo. Репозиторий содержит веса в формате Safetensors. Лицензия — Apache-2.0. Сведения о поддерживаемых естественных языках и специальных ограничениях применения в карточке не приведены.
Mergerix-7b-v0.3 — объединённая текстовая модель семейства Mistral, опубликованная MiniMoog. Она создана методом слияния model_stock с помощью LazyMergekit на основе Gille/StrangeMerges_32-7B-slerp, yam-peleg/Experiment26-7B и liminerity/M7-7b; в конфигурации последняя указана как базовая. Модель содержит 7,1 млрд параметров и рассчитана на генерацию текста, в том числе диалоговых ответов. Контекст составляет до 32 768 токенов; веса доступны в формате Safetensors. Модель подходит для генерации текста и ведения диалога. Для неё указана лицензия Apache-2.0. README описывает состав и метод слияния, но не приводит оценки качества или конкретных ограничений; результаты могут зависеть от сценария применения.
mini-magnum-12b-v1.1 — диалоговая instruct-модель на архитектуре Mistral, обученная alpindale при участии команды, указанной в карточке. Она предназначена для генерации текста в формате беседы и использует шаблон запросов Mistral с маркерами [INST] и [/INST]. Модель содержит 12,1 млрд параметров, распространяется в формате safetensors и рассчитана на контекст до 1 024 000 токенов. В метаданных перечислены английский, французский, немецкий, испанский, итальянский, португальский, русский, китайский и японский языки. Лицензия — Apache-2.0. Карточка описывает формат промптинга и участников обучения, но не приводит подробностей об оценке качества или конкретных специализациях. Поэтому модель уместно рассматривать как универсальную разговорную модель; качество на отдельных языках и задачах следует проверять самостоятельно.
lvkaokao/mistral-7b-finetuned-orca-dpo-v2 — текстовая генеративная модель, дообученная на базе Mistral-7B-v0.1 с использованием открытого датасета Open-Orca/SlimOrca. Она предназначена для генерации ответов и диалоговых сценариев общего назначения. Модель имеет плотную архитектуру MistralForCausalLM и 7,1 млрд параметров; заявленная длина контекста — 32 768 токенов. Репозиторий содержит веса PyTorch, лицензия — Apache-2.0. Карточка указывает на дообучение на инструкционном датасете, поэтому модель подходит для ответов на запросы, следования инструкциям и ведения текстового диалога. В метаданных перечислены Mistral и text-generation; конкретные языковые возможности и отдельные гарантии качества карточка не уточняет.
NickyNicky/Mistral-7B-OpenOrca-oasst_top1_2023-08-25-v2 — разговорная языковая модель на архитектуре Mistral, созданная на основе Open-Orca/Mistral-7B-OpenOrca. В карточке указано обучение на данных OpenAssistant/oasst_top1_2023-08-25; метаданные также связывают модель с Open-Orca/OpenOrca. Модель содержит 7,1 млрд параметров, использует плотную архитектуру MistralForCausalLM и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации текста в диалогах: она может отвечать на вопросы, поддерживать беседу и формулировать текстовые ответы. В карточке и метаданных перечислены болгарский, каталанский, чешский, датский, немецкий, английский, испанский, французский, хорватский, венгерский, итальянский, нидерландский, польский, португальский, румынский, русский, словенский, сербский, шведский и украинский языки. Лицензия — Apache-2.0. Оценки качества и подробные ограничения в доступных сведениях не приведены.
Модель thewordsmiths/Mistral-7B-v0.3_sft_merged_100000_dpo_merged — дообученная авторами thewordsmiths плотная языковая модель Mistral для генерации текста. Она создана на основе thewordsmiths/Mistral-7B-v0.3_sft_merged_100000 с использованием Unsloth и библиотеки Hugging Face TRL; в названии и тегах указано обучение DPO. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. Карточка указывает английский язык. Репозиторий содержит веса в формате Safetensors и распространяется по лицензии Apache-2.0.
Карточка модели vistagi/Mixtral-8x7b-v0.1-sft на Hugging Face совпадает с карточкой vistagi/Mixtral-8x7b-v0.1-dpo, поэтому описание составлено по ней. vistagi/Mixtral-8x7b-v0.1-dpo — разговорная языковая модель семейства Mixtral, представленная как модель генерации текста. В карточке указано обучение на базе Mixtral-8x7b-v0.1 с использованием LoRA; метаданные описывают архитектуру как MoE и указывают 7,1 млрд параметров. Модель рассчитана на диалоговые сценарии и генерацию ответов по текстовым запросам. Её можно применять для ведения диалога и создания текстовых ответов на английском языке. Контекстное окно составляет 32 768 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0. README описывает supervised fine-tuning на Ultrachat-200K, тогда как в метаданных указан датасет UltraFeedback; поэтому конкретный режим обучения именно этой версии DPO по доступным сведениям подтвердить нельзя.
Moxin-7B-Chat — диалоговая языковая модель команды Moxin-org на архитектуре Mistral с плотной авторегрессионной сетью. В README указано, что авторы получили чат-модель дообучением Moxin-7B-finetuned на Tulu v2. Модель содержит около 8 млрд параметров, поддерживает контекст до 32 768 токенов и распространяется в форматах GGUF, PyTorch и Safetensors. Модель предназначена для диалогов и генерации ответов на текстовые запросы. Авторы приводят результаты оценки на наборах ARC, HellaSwag, MMLU, Winogrande и PIQA; показатели относятся к указанным настройкам тестирования и не гарантируют качество в других сценариях. Лицензия — Apache 2.0. README и метаданные не уточняют поддерживаемые естественные языки и конкретные ограничения модели.
zelk12/MT-Merge5-MUI-gemma-2-9B — объединённая языковая модель на базе Gemma 2, созданная с помощью mergekit методом SLERP из двух предварительно обученных моделей zelk12. Модель содержит 9 млрд параметров, использует архитектуру Gemma2ForCausalLM и предназначена для генерации текста в диалоговом формате; контекстное окно составляет 8192 токена. Модель можно использовать для ведения диалогов и генерации ответов на текстовые запросы. Веса опубликованы в формате safetensors; в конфигурации слияния указана точность bfloat16. Лицензия в предоставленных данных не указана.
Multi_verse_modelInex12-7B — объединённая чат-модель на архитектуре Mistral, созданная Maxime Labonne автоматическим слиянием MTSAIR/multi_verse_model и MSL7/INEX12-7b. Для слияния использован метод SLERP с настройкой весов слоёв внимания и MLP; веса сохранены в формате safetensors и типе bfloat16. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для диалоговой генерации текста. В карточке указана лицензия Apache-2.0. Языковые сведения карточки и метаданных указывают на англоязычную базовую модель; отдельные языковые возможности объединённой модели не описаны.
Nebula-v2-7B — языковая модель на 7,1 млрд параметров семейства Mistral, опубликованная Weyaxi. Это дообученная версия mistralai/Mistral-7B-v0.1 на датасете Open-Platypus; репозиторий содержит веса в формате safetensors. Модель предназначена для генерации текста и может использоваться в диалоговых приложениях и для ответов на запросы на английском языке. Заявленная длина контекста — 32 768 токенов. Лицензия — Apache-2.0. README также указывает на отдельный репозиторий с исходными LoRA-весами.
NeuralPipe-9B-merged — объединённая языковая модель автора mlabonne, созданная с помощью mergekit из OpenPipe/mistral-ft-optimized-1218 и mlabonne/NeuralHermes-2.5-Mistral-7B. Это плотная авторегрессионная модель семейства Mistral с 8,9 млрд параметров и контекстом до 32 768 токенов; она принимает текст и генерирует текст, в том числе в диалоговом формате. Модель предназначена для генерации ответов в чате и других текстовых сценариев. В README указан метод объединения passthrough: слои 0–31 взяты из OpenPipe/mistral-ft-optimized-1218, а слои 24–31 добавлены из NeuralHermes-2.5-Mistral-7B. Распространяется в формате safetensors по лицензии Apache-2.0.
Карточка модели Kquant03/NeuralTrix-7B-dpo-relaser на Hugging Face совпадает с карточкой Kquant03/NeuralTrix-7B-dpo-laser, поэтому описание составлено по ней. NeuralTrix-7B-dpo-laser — языковая модель от Kquant03, созданная объединением моделей mlabonne/OmniBeagle-7B, flemmingmiguel/MBX-7B-v3 и AiMavenAi/AiMaven-Prometheus с помощью LazyMergekit и последующим обучением DPO. Модель построена на архитектуре Mistral и содержит 7,1 млрд параметров; она генерирует текст по текстовому запросу и поддерживает контекст до 32 768 токенов. Модель подходит для диалогов, ответов на вопросы и других задач генерации текста. В конфигурации слияния также указан mistralai/Mistral-7B-v0.1 как базовая модель; DPO упоминается в карточке, но использованный набор данных не приведён. Модель распространяется по лицензии Apache-2.0.
neurotic-crown-clown-7B-ties — это объединённая методом TIES (Trim, Elect Sign & Merge) модель семейства Mistral, созданная с помощью mergekit на основе NeuralMonarch-7B, AlphaMonarch-7B и jaskier-7b-dpo-v5.6. Модель содержит 7,1 млрд параметров, использует плотную архитектуру MistralForCausalLM и распространяется в формате safetensors. Модель предназначена для генерации текста и диалогового общения. Её можно применять для ведения беседы, следования инструкциям и рассуждений; базовая NeuralMonarch-7B описана как модель для этих сценариев. Заявленная длина контекста — 32 768 токенов. Основной язык и полный перечень поддерживаемых языков в доступных данных не определены. Модель опубликована под лицензией Apache-2.0. Это слияние нескольких моделей, поэтому качество и поведение могут отличаться от каждой из исходных моделей; количественные оценки качества в карточке не приведены.
Nitral-Archive/NightWing3_Virtuoso-10B-v0.2 — языковая модель, созданная объединением моделей NightWing3-10B-v0.1 и Virtuoso-Lite-chatmlified-10B_r16-ep1. Она предназначена для генерации текста и диалогового общения; для взаимодействия используется формат ChatML с сообщениями system, user и assistant. Модель построена на плотной архитектуре Llama и содержит 9,9 млрд параметров. Она принимает текст и генерирует текст, поддерживает английский язык и контекст до 32 768 токенов. Репозиторий содержит веса в формате safetensors, модель рассчитана на Transformers. Лицензия указана как other, поэтому условия использования следует проверить в карточке модели и связанных компонентов.
OCC-RAG-1.7B — компактная языковая модель компании OCC AI с 1,7 млрд параметров, основанная на архитектуре Qwen3 и дообученная на синтетических примерах вопросов и ответов с опорой на источники. Она принимает вопрос и набор текстовых источников, анализирует их релевантность и формирует ответ со ссылками на источники и структурированным ходом рассуждения. Модель предназначена для контекстно-обоснованных ответов, многошагового поиска фактов по нескольким документам и отказа от ответа, если источники не содержат достаточных сведений. В карточке заявлены результаты на уровне или выше некоторых более крупных моделей по точности привязки к источникам и отказам; оценка охватывала цепочки рассуждений до трёх шагов. Поддерживает английский и русский языки, имеет контекст до 32 768 токенов и рассчитана на запуск через Transformers-совместимые стеки, в том числе на ограниченных ресурсах. Модель не предназначена для общения или ответов на основе общих знаний без предоставленных источников; цепочки длиннее трёх шагов выходят за пределы описанного обучения и оценки. Распространяется по лицензии MIT.
OpenBuddy-mixtral-7bx8-v16.3-32k — многоязычная чат-модель семейства Mixtral, опубликованная командой OpenBuddy. Она предназначена для диалогов и генерации текста; архитектура — Mixtral MoE, класс MixtralForCausalLM. В репозитории указаны 7,1 млрд параметров и контекст до 32 768 токенов; модель распространяется в формате safetensors и использует библиотеку Transformers. Модель поддерживает китайский, английский, французский, немецкий, японский, корейский, итальянский и русский языки. Лицензия — Apache 2.0. Ответы могут быть ошибочными, вредными или оскорбительными; модель не следует использовать для решений в медицине, финансах, праве и других критически важных сценариях.
Карточка модели OpenBuddy/openbuddy-mixtral-8x7b-v16.1-32k на Hugging Face совпадает с карточкой OpenBuddy/openbuddy-mixtral-7bx8-v16.3-32k, поэтому описание составлено по ней. OpenBuddy-mixtral-7bx8-v16.3-32k — многоязычная чат-модель семейства Mixtral, опубликованная командой OpenBuddy. Она предназначена для диалогов и генерации текста; архитектура — Mixtral MoE, класс MixtralForCausalLM. В репозитории указаны 7,1 млрд параметров и контекст до 32 768 токенов; модель распространяется в формате safetensors и использует библиотеку Transformers. Модель поддерживает китайский, английский, французский, немецкий, японский, корейский, итальянский и русский языки. Лицензия — Apache 2.0. Ответы могут быть ошибочными, вредными или оскорбительными; модель не следует использовать для решений в медицине, финансах, праве и других критически важных сценариях.
openmixtral-6x7b-merged_v2 — объединённая модель mychen76 на архитектуре Mixtral MoE для генерации текста. Карточка указывает, что это merge моделей, однако перечень объединённых моделей в доступном описании отсутствует. Модель подходит для сценариев генерации текста. Метаданные указывают 7,1 млрд параметров, контекст до 32 768 токенов и формат safetensors. Она распространяется по лицензии Apache-2.0.
PasticheAlloyingotneoy-7B — созданная Maxime Labonne автоматическим слиянием двух моделей: CorticalStack/pastiche-crown-clown-7b-dare-dpo и nlpguy/AlloyIngotNeoY. Для слияния применён метод SLERP с настройками для слоёв self-attention и MLP; итоговая модель построена на архитектуре Mistral и содержит 7,1 млрд параметров. Модель предназначена для генерации текста и диалоговых ответов. Она принимает текстовые запросы и может использовать контекст длиной до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Модель опубликована под лицензией Apache-2.0.
Percival_01-7b-slerp — объединённая текстовая модель на архитектуре Mistral, созданная AurelPx методом SLERP с помощью LazyMergekit из liminerity/M7-7b и Gille/StrangeMerges_32-7B-slerp. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Она предназначена для генерации текста и диалоговых сценариев. В карточке автор заявляет второе место среди моделей 7B на OPENLLM Leaderboard, однако подробности оценки и результаты по отдельным задачам не приведены. Модель распространяется в формате safetensors под лицензией Apache-2.0.
Pullulation-2-9B — объединённая диалоговая языковая модель на базе Gemma 2, созданная ClaudioItaly с помощью mergekit и метода Model Stock. В качестве базовой модели при слиянии использована nbeerbower/gemma2-gutenberg-9B; также объединены пять других вариантов Gemma 2 с настройками для диалогов и генерации текста. Модель с плотной архитектурой Gemma2ForCausalLM содержит 9 млрд параметров, работает через Transformers и распространяется в формате safetensors. Она предназначена для генерации текста и диалоговых ответов; контекст составляет 8192 токена. Лицензия в предоставленных данных не указана.
zelk12/recoilme-gemma-2-Ataraxy-9B-v0.1 — слияние языковых моделей Gemma 2, созданное с помощью mergekit и метода SLERP на основе lemon07r/Gemma-2-Ataraxy-v2-9B и recoilme/recoilme-gemma-2-9B-v0.4. Это плотная авторегрессионная модель с архитектурой Gemma2ForCausalLM и 9 млрд параметров, предназначенная для диалогов и генерации текста. Она принимает текст и выдаёт текст; заявленная длина контекста — 8192 токена. В конфигурации слияния использована точность bfloat16. Модель подходит для ведения диалогов, выполнения инструкций и творческой генерации текста. В README приведены результаты Open LLM Leaderboard, включая IFEval и BBH; этих оценок недостаточно, чтобы судить о качестве во всех сценариях. В доступных сведениях не указаны конкретные поддерживаемые языки. Репозиторий содержит веса в формате safetensors; сведения о лицензии в предоставленных данных отсутствуют.