III.10Проекты, процессы и операционное управление

jeiku/luxemaelstrom — языковая модель, созданная слиянием моделей FourOhFour/Luxe_4B и FourOhFour/Maelstrom_4B методом SLERP с помощью mergekit. Это плотная авторегрессионная архитектура LlamaForCausalLM размером 3,9 млрд параметров, рассчитанная на генерацию текста и диалоговое использование. Заявленная длина контекста — 131 072 токена. Модель подходит для диалогового ассистента, ответов на запросы и ролевых бесед. Репозиторий содержит веса в формате safetensors; для работы указана библиотека Transformers. Дата публикации на Hugging Face — 1 октября 2024 года. Лицензия в предоставленных данных не приведена.

Kaoeiri объединил языковые модели с помощью mergekit и метода DARE TIES. За основу взята anthracite-org/magnum-v4-22b, в объединение также вошли TheDrummer/Cydonia-22B-v1.1, TheDrummer/Cydonia-22B-v1.2 и TheDrummer/Cydonia-22B-v1.3. Модель построена на архитектуре Mistral, содержит 22 млрд параметров и использует формат safetensors. Модель предназначена для генерации текста и диалогов. Она принимает текст и выдаёт текст, а контекст составляет до 32 768 токенов. Базовая модель описана как англоязычная модель для диалогов, следования инструкциям и связной прозы; отдельных сведений о языках и сильных сторонах получившегося объединения карточка не приводит. Лицензия в предоставленных данных не указана.

Mayonnaise-4in1-022 — языковая модель, разработанная The Kaitchup и созданная с помощью mergekit путём слияния нескольких моделей семейства Mistral. Это плотная авторегрессионная модель с архитектурой MistralForCausalLM, примерно 7,1 млрд параметров и контекстом до 32 768 токенов. Она предназначена для генерации текста на английском языке и сценариев, где требуется продолжать или создавать текст. Модель объединяет Mistral-7B-DPO-v5, WestSeverus-7B-DPO-v2 и NeuralTurdusVariant1-7B методом TIES. Автор сообщает о первом месте среди моделей 7B в Open LLM Leaderboard на 28 января 2024 года, но предупреждает, что не проверял возможное пересечение обучающих данных объединённых моделей с тестовыми наборами бенчмарков. Веса опубликованы в формате Safetensors; лицензия — Apache 2.0.

MBX-7B-v2 — плотная языковая модель семейства Mistral с 7,1 млрд параметров, созданная flemmingmiguel путём слияния моделей flemmingmiguel/MBX-7B и flemmingmiguel/MBX-7B-v2 методом SLERP с помощью LazyMergekit. Она предназначена для генерации текста. Модель принимает текст и выдаёт текст; заявленная длина контекста составляет 32 768 токенов. Веса доступны в формате safetensors. Модель распространяется по лицензии Apache-2.0. Карточка описывает схему слияния и исходные репозитории, но не приводит конкретных результатов оценки качества или подробных рекомендаций по сценариям применения.

Это объединённая модель генерации текста на архитектуре Mistral, созданная сообществом mergekit-community методом SLERP из arcee-ai/sec-mistral-7b-instruct-1.6-epoch и cognitivecomputations/dolphin-2.8-mistral-7b-v02. Модель содержит около 7,1 млрд параметров, рассчитана на диалоговое применение и использует контекст до 32 768 токенов. Модель предназначена для генерации ответов в диалоге и других сценариев генерации текста. Веса доступны в формате Safetensors и имеют тип bfloat16. В метаданных указана библиотека Transformers. Сведения о лицензии и конкретных ограничениях поведения в предоставленных данных отсутствуют.

Это объединённая методом SLERP языковая модель на архитектуре Qwen2 с 7,1 млрд параметров, созданная сообществом mergekit-community из huihui-ai/Qwen2.5-7B-Instruct-abliterated-v2 и maywell/Qwen2-7B-Multilingual-RP. Модель предназначена для генерации текста и диалогов; её можно использовать в чат-сценариях и для свободного продолжения текста. Модель принимает текст и генерирует текст. Заявленная длина контекста — 32 768 токенов. В состав объединения входят инструкционная версия Qwen2.5 с abliteration и многоязычная модель Qwen2; точный перечень поддерживаемых языков в предоставленных данных не приведён. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Лицензия в предоставленных данных не указана.

NickyNicky/Mistral-7B-OpenOrca-oasst_top1_2023-08-25-v3 — диалоговая языковая модель на архитектуре Mistral, разработанная на основе наборов данных OpenOrca и OpenAssistant oasst_top1 от 25 августа 2023 года. Модель содержит 7,1 млрд параметров и предназначена для генерации текста в диалоговом формате, включая ответы на вопросы и ведение беседы. Модель работает через Transformers и принимает текст, выдавая текст. Заявленная длина контекста составляет 32 768 токенов. В метаданных перечислены 20 языков: болгарский, каталонский, чешский, датский, немецкий, английский, испанский, французский, хорватский, венгерский, итальянский, нидерландский, польский, португальский, румынский, русский, словенский, сербский, шведский и украинский. Репозиторий содержит веса PyTorch и распространяется по лицензии Apache 2.0. README не содержит подробных сведений об обучении или оценки качества; ответы модели могут быть неточными или содержать ошибки.

pbevan11/Mistral-Nemo-Baseline-SFT — дообученная модель генерации текста на архитектуре Mistral, созданная на основе mistralai/Mistral-Nemo-Base-2407 с использованием набора pbevan11/ultrafeedback_binarized_multilingual. Модель содержит 12,1 млрд параметров и предназначена для диалоговой генерации текста и ответов на запросы. В метаданных указано контекстное окно до 1 024 000 токенов. Модель выпущена в формате safetensors и доступна по лицензии Apache-2.0. В README приведён результат оценки: loss 1,1750; подробности об оценочном наборе и практическом качестве не раскрыты. Хотя обучающий набор обозначен как многоязычный, конкретные поддерживаемые языки не перечислены.

aqweteddy/mistral_tv-neural-marconroni — объединённая языковая модель на базе Mistral 7B, сочетающая чат-векторные компоненты Neural-Chat и Marconroni. В README описан подход Chat Vector: он переносит чат-поведение в языковую модель с помощью слияния весов, без отдельного цикла дообучения для получения новых диалоговых возможностей. Метаданные указывают на плотную архитектуру MistralForCausalLM с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для генерации текста и диалогов, включая выполнение инструкций и многоходовое общение. README приводит результаты оценки на наборах задач рассуждения и здравого смысла, но не уточняет отдельные показатели именно этой модели, кроме среднего результата и оценок по двум тестам. В карточке указан английский язык; описание подхода Chat Vector посвящено также китайскому и корейскому языкам, но поддержка этих языков данной сборкой не подтверждена. Репозиторий содержит веса Safetensors, лицензия — MIT.

cloudyu/Mixtral_7Bx5_MoE_30B_DPO — версия модели cloudyu/Mixtral_7Bx5_MoE_30B, дообученная методом Direct Preference Optimization (DPO). Это языковая модель семейства Mixtral с архитектурой MoE и классом MixtralForCausalLM; в метаданных указано 7,1 млрд параметров и контекст до 32 768 токенов. Модель предназначена для генерации текста и может использоваться в сценариях, где требуется получать ответы или продолжения по текстовому запросу. Репозиторий содержит веса в формате safetensors. Модель опубликована под лицензией MIT. Автор отмечает, что метрики не тестировались, поэтому качество и преимущества DPO-дообучения по карточке подтвердить нельзя.

m-a-p представляет NEO 7B Instruct v0.1 — инструктивно дообученную языковую модель семейства Llama с плотной архитектурой и примерно 7,6 млрд параметров. Репозиторий содержит веса в формате Safetensors; проект описывает модель как открытую и предоставляет сведения о коде, обучающих данных и процессе обучения. Модель предназначена для генерации текста по инструкциям и диалогового взаимодействия. Контекст составляет 8192 токена. В карточке не описаны конкретные языки и специализированные области применения. Модель распространяется по лицензии Apache-2.0. README указывает, что это instruction-tuned версия NEO 7B, но не приводит деталей о качестве, тестировании или ограничениях применения.

NeuralBeagle14-7B — языковая модель на архитектуре Mistral с 7,1 млрд параметров, созданная Mlabonne. Это DPO-дообучение модели mlabonne/Beagle14-7B на наборе предпочтений argilla/distilabel-intel-orca-dpo-pairs; исходная Beagle14-7B объединяет несколько моделей семейства Beagle. Модель предназначена для генерации текста в диалоговом формате, следования инструкциям и ответов на запросы общего характера. Модель подходит для задач рассуждения, ролевого общения и написания историй. В README указано контекстное окно 8 тыс. токенов, а метаданные каталога указывают нативный контекст 32 768 токенов. Поддерживаются шаблоны chatml и формат чата Llama. Модель работает с текстом и выдаёт текст; сведения о конкретных естественных языках не приведены. Модель распространяется в формате Safetensors по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование. В README приводятся высокие результаты сравнительных оценок для категории моделей около 7 млрд параметров, но автор отмечает возможное влияние неудачного запуска и чрезмерного использования обучающего набора предпочтений; результаты бенчмарков сами по себе не гарантируют качество на конкретных задачах.

MaziyarPanahi/neural-chat-7b-v3-2-Mistral-7B-Instruct-v0.1 — объединённая чат-модель на базе Mistral-7B-Instruct-v0.1 и Intel/neural-chat-7b-v3-2. Модели объединены методом SLERP; архитектура — плотная MistralForCausalLM, размер — 7,1 млрд параметров, формат весов — safetensors. Модель предназначена для генерации текста в ответ на инструкции и диалоговые запросы. Она поддерживает контекст до 32 768 токенов и ориентирована на английский язык; среди заявленных тем есть математика. Лицензия — Apache 2.0. Модель можно использовать для диалоговых помощников, ответов на вопросы и генерации текста по инструкциям. Карточка не приводит результатов сравнительной оценки качества или подробных сведений об ограничениях, поэтому пригодность для конкретных задач следует проверять отдельно.

Norns-Qwen2.5-7B — объединённая языковая чат-модель, созданная автором win10 методом breadcrumbs_ties с помощью mergekit. В качестве базовой модели использована win10/Skuld-Qwen2.5-7B, в объединение также вошла win10/Urdandi-Qwen2.5-7B. Репозиторий содержит веса в формате safetensors и предназначен для использования с библиотекой Transformers. Карточка приводит результаты оценки на MMLU-Pro: общий балл 41,46; показатели по отдельным областям варьируются, например, 64,16 по биологии и 21,98 по праву. Модель рассчитана на чатовые сценарии с текстовым вводом и текстовым выводом. README не сообщает лицензию, размер контекста или перечень языков, поэтому эти характеристики здесь не приводятся.

OpenBuddy-deepseek-10b-v17.1-4k — многоязычная разговорная языковая модель проекта OpenBuddy, представленная в формате Safetensors и рассчитанная на генерацию текста. Это плотная модель архитектуры LLaMA с 10,1 млрд параметров и контекстом до 4096 токенов; в метаданных заявлена поддержка китайского, английского, французского, немецкого, японского, корейского, итальянского, русского и финского языков. Модель подходит для диалогов, ответов на вопросы и генерации текста на поддерживаемых языках. README указывает базовую модель DeepSeek и лицензию DeepSeek, но не уточняет способ получения этой версии. Модель может выдавать ошибочные, вредные или оскорбительные ответы; авторы предостерегают от применения в критически важных сценариях, включая медицину, управление опасными системами и значимые финансовые или юридические решения. Условия лицензии следует сверять с лицензией DeepSeek.

Lazzzaroo/PaolaAI-IPN-7B — чат-модель на архитектуре Qwen2, дообученная Lazzzaroo на базе unsloth/Qwen2.5-7B-Instruct-bnb-4bit. Для обучения использовались Unsloth и библиотека Hugging Face TRL. Модель предназначена для генерации текста и диалоговых сценариев; карточка также отмечает интерфейс вызова инструментов. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст длиной до 32 768 токенов. В метаданных указан английский язык. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0.

bunnycore/Phi-3.5-mini-TitanFusion-V2 — объединённая языковая модель на базе Microsoft Phi-3.5-mini-instruct, созданная с помощью mergekit и метода TIES. В объединение вошли Phi-3.5-mini-TitanFusion-0.1, Phi-3.5-rp-lora_model и ArliAI/Phi-3.5-mini-3.8B-ArliAI-RPMax-v1.1; карточка также указывает conversational-возможности. Модель с архитектурой Phi-3 dense и примерно 3,7 млрд параметров предназначена для генерации текста и диалогов. Она принимает текст и выдаёт текст; указанный контекст — 4096 токенов. Карточка не уточняет языковой охват или специализацию по областям. Модель распространяется в формате safetensors через Transformers; сведения о лицензии в предоставленных данных отсутствуют.

SambaLingo-Russian-Chat — диалоговая языковая модель SambaNova Systems на архитектуре Llama 2. Модель размером 6,7 млрд параметров дообучена методом direct preference optimization на базе SambaLingo-Russian-Base и предназначена для общения на русском и английском языках. Базовая модель адаптировала Llama 2-7B к русскому языку на 63 млрд токенов русскоязычной части Cultura-X; словарь токенизатора расширен с 32 000 до 57 000 токенов. Модель подходит для ответов на вопросы, диалоговых ассистентов и генерации текста по запросу. Максимальная длина контекста — 4096 токенов. Для загрузки токенизатора README рекомендует отключить fast tokenizer и использовать указанный в карточке chat template. Модель может галлюцинировать, повторяться, переключать язык или диалект внутри ответа, а также хуже справляться с программированием и сложной математикой; возможна генерация токсичного или неподходящего текста. Не предназначена для критически важных задач и решений, влияющих на безопасность людей. Использование регулируется лицензией Meta Llama 2 Community License Agreement.

Samlagast-7B-bf16 — слитая языковая модель на архитектуре Mistral, созданная с помощью mergekit методом task arithmetic. В основу слияния вошла paulml/NeuralOmniBeagleMBX-v3-7B; также объединены FelixChao/Faraday-7B, flemmingmiguel/MBX-7B-v3 и paulml/NeuralOmniWestBeaglake-7B. Модель предназначена для генерации текста. Она содержит 7,1 млрд параметров, поддерживает контекст до 32 768 токенов и распространяется в формате safetensors. В карточке указан английский язык. Модель доступна по лицензии Apache-2.0; README также ссылается на отдельные файлы GGUF.

ShadowYamshadow_Inex12Strangemerges_30 — объединённая языковая модель MaziyarPanahi на архитектуре Mistral с 7,1 млрд параметров. Она предназначена для генерации текста и может использоваться в сценариях, где нужны ответы или продолжение текста на основе запроса. Модель объединяет automerger/ShadowYamshadow-7B и automerger/Inex12Strangemerges_30-7B. Контекст — до 32 768 токенов. Метаданные указывают задачу text-generation; сведения о специализации на конкретных языках или областях не приведены. Лицензия — Apache-2.0.

SOLAR-10.7B-Instruct-Forest-DPO — языковая модель семейства Llama с 10,6 млрд параметров, разработанная на основе upstage/SOLAR-10.7B-Instruct-v1.0 и дообученная методом Direct Preference Optimization (DPO). Она предназначена для диалогового взаимодействия и генерации текста на естественном языке. Модель подходит для ответов на вопросы, ведения диалога и выполнения текстовых инструкций. В карточке указаны английский язык и контекст до 4096 токенов. Модель распространяется в формате PyTorch через Transformers под лицензией Apache-2.0.

Карточка модели hamxea/StableBeluga-7B-activity-fine-tuned-v2 на Hugging Face совпадает с карточкой stabilityai/StableBeluga2, поэтому описание составлено по ней. Stable Beluga 2 — авторегрессионная языковая модель Stability AI на архитектуре Llama 2, дообученная на 70B-базе в стиле Orca. Она предназначена для диалогов и генерации текста, в том числе ответов на вопросы и выполнения текстовых инструкций. Модель содержит 68,7 млрд параметров, работает с текстом и имеет контекст длиной 4096 токенов; в карточке заявлена поддержка английского языка. Модель опубликована в формате PyTorch и рассчитана на использование через Hugging Face Transformers. Чекпойнт распространяется по лицензии STABLE BELUGA NON-COMMERCIAL COMMUNITY LICENSE AGREEMENT, которая ограничивает коммерческое использование. Модель может выдавать неточные, предвзятые или нежелательные ответы; перед применением в продукте Stability AI рекомендует проводить проверку безопасности и настройку под конкретный сценарий.

SuperThetaMaven — объединённая модель для генерации текста, созданная jefferylovely с помощью LazyMergekit. В слиянии методом slerp использованы jefferylovely/ThetaMaven10 и vanillaOVO/supermario_v2; в метаданных базовой моделью указана vanillaOVO/supermario_v2. Модель построена на архитектуре Mistral и содержит 7,1 млрд параметров. Она принимает текст и генерирует текст, поддерживая контекст до 32 768 токенов. Её можно применять для диалогов, написания и продолжения текстов, а также генерации ответов на текстовые запросы. Репозиторий содержит веса в формате safetensors. Лицензия CC BY-NC-ND 4.0 требует указания авторства и запрещает коммерческое использование и распространение производных материалов. В README не приведены результаты оценки качества или конкретные ограничения модели.

SynthIA-7B-v1.5-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная объединением mistralai/Mistral-7B-Instruct-v0.2 и migtissera/SynthIA-7B-v1.5 методом SLERP с помощью MergeKit. Модель основана на плотной архитектуре Mistral и содержит 7,1 млрд параметров; поддерживает контекст до 32 768 токенов и предназначена для генерации текста и работы в формате диалога. Её можно использовать для ответов на инструкции и вопросы, ведения беседы, а также генерации текстовых материалов. Репозиторий содержит веса в формате Safetensors. Лицензия — Apache-2.0. README не описывает отдельные прикладные специализации или результаты оценки качества.

Thespian-LLaMa-70B — экспериментальная объединённая языковая модель от TareksGraveyard, созданная методом mergekit из нескольких моделей семейства Llama. Для объединения использован метод della, а базой служила nbeerbower/Llama-3.1-Nemotron-lorablated-70B; в состав также вошли модели EVA-UNIT-01, Sao10K, SicariusSicariiStuff и TheDrummer. Модель предназначена для диалогового общения и генерации текста. Она построена на архитектуре LlamaForCausalLM, содержит 69,5 млрд параметров и поддерживает контекст до 131 072 токенов. Репозиторий предоставляет веса в формате safetensors для библиотеки Transformers. Автор описывает результат как удачный, но отмечает, что его другая модель, Progenitor-V1.1-LLaMa-70B, по его мнению, получилась лучше. Модель лицензирована по условиям llama3.3. README не приводит оценки качества или подробные ограничения применения, поэтому результат генерации следует проверять в конкретных сценариях.

Tulu V2.5 PPO 13B — англоязычная разговорная модель-помощник, разработанная Allen Institute for AI. Это плотная авторегрессионная модель семейства Llama с 12,9 млрд параметров, дообученная на базе allenai/tulu-2-13b с помощью PPO на промптах UltraFeedback и 70-миллиардной reward-модели, обученной на предпочтениях UltraFeedback. Контекст модели составляет 4096 токенов. Модель предназначена для диалогов с помощником, выполнения инструкций и генерации текста общего назначения. В опубликованных оценках она превосходит Tulu 2+DPO 13B по некоторым показателям и показывает конкурентные результаты на тестах Open-Instruct, но уступает более крупной модели на сложных задачах рассуждения. Для качественной генерации следует использовать шаблон чата, предусмотренный токенизатором. Модель принимает текст и генерирует текст на английском языке. Лицензия — Apache 2.0. В RLHF-фазе модель не была специально выровнена для безопасных ответов и не снабжена встроенной фильтрацией, поэтому может выдавать проблемный контент, особенно при соответствующих запросах.

Villanova-2B-2512-Preview — текстовая языковая модель VillanovaAI, полученная постобучением Villanova-2B-Base-2512-Preview. Это плотная модель семейства Llama с архитектурой LlamaForCausalLM и 2,4 млрд параметров; она предназначена для генерации текста и диалогового взаимодействия. Модель принимает текст и генерирует текст. В карточке заявлена поддержка английского, немецкого, испанского, французского и итальянского языков. Длина контекста составляет 4096 токенов. Модель выпущена как предварительная версия, поэтому её характеристики и качество могут измениться. Распространяется по лицензии Apache-2.0.

Vora-X-10B — плотная языковая модель для генерации текста и диалогов, созданная автором theocolf с помощью mergekit. Она объединяет слои theocolf/Vora-X-8B и NousResearch/Meta-Llama-3-8B методом Passthrough; архитектура — LlamaForCausalLM, веса доступны в формате safetensors. Модель содержит 9,2 млрд параметров и поддерживает контекст до 8192 токенов. Её можно применять для диалоговых сценариев и генерации текста. В карточке нет сведений о специализированной предметной области или конкретных языках, поэтому их поддержка здесь не уточняется. Лицензия в предоставленных данных не указана.

YamshadowInex12_AlloyingotneoyNeuralsirkrishna — слитая текстовая модель семейства Mistral с 7,1 млрд параметров. Она объединяет модели automerger/YamshadowInex12-7B и automerger/AlloyingotneoyNeuralsirkrishna-7B и предназначена для генерации текста по запросу. Модель принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов и распространяется в формате safetensors. Доступна по лицензии Apache-2.0. Данные карточки не уточняют языковую специализацию или особые прикладные области модели.

YamshadowInex12_Experiment26Yam — объединённая модель на архитектуре Mistral для генерации текста. Она создана на основе automerger/YamshadowInex12-7B и automerger/Experiment26Yam-7B. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста по текстовому запросу. Объединение двух моделей указано в карточке; конкретные специализация, языки и сравнительные преимущества не описаны. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.