III.1Стратегия, продукт и бизнес-модели

Mistral-7B-KNUT-v0.3-Mistral-7B-Instruct-v0.1 — объединённая чат-модель на основе Mistral-7B-Instruct-v0.1 и Mistral-7B-KNUT-v0.3. Разработчик выполнил слияние методом SLERP: для слоёв attention и MLP заданы отдельные коэффициенты смешивания. Модель имеет плотную архитектуру MistralForCausalLM и 7,1 млрд параметров; файлы опубликованы в формате safetensors. Модель предназначена для генерации текста в ответ на инструкции и диалоговые запросы. Она принимает текстовые запросы и выдаёт текстовые ответы; заявленная длина контекста — 32 768 токенов. В карточке не описаны специальные языковые или предметные преимущества объединённой версии. Модель распространяется по лицензии Apache-2.0. Качество и поведение слияния отдельно не охарактеризованы; результат может отличаться от обеих исходных моделей.

NickyNicky/Mistral-7B-OpenOrca-oasst_top1_2023-08-25-v2 — разговорная языковая модель на архитектуре Mistral, созданная на основе Open-Orca/Mistral-7B-OpenOrca. В карточке указано обучение на данных OpenAssistant/oasst_top1_2023-08-25; метаданные также связывают модель с Open-Orca/OpenOrca. Модель содержит 7,1 млрд параметров, использует плотную архитектуру MistralForCausalLM и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации текста в диалогах: она может отвечать на вопросы, поддерживать беседу и формулировать текстовые ответы. В карточке и метаданных перечислены болгарский, каталанский, чешский, датский, немецкий, английский, испанский, французский, хорватский, венгерский, итальянский, нидерландский, польский, португальский, румынский, русский, словенский, сербский, шведский и украинский языки. Лицензия — Apache-2.0. Оценки качества и подробные ограничения в доступных сведениях не приведены.

zelk12/MT1-Max-Merge_02012025163610-GP-gemma-2-MTM5MT1g2-9B — объединённая методом SLERP модель на базе Gemma 2, созданная из zelk12/MT1-Gen2-gemma-2-9B и zelk12/MT-Merge5-gemma-2-9B с помощью mergekit. Это плотная авторегрессионная языковая модель с 9 млрд параметров, рассчитанная на генерацию текста и диалоговые сценарии; она принимает текст и выдаёт текст. Модель использует библиотеку Transformers, распространяется в формате safetensors и поддерживает контекст до 8192 токенов. В карточке не приведены сведения о специализации на отдельных языках или предметных областях. Условия лицензии в предоставленных данных не указаны.

zelk12 выпустил объединённую модель Gemma 2, созданную из zelk12/recoilme-gemma-2-Ifable-9B-v0.1 и zelk12/recoilme-gemma-2-Gutenberg-Doppel-9B-v0.1 методом SLERP с помощью mergekit. Это плотная авторегрессионная языковая модель на 9 млрд параметров для генерации текста и диалоговых ответов; модель рассчитана на работу с контекстом до 8192 токенов. Модель подходит для общения в чате и генерации продолжений текста. В карточке указаны архитектура Gemma 2 и формат safetensors. Лицензия в предоставленных данных не указана, поэтому условия использования следует проверять в репозитории модели и у исходных моделей.

zelk12/MT5-Gen5-MUMM-gemma-2-9B — текстовая языковая модель, созданная разработчиком репозитория объединением двух предварительно обученных моделей семейства Gemma 2. Для объединения использован метод SLERP через mergekit; веса представлены в формате Safetensors. Модель предназначена для генерации текста и диалогового общения. Модель содержит 9 млрд параметров и поддерживает контекст длиной до 8192 токенов. В карточке не приведены сведения о целевых языках, конкретных сценариях настройки или специализированных областях применения, поэтому её можно характеризовать только как модель общего назначения. Лицензия в предоставленных данных не указана.

NeuralsirkrishnaShadow_YamStrangemerges_32 — объединённая текстовая модель на базе архитектуры Mistral, созданная из automerger/NeuralsirkrishnaShadow-7B и automerger/YamStrangemerges_32-7B. Она предназначена для генерации текста и поддерживает контекст до 32 768 токенов. Модель содержит 7,1 млрд параметров и опубликована в формате Safetensors. Модель может использоваться для генерации продолжений, черновиков и ответов на текстовые запросы. Карточка не сообщает о специализации на конкретных языках или областях. Лицензия — Apache-2.0.

Карточка модели OpenBuddy/openbuddy-qwen1.5-32b-v21.2-32k на Hugging Face совпадает с карточкой OpenBuddy/openbuddy-qwen1.5-32b-v21.1-32k, поэтому описание составлено по ней. OpenBuddy-Qwen1.5-32B-v21.1-32k — мног языковая диалоговая модель OpenBuddy на архитектуре Qwen2 с плотной трансформерной сетью и 31,7 млрд параметров. Она предназначена для общения и генерации ответов на запросы; поддерживает контекст до 32 768 токенов и работает с текстом на китайском, английском, французском, немецком, японском, корейском, итальянском, русском и финском языках. Модель можно применять для диалоговых помощников, ответов на вопросы и составления текстов на поддерживаемых языках. Для работы рекомендуется быстрый токенизатор Transformers; README также отмечает совместимость формата промптов с vLLM для развёртывания API. Модель распространяется по лицензии с обозначением «other»; README приводит предупреждение об ошибочных или нежелательных ответах и предостерегает от использования в критичных и высокорисковых сценариях.

sonthenguyen/OpenHermes-2.5-Mistral-7B-mt-bench-DPO — чат-модель на архитектуре Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. По README, модель обучалась методом DPO с LoRA-адаптером на задачах causal language modeling; параметры обучения включали beta=0,1 и максимальную длину последовательности 1536 токенов. Модель предназначена для диалоговой генерации текста и может использоваться для ответов на вопросы, ведения беседы и подготовки текстовых черновиков. В метаданных указаны поддержка чата и формат safetensors. Лицензия — Apache-2.0. README не описывает состав обучающих данных, конкретные языки или сравнительные результаты качества.

Percival_01-7b-slerp — объединённая текстовая модель на архитектуре Mistral, созданная AurelPx методом SLERP с помощью LazyMergekit из liminerity/M7-7b и Gille/StrangeMerges_32-7B-slerp. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Она предназначена для генерации текста и диалоговых сценариев. В карточке автор заявляет второе место среди моделей 7B на OPENLLM Leaderboard, однако подробности оценки и результаты по отдельным задачам не приведены. Модель распространяется в формате safetensors под лицензией Apache-2.0.

Sethuiyer/Qwen2.5-7B-Anvita — дообученная диалоговая языковая модель на архитектуре Qwen2, созданная на базе Qwen/Qwen2.5-7B-Instruct. Модель содержит 7,1 млрд параметров, принимает текст и генерирует текст; максимальная длина контекста — 32 768 токенов. В метаданных указан английский язык. Модель предназначена для диалогов и генерации текста. В README приведены результаты оценки: средний показатель 29,18, IFEval (0-shot) — 64,8, BBH (3-shot) — 35,48; полные результаты предлагается смотреть отдельно. Лицензия — Apache-2.0. README не раскрывает специализацию дообучения или подробные ограничения модели.

zelk12/recoilme-gemma-2-Ataraxy-9B-v0.1-t0.25 — слияние методом SLERP двух предварительно обученных языковых моделей, выполненное с помощью mergekit. В состав входят recoilme/recoilme-gemma-2-9B-v0.4 и lemon07r/Gemma-2-Ataraxy-v2-9B. Модель построена на архитектуре Gemma 2 с плотной конфигурацией и содержит 9 млрд параметров; для хранения используются веса safetensors, а библиотека для работы — Transformers. Длина контекста составляет 8192 токена. Модель предназначена для генерации текста в диалоговом формате, выполнения инструкций и творческого письма. В опубликованных результатах оценки указаны IFEval 77,07 и BBH 43,85; эти показатели относятся к приведённой в карточке оценке и не гарантируют аналогичного качества на всех задачах. README не приводит сведений о лицензии или дополнительных ограничениях использования.

sfmunfilterede2ealignment-4k5k6kweightedavgmerge — объединённая языковая модель, созданная с помощью mergekit методом Linear из контрольных точек обучения на шагах 4000, 5000 и 6000; базовой указана контрольная точка global_step6000. Модель построена на архитектуре GPT-NeoX, содержит 8,8 млрд параметров и предназначена для генерации текста и диалогового взаимодействия. Максимальная длина контекста — 16 384 токена. Карточка не описывает специализацию на конкретных предметных областях или языках, поэтому модель можно охарактеризовать только как текстовую модель общего назначения. Репозиторий содержит веса в формате safetensors и рассчитан на использование с Transformers. Сведения о лицензии в предоставленных источниках отсутствуют.

Spaetzle-v65-7b — текстовая диалоговая модель на архитектуре Mistral с 7,1 млрд параметров, созданная cstr как слияние моделей методом DARE-TIES с помощью LazyMergekit. В конфигурации указаны Spaetzle-v62-7b и yleo/EmertonMonarch-7B; метаданные каталога связывают модель с yleo/EmertonMonarch-7B, поэтому точный состав слияния в источниках описан неодинаково. Модель предназначена для генерации текста в диалоге и ответов на запросы. Она принимает текст и выдаёт текст, использует формат чата и имеет контекст длиной до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Модель опубликована по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование. Качество и конкретные сильные стороны в карточке не оценены; как модель-генератор она может выдавать неточные или нежелательные ответы.

Synaptica — объединённая языковая модель семейства Llama, созданная сообществом mergekit из Sao10K/Fimbulvetr-11B-v2 и maywell/Llama-3-Synatra-11B-v1 методом SLERP. Модель предназначена для генерации текста и диалоговых ответов; её архитектура — плотная LlamaForCausalLM, размер — 11 млрд параметров, контекст — до 8192 токенов. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. В конфигурации слияния указана V-образная кривая параметра t, связывающая входные и выходные слои с Hermes, а средние слои — с WizardMath. Модель рассчитана на текстовый ввод и выдачу текста. Лицензия в предоставленных данных не указана.

T3qm7xNeuralsirkrishna_PasticheInex12 — объединённая текстовая модель на архитектуре Mistral с 7,1 млрд параметров. Она предназначена для генерации текста и диалогов, а контекстное окно составляет до 32 768 токенов. Модель создана объединением automerger/T3qm7xNeuralsirkrishna-7B и automerger/PasticheInex12-7B. Доступна в формате Safetensors и распространяется по лицензии Apache-2.0. В README и метаданных не описаны специальные предметные области или языки, на которые она рассчитана.

T3qm7xNeuralsirkrishna_Strangemerges_32Strangemerges_30 — объединённая модель на базе Mistral, созданная из automerger/T3qm7xNeuralsirkrishna-7B и automerger/Strangemerges_32Strangemerges_30-7B. Модель содержит 7,1 млрд параметров и предназначена для генерации текста и диалогов; максимальная длина контекста — 32 768 токенов. Модель принимает текст и выдаёт текст. Репозиторий содержит веса в формате Safetensors, лицензия — Apache-2.0. Сведения о конкретных языках и специализированных областях применения в доступных материалах отсутствуют.

QuantFactory/Teuken-7B-instruct-commercial-v0.4-GGUF — квантизированная версия 7-миллиардной instruction-tuned языковой модели Teuken-7B-instruct-commercial-v0.4, созданная с использованием llama.cpp. Исходную модель разработали Fraunhofer, Forschungszentrum Jülich, TU Dresden и DFKI в рамках исследовательского проекта OpenGPT-X при финансировании Федерального министерства экономики и защиты климата Германии. Архитектура модели — decoder-only Transformer. Модель предназначена для генерации текста, диалоговых сценариев и других мультиязычных NLP-задач, включая коммерческое и исследовательское использование. Она ориентирована на все 24 официальных языка Европейского союза: болгарский, чешский, датский, немецкий, греческий, английский, испанский, эстонский, финский, французский, ирландский, хорватский, венгерский, итальянский, литовский, латышский, мальтийский, нидерландский, польский, португальский, румынский, словацкий, словенский и шведский. Предобучение базовой модели выполнено на 4 триллионах токенов из общедоступных источников с датой отсечения данных в сентябре 2023 года. Сильная сторона модели — специализация на мультиязычных задачах и более стабильная работа с европейскими языками по сравнению с англоцентричными моделями. Для корректной работы требуется использовать предусмотренный prompt template или chat template. Модель не предназначена для математических и программных задач; также возможны галлюцинации, предвзятые, токсичные или иным образом вредные ответы. Размер контекста и конкретный формат квантизации в предоставленной карточке не указаны. Модель распространяется по лицензии Apache 2.0.

allenai/tulu-v2.5-dpo-13b-alpacafarm-gpt4-pref — англоязычная чат-модель из набора RLHF-моделей Tulu, разработанного AllenAI. Это плотная авторегрессионная модель семейства Llama с 12,9 млрд параметров, основанная на allenai/tulu-2-13b и дообученная на инструкциях, синтетических диалогах и данных предпочтений. Для дополнительного выравнивания применялся DPO на разбиении alpaca_farm_gpt4_pref; в репозитории указан формат PyTorch и контекст до 4096 токенов. Модель предназначена для генерации текста и ответов в диалогах с помощником на английском языке. Её можно использовать для выполнения инструкций, ответов на вопросы и создания текстовых черновиков. README указывает, что шаблон чата встроен в токенизатор и требует учитывать перевод строки при форматировании сообщений. Модель не обучалась на безопасные ответы и не имеет встроенной фильтрации, поэтому может выдавать проблемный контент, особенно по соответствующим запросам. Лицензия — Apache 2.0.

vicgalle/xlm-roberta-large-xnli-anli — модель XLM-RoBERTa-large, дообученная на нескольких наборах данных для распознавания логического следования (NLI), включая MNLI, XNLI и ANLI. Она предназначена для классификации текстов без заранее заданного набора классов: пользователь передаёт текст и названия возможных категорий, а модель оценивает их соответствие. Модель содержит 658,7 млн параметров, использует архитектуру XLM-RoBERTa для классификации последовательностей и принимает текст длиной до 514 токенов. Она поддерживает многоязычную классификацию; в карточке приведены результаты на испанском и французском наборах XNLI, а также на трёх раундах ANLI. Лицензия — MIT. На тестах XNLI точность составила 93,7% для испанского и 93,2% для французского; на раундах ANLI — от 68,5% до 49,0%. Результаты на ANLI указывают на заметное снижение качества на более сложных раундах, поэтому оценки следует проверять на данных целевого применения.

YamshadowInex12_Experiment24Experiment26 — слитая автором MaziyarPanahi модель семейства Mistral с 7,1 млрд параметров для генерации текста. Она принимает текстовые запросы и генерирует текст, поддерживая контекст до 32 768 токенов. Модель объединяет automerger/YamshadowInex12-7B и automerger/Experiment24Experiment26-7B. Её можно применять для генерации продолжений и ответов на текстовые запросы. Модель распространяется в формате Safetensors по лицензии Apache-2.0.

YamshadowInex12_Strangemerges_30Pastiche — слитая модель семейства Mistral, созданная на основе automerger/YamshadowInex12-7B и automerger/Strangemerges_30Pastiche-7B. Она предназначена для генерации текста и диалоговых сценариев на основе текстовых запросов. Модель имеет плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Веса доступны в формате safetensors. Репозиторий распространяется по лицензии Apache-2.0. В карточке не описаны языковая специализация и результаты оценки качества.

YamshadowStrangemerges_32_T3qm7xpT3q — объединённая модель на архитектуре Mistral, созданная из automerger/YamshadowStrangemerges_32-7B и automerger/T3qm7xpT3q-7B. Она предназначена для генерации текста и диалоговых ответов. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Веса доступны в формате Safetensors. Модель распространяется по лицензии Apache-2.0. README не уточняет её языковую специализацию, качество на отдельных задачах или ограничения; поэтому языки и специализированные сценарии не заявляются.

CuriousCat29/3-double-120-v3 — объединённая языковая модель, созданная с помощью mergekit методом Passthrough на основе Doctor-Shotgun/L3.3-70B-Magnum-v4-SE и TheDrummer/Anubis-70B-v1. Модель семейства Llama с плотной архитектурой для генерации текста и диалогов; в метаданных заявлены 120,8 млрд параметров и контекст до 131 072 токенов. Модель подходит для бесед и сценариев, где требуется генерировать связные ответы на текстовые запросы. Базовое описание одной из исходных моделей указывает на творческое письмо, естественные беседы и ролевые сценарии. Репозиторий содержит веса Safetensors и использует библиотеку Transformers; также заявлен интерфейс вызова инструментов. В карточке не приведены сведения о лицензии и отдельных оценках качества, поэтому условия распространения и пригодность для конкретных задач следует проверять по лицензиям исходных моделей и результатам собственной оценки.

ALAN — объединённая языковая модель на основе Microsoft Phi-4 и huihui-ai/phi-4-abliterated, созданная автором репозитория с помощью mergekit методом SLERP. Модель использует архитектуру Phi-3 для причинной генерации текста, содержит 14,1 млрд параметров и поддерживает контекст длиной до 16 384 токенов. Модель предназначена для генерации текста и диалогового общения. Сведения о лицензии в предоставленных данных отсутствуют.

All_like-zephyr-7b-sft-full — диалоговая языковая модель на архитектуре Mistral, дообученная на базе alignment-handbook/zephyr-7b-sft-full с использованием датасета HuggingFaceH4/ultrafeedback_binarized. Она предназначена для генерации текста и ответов в чате. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0. Карточка не приводит оценки качества, целевые языки или дополнительные ограничения применения; поэтому пригодность ответов следует проверять для конкретных сценариев.

Astrid-7B — языковая модель PAIX.Cloud для генерации текста на английском языке. Она построена на плотном трансформере RWForCausalLM с 32 декодирующими слоями и линейной выходной головой; в метаданных указано 10,9 млрд параметров и формат PyTorch. Модель доступна для работы через Transformers и предназначена для широкого круга текстовых сценариев, включая генерацию продолжений и ответы на вопросы. Модель принимает текст и генерирует текст. Карточка указывает обучение на английском языке, но не приводит длину контекста или лицензию. Ответы могут быть ошибочными, бессвязными или нерелевантными, а обучающие данные из интернета могут приводить к предвзятым или оскорбительным результатам; ответы следует проверять.

Calme-7B-Instruct-v0.2 — языковая модель Maziyar Panahi для генерации текста и диалогового общения. Это дообученная на качественных наборах данных модель Mistral-7B с плотной архитектурой MistralForCausalLM и 7,1 млрд параметров. Она рассчитана на связные ответы с ясной и спокойной подачей. Модель принимает текст и генерирует текст; заявленная длина контекста — 32 768 токенов. Репозиторий содержит веса в формате safetensors, а для запуска предлагается Transformers pipeline с задачей text-generation. Автор также публикует отдельные квантованные варианты GGUF. Модель доступна по лицензии Apache-2.0.

Clown-DPO-Extended — языковая модель для генерации текста, созданная Arcee AI на основе CorticalStack/pastiche-crown-clown-7b-dare-dpo с помощью mergekit. При расширении архитектуры Mistral каждые пять слоёв добавлялся новый слой; параметры o_proj и down_proj новых слоёв инициализировались нулями по подходу LLaMA Pro. Модель содержит 8,9 млрд параметров, работает с текстом и поддерживает контекст до 32 768 токенов. Модель подходит для генерации ответов и продолжения текста в задачах общего назначения. В README приведены результаты базовой модели из набора OpenLLM, а не отдельная оценка Clown-DPO-Extended. Модель распространяется по лицензии Apache-2.0.

Coral-Router, также называемая Coral-MNLI в карточке, — модель классификации последовательностей на базе BART-large, дообученная на MultiNLI. Она принимает текст и список меток-кандидатов, оценивает, насколько каждая метка подходит, и подходит для классификации без обучения на конкретных классах, в том числе в режиме нескольких меток. Модель применяет подход естественного логического вывода: исходный текст рассматривается как предпосылка, а каждая метка превращается в гипотезу; оценка соответствия основана на вероятности entailment. Это позволяет использовать её для определения тематики, тональности, намерения и модерации содержимого. Размер модели — 252,8 млн параметров, контекст — до 1024 токенов. Лицензия — Apache-2.0. Для длинных текстов возможна обрезка: сохраняется начало текста, поэтому важную информацию рекомендуется размещать ближе к началу. Качество также зависит от ясности и конкретности предложенных меток.

CrystalMistral-24B — текстовая генеративная модель семейства Mixtral, созданная с помощью LazyMergekit путём слияния четырёх моделей: eren23/dpo-binarized-NeuralTrix-7B, macadeliccc/WestLake-7B-v2-laser-truthy-dpo, Weyaxi/OpenHermes-2.5-neural-chat-v3-2-Slerp и cognitivecomputations/WestLake-7B-v2-laser. Архитектура — MixtralForCausalLM с механизмом смеси экспертов (MoE); в репозитории указаны веса Safetensors, а метаданные содержат размер 7,1 млрд параметров и контекст до 32 768 токенов. Модель предназначена для генерации текста и диалоговых ответов на запросы. Лицензия — Apache-2.0. Карточка не уточняет поддерживаемые языки, качество на конкретных задачах или специальные ограничения применения.