III.10Проекты, процессы и операционное управление

SOLAR-10.7B-merge-dpo_v1 — текстовая генеративная модель команды ETRI xainlp, созданная слиянием моделей через MergeKit. В карточке указаны базовая модель etri-xainlp/SOLAR-10.7B-merge-dpo и модель для слияния davidkim205/komt-solar-10.7b-sft-v5; при обучении использовался набор из 100 тысяч пользовательских предпочтений с DPO и LoRA. Архитектура — плотная модель семейства Llama с 10,6 млрд параметров и контекстом до 4096 токенов. Модель принимает текст и выдаёт текст; метаданные также отмечают поддержку чата. Подходит для диалогов и генерации ответов на текстовые запросы. Репозиторий содержит веса Safetensors. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но некоммерческое.

T5Gemma-S-S-PrefixLM-IT — англоязычная текстовая модель Google семейства T5Gemma с энкодер-декодерной архитектурой. Это instruction-tuned вариант с энкодером и декодером размера S, адаптированный с использованием PrefixLM; модель предназначена для генерации текста по запросу. Модель подходит для ответов на вопросы, суммаризации, рассуждений и создания текстов, включая черновики писем, сценарии и маркетинговые материалы. Небольшой размер семейства ориентирован на более экономичное развёртывание, в том числе на локальной инфраструктуре; точное число параметров этой версии в предоставленных данных не указано. Модель работает с текстом на английском языке. Возможные ограничения включают ошибки в фактах, трудности с неоднозначными формулировками и сложными задачами, а также смещения и пробелы, унаследованные от обучающих данных. Лицензия — Gemma; при использовании следует учитывать политику допустимого использования моделей Gemma.

Tess-XL-v1.0 — универсальная большая языковая модель из серии Tess, разработанной migtissera. Модель основана на Goliath-120B; в метаданных указаны архитектура LlamaForCausalLM, 117,5 млрд параметров и контекст до 4096 токенов. Репозиторий содержит веса в формате safetensors. Модель предназначена для генерации текста общего назначения и диалогов, в том числе для развёрнутых ответов на вопросы и творческих задач. Карточка приводит формат общения с ролями SYSTEM, USER и ASSISTANT и примеры диалогов. В метаданных не заявлена специализация на конкретном языке или предметной области. Модель распространяется по лицензии Llama 2. Карточка указывает Goliath-120B как базу, но не описывает подробно обучение и ограничения; фактическое качество может зависеть от запроса и сценария применения.

Beast-Soul-new — текстовая генеративная модель, созданная слиянием udkai/Turdus и flemmingmiguel/MBX-7B с помощью LazyMergekit. Она предназначена для генерации текста по запросу и может использоваться в диалоговых и других сценариях, построенных на продолжении текста. Модель основана на плотной архитектуре MistralForCausalLM и содержит 7,1 млрд параметров. Указанный размер контекста — 32 768 токенов; веса опубликованы в формате Safetensors. В README описан метод слияния SLERP с настройками для слоёв внимания и MLP. В карточке не приведены специальные предметные области или сведения о языковой специализации. Лицензия не указана в предоставленных данных.

Blur-7b-slerp-v1.43 — диалоговая языковая модель, созданная liminerity слиянием весов через mergekit. В основе архитектура Mistral с плотной causal language model на 7,1 млрд параметров; в конфигурации указаны метод слияния SLERP и точность float16. Модель предназначена для генерации текста в диалоговом формате и работы с инструкциями. Модель принимает текст и выдаёт текст. Её родительская модель заявлена как слияние трёх моделей Mistral для диалоговой генерации и следования инструкциям. Лицензия репозитория — Apache-2.0. В README не приведены конкретные языковые данные, поэтому языки использования не перечислены.

Calme-7B-Instruct-v0.2 — языковая модель Maziyar Panahi для генерации текста и диалогового общения. Это дообученная на качественных наборах данных модель Mistral-7B с плотной архитектурой MistralForCausalLM и 7,1 млрд параметров. Она рассчитана на связные ответы с ясной и спокойной подачей. Модель принимает текст и генерирует текст; заявленная длина контекста — 32 768 токенов. Репозиторий содержит веса в формате safetensors, а для запуска предлагается Transformers pipeline с задачей text-generation. Автор также публикует отдельные квантованные варианты GGUF. Модель доступна по лицензии Apache-2.0.

Clef — мультимодальная модель Cloudflare на 27 млрд параметров, дообученная на базе Qwen/Qwen3.8-27B вместе с визуальным энкодером. Она предназначена для структурированных решений: получает описание ситуации в виде текста или JSON, а также при необходимости изображения или видео, и оценивает варианты ответов для набора типизированных вопросов — выбора из вариантов, упорядоченной оценки или ответа «да/нет». Модель выдаёт логиты по допустимым вариантам за один проход; вероятности получают применением softmax отдельно для каждого вопроса. Свободный текст модель не генерирует. В модели используется совместная голова схемы, которая связывает свидетельства из описания ситуации с вопросами и совместно оценивает варианты. Модель поддерживает запросы Jev/SystemOne и смешивание текстовых и мультимодальных записей в одном пакете. Максимальная длина входа по умолчанию — 16 384 токена, её можно ограничить параметрами кодирования. Для работы требуются Transformers и PyTorch; для изображений и видео также нужна Pillow. Распространяется по лицензии Apache-2.0.

Elysium-Omni-Itt-11b — объединённая модель для генерации текста, созданная powermove72 с помощью LazyMergekit из powermove72/GreenScorpius2-xb и powermove72/Trinity_Notus2-xb. В линейном слиянии использованы веса 0,7 и 0,3 соответственно, а токенизатор собран из обоих источников. Модель основана на плотной архитектуре Mistral с причинной языковой моделью и содержит 11 млрд параметров; нативная длина контекста — 32 768 токенов. Модель предназначена для генерации текста и диалоговых ответов. В репозитории указаны веса в формате safetensors и тип данных float16. Дата публикации — 11 июня 2024 года. Лицензия в доступных данных не указана.

Experiment28M7_Experiment27Pastiche — объединённая модель на базе архитектуры Mistral, созданная слиянием automerger/Experiment28M7-7B и automerger/Experiment27Pastiche-7B. Модель содержит 7,1 млрд параметров и предназначена для генерации текста, в том числе диалоговых ответов. Она принимает текст и поддерживает контекст до 32 768 токенов. Модель опубликована в формате safetensors под лицензией Apache-2.0. Данных о специализации на конкретных языках или предметных областях в карточке нет.

MaziyarPanahi/Experiment28M7_Inex12Experiment26 — объединённая автором карточки модель на архитектуре Mistral с 7,1 млрд параметров. Она предназначена для генерации текста и принимает текстовые запросы. Размер контекстного окна составляет до 32 768 токенов; веса представлены в формате safetensors. Модель объединяет automerger/Experiment28M7-7B и automerger/Inex12Experiment26-7B. Для неё указана лицензия Apache-2.0, допускающая использование на её условиях. Карточка не описывает специальные предметные области или отдельные ограничения качества.

mhenrichsen/gemma-2b-it — текстовая генеративная модель на базе семейства Gemma, разработанного Google с использованием исследований и технологий, применённых для Gemini. Это плотная decoder-only языковая модель с 2,5 млрд параметров, настроенная следовать инструкциям и вести диалог; она принимает текст и генерирует текст. Модель работает через Transformers и имеет контекст длиной до 8192 токенов. Модель подходит для диалоговых помощников, ответов на вопросы, краткого пересказа текстов и создания черновиков. Небольшой размер позволяет запускать её на компьютере или в собственной облачной инфраструктуре с ограниченными ресурсами. В карточке заявлена поддержка английского языка; результаты могут быть менее надёжными при сложных или неоднозначных запросах. Возможны фактические ошибки, предвзятость и генерация вредного содержания, поэтому ответы следует проверять и при необходимости применять меры безопасности. Карточка репозитория не сообщает лицензию этой копии.

Ingot-7b-slerp-6 — слитая модель для генерации текста, созданная liminerity с помощью LazyMergekit. Она объединяет liminerity/Ingot-7b-slerp-2 и liminerity/Ingot-7b-slerp-4 методом SLERP; архитектура — dense MistralForCausalLM, размер — 7,1 млрд параметров, формат весов — safetensors, контекст — до 32 768 токенов. Модель предназначена для генерации текста по запросу и может использоваться для диалогов, написания черновиков и продолжения текста. Данных о специализированной области или поддерживаемых языках в карточке нет. Лицензия в предоставленных источниках не указана.

KnutJaegersberg/internlm-20b-llama — разговорная языковая модель на архитектуре Llama с 19,6 млрд параметров. По метаданным, она предназначена для генерации текста и поддерживает диалоговый режим; указанный контекст составляет 4096 токенов. В карточке приведены результаты оценки на Open LLM Leaderboard: средний балл 65,09, а на AI2 Reasoning Challenge и HellaSwag — 61,35 и 82,08 соответственно. Эти показатели отражают результаты на отдельных бенчмарках и сами по себе не гарантируют качество в конкретных сценариях. README сообщает, что код лицензирован по Apache-2.0, а для весов разрешено бесплатное коммерческое использование; также упоминается возможность подать заявку на коммерческую лицензию, поэтому условия использования весов стоит сверить с актуальной лицензией репозитория.

kellemar-KrishnaHercules-0.1-7b-slerp — это объединённая модель для генерации текста, созданная с помощью LazyMergekit на основе NeuralKrishna-7B-V2-DPO и ChatHercules-2.5-Mistral-7B-DPO. В конфигурации указаны метод объединения DARE-TIES, архитектура Mistral с плотной структурой и 7,1 млрд параметров. Модель предназначена для генерации ответов и продолжения текста по запросу; метаданные указывают контекст до 32 768 токенов. Поддерживаемые языки и специализированные области применения в карточке не обозначены. Модель распространяется в формате safetensors по лицензии Apache-2.0.

Kosmos-EVAA-gamma-v13-8B — объединённая языковая модель от jaspionjader, созданная из двух предварительно обученных моделей с помощью mergekit и метода SLERP. Она предназначена для генерации текста и диалоговых сценариев. Модель использует плотную архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров, принимает текст и имеет контекстное окно 8192 токена. Репозиторий содержит веса в формате safetensors с точностью bfloat16. Данные о лицензии и конкретных языках модели в предоставленных источниках отсутствуют.

djuna/L3.1-gramamax — плотная авторегрессионная языковая модель семейства Llama, созданная слиянием предварительно обученных моделей с помощью mergekit. В качестве основы использована ArliAI/Llama-3.1-8B-ArliAI-Indo-Formax-v1.0, а также включена djuna/L3.1-gramax; применён метод линейного слияния DARE. Модель содержит 7,5 млрд параметров, распространяется в формате safetensors и рассчитана на контекст до 131 072 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. Она принимает текст и выдаёт текст. В README и метаданных не приведены отдельные сведения о целевых языках или специализированных областях применения, поэтому описание ограничивается общими сценариями генерации и общения. Лицензия в предоставленных данных не указана.

L3SAO-Mix-SuperHermes-NovaPurosani-8B — объединённая текстовая модель ZeroXClem на архитектуре Llama 3.1. Она создана методом Della Linear из ZeroXClem/Llama3.1-Hermes3-SuperNova-8B-L3.1-Purosani-2-8B и Casual-Autopsy/L3-bluuwhale-SAO-MIX-8B-V1_fp32-merge-calc; в метаданных базовой моделью указана первая из них. Модель содержит 7,5 млрд параметров, поддерживает контекст до 131 072 токенов и распространяется в формате safetensors по лицензии Apache-2.0. Модель предназначена для следования инструкциям, диалогов, ролевых сценариев и генерации длинных текстов. Её можно применять для интерактивных историй, разработки персонажей и игровых диалогов, а также для подготовки черновиков статей, романов и отчётов, суммаризации и задач ассистента. Карточка заявляет сочетание возможностей Hermes 3 и bluuwhale, но не приводит сравнительных оценок или результатов испытаний. Указанные языки — английский и русский; специальных ограничений применения в карточке не описано.

mncai/llama2-13b-dpo-v7 — языковая модель MindsAndCompany на архитектуре Llama 2, дообученная для следования инструкциям и оптимизированная методом DPO. Она предназначена для генерации ответов на запросы и может использоваться в чат-ботах и корпоративных генеративных AI-продуктах. Модель содержит 12,9 млрд параметров, принимает текст и выдаёт текст; заявленный контекст — 2048 токенов. В карточке показан пример запроса на корейском языке, а метаданные указывают английский и корейский языки. Модель распространяется в формате safetensors по лицензии Llama 2.

athirdpath/Llama-3-11b-Instruct — разговорная модель генерации текста, созданная как merge трёх вариантов Part Wave, Part Block и Part Funnel; в README Part Funnel указан как основа. Сборка использует слои NousResearch/Meta-Llama-3-8B-Instruct, а метаданные определяют архитектуру как плотную LlamaForCausalLM. Размер модели — 10,6 млрд параметров, формат весов — safetensors, контекст — до 8192 токенов. Модель предназначена для диалогов и генерации текста по инструкциям. Автор описывает её как основу для дальнейшей работы и отмечает, что после исправления ошибки в YAML она работает, но количественных оценок качества и подробностей о тестировании не приводит. Лицензия указана как llama3; перед использованием следует учитывать условия лицензии Llama 3.

Модель promotion/Llama-3.1-8B-TLDR-NBPO-eta0.05 — диалоговая языковая модель на архитектуре Llama, дообученная методом Nash Bargaining Preference Optimization (NBPO) на задаче TL;DR. Она основана на meta-llama/Llama-3.1-8B-Instruct и предназначена для генерации кратких резюме с учётом полноты, точности, лаконичности и полезности. В обучении использовались 300 обновлений оптимизатора и глобальный размер пакета 16; модель содержит 7,5 млрд параметров и поддерживает контекст до 131 072 токенов. В карточке описана оценка независимых показателей предпочтения относительно общей базовой политики на отложенных промптах; качество оценивал Llama-3.3-70B-Instruct. Модель распространяется в формате safetensors по лицензии Llama 3.1. Данные карточки не указывают языковой охват или ограничения на применение сверх условий этой лицензии.

Это диалоговая языковая модель с архитектурой Llama 3, дообученная автором yaystevek на наборе OpenHermes 2.5. В основе лежит 4-битная instruct-версия Llama 3 8B от Unsloth; модель содержит около 7,5 млрд параметров и рассчитана на контекст до 8192 токенов. В карточке также упомянуты варианты GGUF в форматах F16 и Q4_K_M. Модель предназначена для генерации текста в диалогах и ответов на запросы пользователя. Автор отмечает, что при дообучении уделил внимание сохранению и усилению корректной структуры токенов конца последовательности. В метаданных указан английский язык. Лицензия обозначена как other, а README указывает на условия Meta Llama 3 Community License Agreement; перед применением следует ознакомиться с её условиями.

Magpie-Align/Llama-3-8B-Magpie-Pro-SFT-200K-v0.1 — чат-модель, дообученная Magpie-Align на базе meta-llama/Meta-Llama-3-8B на первых 200 тысячах примеров датасета Magpie-Align/Magpie-Pro-300K-Filtered. Она предназначена для диалоговой генерации текста и ответов на запросы. Модель использует плотную архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров и поддерживает контекст до 8192 токенов. Модель представлена в форматах PyTorch и Safetensors. Лицензия — Llama 3. В README автор рекомендует для более высокого качества использовать Magpie-Align/Llama-3-8B-Magpie-Pro-SFT-v0.1.

Jennny/llama3_8b_sft_ultrafb — дообученная модель на архитектуре Llama 3.1 от Meta, опубликованная пользователем Jennny. Модель содержит 7,5 млрд параметров и обучена методом supervised fine-tuning с использованием TRL на наборе allenai/ultrafeedback_binarized_cleaned. Она предназначена для генерации текста в диалоговом формате и ответов на пользовательские запросы. Модель принимает текст и выдаёт текст; максимальная длина контекста составляет 131 072 токена. Поддерживаемые языки включают языки базовой Llama 3.1, но конкретные языки в карточке этой модели не перечислены. Репозиторий использует формат safetensors и библиотеку Transformers. Лицензия в предоставленных данных не указана.

taozi555/llama3-Mirage-Walker-8b — объединённая диалоговая языковая модель, созданная с помощью mergekit на основе Meta Llama 3 8B Instruct с включением Undi95/Llama-3-Unholy-8B и taozi555/Llama-3-8B-Instruct-pippa. Веса объединены методом task arithmetic; архитектура — плотная LlamaForCausalLM, размер — 7,5 млрд параметров, формат файлов — safetensors. Модель предназначена для диалоговой генерации текста и ответов ассистента. Она принимает текст и выдаёт текст, поддерживает контекст до 8192 токенов; в метаданных указаны английский язык и возможность ведения чата. Лицензия в предоставленных данных не указана.

MaziyarPanahi/M7Yamshadowexperiment28_Strangemerges_32Yam — слитая модель семейства Mistral, созданная на основе automerger/M7Yamshadowexperiment28-7B и automerger/Strangemerges_32Yam-7B. Она предназначена для генерации текста и поддерживает контекст до 32 768 токенов. Модель содержит 7,1 млрд параметров и распространяется в формате safetensors. Модель подходит для диалогов, создания черновиков и продолжения текста, а также для работы с длинными текстовыми запросами. В карточке не приведены оценки качества и сведения о специальной настройке для конкретных областей. Лицензия — Apache-2.0.

MagnusIntellectus-12B-v1 — объединённая модель для генерации текста и диалогов, созданная GalrionSoftworks с помощью LazyMergekit из UsernameJustAnother/Nemo-12B-Marlin-v5 и anthracite-org/magnum-12b-v2. Это плотная причинно-языковая модель семейства Mistral с архитектурой MistralForCausalLM и 12,1 млрд параметров; карточка указывает контекст до 1 024 000 токенов. Модель предназначена для генерации текста и ведения диалогов в чат-сценариях. В README описано слияние методом TIES с нормализацией и весами 0,70 и 0,30; веса опубликованы в формате safetensors и типе bfloat16. В карточке приведены результаты Open LLM Leaderboard: средний балл 21,55, IFEval 44,21 и BBH 33,26. Лицензия — Apache-2.0. Данных о поддерживаемых естественных языках в предоставленных источниках нет.

papercat404/mergecat_v0.1 — объединённая языковая модель, созданная методом SLERP с помощью mergekit на основе hkss/hk-SOLAR-10.7B-v1.4 и hwkwon/S-SOLAR-10.7B-v1.4. Модель относится к семейству Llama, использует архитектуру LlamaForCausalLM и содержит 10,6 млрд параметров; она предназначена для генерации текста и диалоговых ответов на текстовые запросы с контекстом до 4096 токенов. Модель распространяется в формате safetensors для Transformers по лицензии Apache-2.0. Карточка не описывает отдельную специализацию или конкретные ограничения качества; пригодность ответов следует оценивать для выбранного сценария.

MergekitCloud создала Mergekit-77 — объединение двух предварительно обученных разговорных языковых моделей с помощью метода SLERP в mergekit. В основе лежит архитектура Mistral с плотной causal language model на 7,1 млрд параметров; модель распространяется в формате safetensors и рассчитана на контекст до 8192 токенов. Модель предназначена для генерации текста в диалогах: она принимает текстовые запросы и выдаёт текстовые ответы. В слиянии использованы FuseAI/FuseChat-7B-VaRM и Nexusflow/Starling-LM-7B-beta. Лицензия в предоставленных данных не указана.

mncai/mistral-7b-dpo-v5 — языковая модель MindsAndCompany на базе Mistral, прошедшая настройку для следования инструкциям и оптимизацию предпочтений методом DPO. Это плотная авторегрессионная модель с 7,1 млрд параметров, предназначенная для генерации текста и диалоговых сценариев; в примере карточки задан вопрос на корейском языке, однако метаданные указывают английский как язык карточки. Модель поддерживает контекст до 32 768 токенов. Её можно применять для ответов на вопросы, ведения диалога и создания текстовых функций для бизнес-продуктов, включая чат-боты и помощники. Репозиторий содержит веса в формате safetensors. Лицензия — Apache 2.0. Карточка не приводит результатов оценки качества или подробного описания ограничений.

zelk12 выпустил MT1-Gen4-GI-gemma-2-9B — объединение двух предварительно обученных языковых моделей с помощью метода SLERP и инструментария mergekit. Это плотная авторегрессионная модель семейства Gemma 2 с 9 млрд параметров, рассчитанная на генерацию текста и диалоговое взаимодействие; базовой моделью в конфигурации слияния указана zelk12/MT1-Gen4-GP-gemma-2-S4S5-9B. Модель принимает текст и генерирует текст, поддерживая контекст до 8192 токенов. Данные не описывают специализацию по предметной области или отдельные языки; явные сведения о лицензии отсутствуют, поэтому условия использования следует уточнить в карточке модели и условиях базовых моделей. Слияние объединяет веса моделей, но само по себе не гарантирует улучшения качества или одинакового поведения во всех задачах.