III.5Управление персоналом и организацией

LexGPT-V2 — экспериментальная разговорная языковая модель от lex-hue, построенная на плотной архитектуре MistralForCausalLM и содержащая 7,1 млрд параметров. Она предназначена для генерации текста и диалоговых сценариев. По карточке автор описывает её как тестовое обучение и отмечает, что полное обучение ещё впереди; приведены сравнительные оценки нескольких моделей, но методика и результаты LexGPT-V2 в доступном тексте не раскрыты. Модель принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Лицензия — MIT.

4i Intelligent Insights разработала испаноязычную чат-модель на базе Llama 2 13B, дообучив её на наборе инструкций bertin-project/alpaca-spanish. Это плотная авторегрессионная модель семейства Llama с 12,9 млрд параметров и контекстом до 4096 токенов; она принимает инструкции и необязательный входной текст и генерирует текстовые ответы на испанском языке. Модель предназначена для непосредственного выполнения пользовательских инструкций и диалоговых сценариев без дополнительного дообучения. Адаптер был объединён с исходной моделью Llama 2. Качество может снижаться из-за ошибок перевода в испанском наборе данных; также сохраняются смещения и ограничения базовой модели. Лицензия — CC BY-NC 4.0, унаследованная от набора данных; для базовой Llama 2 действуют условия её лицензионного соглашения.

TInkybala/llama-3.1-8b-finetune-test-merged — дообученная языковая модель TInkybala на архитектуре Llama 3.1 с 7,5 млрд параметров. В качестве базовой модели указана unsloth/meta-llama-3.1-8b-unsloth-bnb-4bit; обучение проводилось с использованием Unsloth и библиотеки TRL. Модель предназначена для генерации текста и может использоваться в сценариях диалога и создания текстовых ответов. Метаданные указывают английский язык и контекст до 131 072 токенов. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0. Карточка не описывает специализацию дообучения или результаты оценки качества.

Модель munish0838/llama-3-8b-Instruct-Matter-0.1-Slim-A — дообученная авторегрессионная языковая модель семейства Llama 3, разработанная munish0838 на основе unsloth/llama-3-8b-Instruct-bnb-4bit. Она предназначена для генерации текста и диалогового общения. Модель содержит 7,5 млрд параметров и поддерживает контекст до 8192 токенов. При обучении использовались Unsloth и библиотека TRL. Модель принимает текст и выдаёт текст; в карточке указан английский язык. Репозиторий распространяется по лицензии Apache-2.0. Карточка не приводит сведений о специализированных областях применения или дополнительных возможностях.

dfurman/Llama-3-8B-Orpo-v0.1 — англоязычная диалоговая модель генерации текста, созданная дообучением Meta Llama 3 8B методом ORPO. По карточке, обучение проведено на 4 тысячах примеров из набора mlabonne/orpo-dpo-mix-40k; модель использует шаблон диалога ChatML и поддерживает контекст до 8192 токенов. Модель предназначена для ответов на запросы и свободной генерации текста в формате чат-ассистента. В приведённых результатах она показывает неодинаковые результаты на тестах: например, выше базовых моделей в HellaSwag и Winogrande, но ниже в GSM8K; эти оценки не гарантируют качества на конкретных пользовательских задачах. Доступны веса в формате safetensors для Transformers. Лицензия — llama3.

grimjim выпустил Nephilim v3 — объединённую с помощью mergekit языковую модель на архитектуре Llama 3. В основу слияния легла grimjim/Llama-3-Instruct-8B-SPPO-Iter3-SimPO-merge, также в него включена tokyotech-llm/Llama-3-Swallow-8B-Instruct-v0.1. Модель содержит 7,5 млрд параметров, рассчитана на контекст до 8192 токенов и распространяется в формате safetensors; библиотека для работы — Transformers. Модель предназначена для диалоговой генерации текста и может применяться для ролевых сценариев и творческого продолжения текста. Автор отмечает, что компоненты слияния не обучались специально для ролевых игр, а формат инструкций иногда вызывает несогласованность; рекомендует использовать подходящий instruct-промпт и подбирать температуру генерации. Лицензия — CC BY-NC 4.0, допускающая использование с ограничениями на коммерческое применение.

RicAIEng дообучил модель unsloth/llama-3-8b-bnb-4bit — плотную языковую модель семейства Llama 3 с архитектурой LlamaForCausalLM и примерно 7,5 млрд параметров. Модель предназначена для генерации текста в диалоговом формате. Модель принимает текст и выдаёт текст; поддерживает английский язык и имеет контекстное окно 8192 токена. Для обучения использовались Unsloth и библиотека Hugging Face TRL. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0.

lwef/llm-bench-upload-1 — дообученная lwef модель семейства Llama 3 для генерации текста и диалогового взаимодействия. Она основана на beomi/Llama-3-Open-Ko-8B, имеет плотную архитектуру LlamaForCausalLM и около 7,5 млрд параметров. Модель работает с текстом, поддерживает английский язык и использует контекст длиной до 8192 токенов. Модель обучалась с использованием Unsloth и библиотеки Hugging Face TRL. Её можно применять для генерации продолжений текста и ответов в диалоге. Репозиторий содержит веса PyTorch; лицензия — Apache-2.0.

Sakalti/LunarPass-1 — разговорная языковая модель на архитектуре Phi-3, созданная Sakalti с помощью mergekit из слоёв Sakalti/Lunar-4B методом passthrough. Модель содержит 6,3 млрд параметров, распространяется в формате Safetensors и рассчитана на генерацию текста в диалоговом режиме с контекстом до 4096 токенов. Модель подходит для ведения текстового диалога и генерации ответов на запросы. Базовая Sakalti/Lunar-4B описана как модель для английского и японского языков; карточка LunarPass-1 отдельно не уточняет языки и не приводит результатов оценки качества. Лицензия в доступных данных не указана.

M1k4ri-7b — объединённая языковая модель от Smuggling1710 для генерации текста. Она создана с помощью LazyMergekit методом slerp из моделей Smuggling1710/M1k4-7b и Smuggling1710/Ak4ri-7b. Модель построена на архитектуре Mistral, содержит 7,1 млрд параметров и принимает текстовый ввод, генерируя текст. Максимальная длина контекста — 32 768 токенов. Карточка не описывает специализированные области применения, поддерживаемые языки, качество или дополнительные возможности. В репозитории представлены веса Safetensors. Лицензия в предоставленных данных не указана.

maid-yuzu-v5-mix — языковая модель для генерации текста и диалогов, созданная автором карточки слиянием моделей через mergekit методом SLERP. В объединение вошли maid-yuzu-v5 и smelborp/MixtralOrochi8x7B; конфигурация использует коэффициент смешивания 0,5 и формат весов bfloat16. По метаданным это модель архитектуры Mixtral с классом MixtralForCausalLM и 7,1 млрд параметров, принимающая текст и рассчитанная на контекст до 32 768 токенов. Модель подходит для генерации ответов в чате и продолжения текста. Базовая MixtralOrochi8x7B предназначена для английских ответов и диалогов; данных о языках и специальных прикладных областях именно этой версии карточка не приводит. Модель опубликована в формате safetensors и использует библиотеку Transformers. Лицензия в предоставленных данных не указана.

Marcoro14-7B-dare — объединённая языковая модель на архитектуре Mistral, созданная с помощью mergekit. В неё вошли SamirGPT-v1, Slerp-CM-mist-dpo и Mistral-7B-Merge-14-v0.2; при объединении также использована mistralai/Mistral-7B-v0.1. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалоговых сценариев. Формат safetensors и лицензия Apache-2.0 указаны в метаданных. В README нет сведений о специализированной области применения или оценках качества; для русского языка отдельная поддержка не заявлена.

Mayonnaise-4in1-03 — англоязычная причинно-языковая модель Kaitchup, созданная с помощью mergekit как объединение нескольких моделей семейства Mistral. В рецепте слияния TIES указаны mncai/mistral-7b-dpo-v5, flemmingmiguel/MBX-7B и BarryFutureman/NeuralTurdusVariant1-7B; в метаданных размер модели указан как 7,1 млрд параметров, а базовый контекст — 32 768 токенов. Модель предназначена для генерации текста на английском языке. Лицензия — Apache 2.0. Карточка указывает, что рецепт описан в статье о слиянии TIES, но не приводит оценок качества или подробных ограничений; фактические результаты могут зависеть от задачи и способа использования.

MeliodasPercival_01_Experiment28Experiment26 — объединённая авторами репозитория модель на основе двух моделей: automerger/MeliodasPercival_01-7B и automerger/Experiment28Experiment26-7B. Это плотная Mistral-архитектура с 7,1 млрд параметров, предназначенная для генерации текста и диалогов. Модель принимает текст и выдаёт текст; заявленная длина контекста — до 32 768 токенов. Модель подходит для генерации продолжений, ответов и диалоговых реплик. Репозиторий распространяет веса в формате Safetensors по лицензии Apache-2.0. README не приводит сведений о целевых языках или специализированных областях применения; качество и ограничения отдельно не описаны.

MeliodasPercival_01_ShadowExperiment24 — объединённая модель для генерации текста, созданная на основе automerger/MeliodasPercival_01-7B и automerger/ShadowExperiment24-7B. Она использует плотную архитектуру Mistral с 7,1 млрд параметров и поддерживает контекст длиной до 32 768 токенов. Модель предназначена для генерации текста и диалоговых сценариев. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0. README не приводит оценок качества или сведений о специализированных областях применения.

mergekit-community/mergekit-slerp-ebgdloh — объединённая текстовая модель, созданная сообществом с помощью mergekit из fblgit/UNA-TheBeagle-7b-v1 и SanjiWatsuki/Kunoichi-DPO-v2-7B. При объединении применён метод SLERP; в конфигурации указаны базовая модель fblgit/UNA-TheBeagle-7b-v1 и формат вычислений bfloat16. Модель относится к семейству Mistral, использует плотную архитектуру MistralForCausalLM и содержит 7,1 млрд параметров. Она предназначена для генерации текста; заявленная длина контекста — 32 768 токенов. Репозиторий содержит веса Safetensors и использует библиотеку Transformers. Объединение моделей может сочетать их поведенческие особенности, однако карточка не приводит оценок качества или конкретных преимуществ этого результата. Лицензия в доступных данных не указана.

Модель thewordsmiths/Meta-Llama-3-8B_sft_merged_100000_dpo_merged — дообученная версия Meta-Llama-3-8B от разработчика thewordsmiths. Это плотная авторегрессионная модель семейства Llama для генерации текста; в карточке указано обучение с помощью Unsloth и Hugging Face TRL. Модель содержит 7,5 млрд параметров и поддерживает контекст до 8192 токенов. В метаданных указан английский язык. Модель подходит для генерации продолжений и ответов на текстовые запросы. Она распространяется под лицензией Apache-2.0. Карточка не описывает конкретные улучшения, специализированные сценарии или результаты оценки качества.

Midnight-Miqu-103B-v1.5 — языковая модель с архитектурой Llama, созданная FluffyKaeloky методом passthrough-слияния слоёв модели sophosympatheia/Midnight-Miqu-70B-v1.5. Она содержит 102,9 млрд параметров и рассчитана на генерацию текста в диалоговом формате, включая сценарии, где нужен длинный контекст до 32 764 токенов. Модель подходит для ведения диалогов и генерации продолжений текста. В README также перечислены сторонние квантизованные сборки GGUF и EXL2; репозиторий модели содержит веса в safetensors. Языковая специализация модели в доступных данных не указана. Сборка основана на Miqu и использует слои исходной модели, повторённые в трёх диапазонах. Лицензия в предоставленных данных не указана.

Модель akameswa/mistral-7b-instruct-v0.2-bnb-16bit — дообученная akameswa версия Mistral 7B Instruct v0.2, созданная с использованием Unsloth и библиотеки TRL. Это плотная авторегрессионная языковая модель на 7,1 млрд параметров для генерации текста и диалогового взаимодействия; контекст составляет до 32 768 токенов. В качестве основы указана unsloth/mistral-7b-instruct-v0.2-bnb-4bit. Модель подходит для ведения диалогов и генерации ответов на текстовые запросы на английском языке. Репозиторий содержит веса PyTorch, а лицензия — Apache-2.0. Данных о специализированной предметной области или дополнительных возможностях сверх генерации текста нет.

Trelis Research дообучила Mistral-7B-v0.1 методом ORPO с beta=0.2 для генерации текста в диалоговом формате. Модель содержит 7,1 млрд параметров, построена на плотной архитектуре Mistral с Grouped-Query Attention и Sliding-Window Attention; для токенизации используется byte-fallback BPE. В карточке отмечена совместимость с шаблоном Llama 2. Модель подходит для диалоговых ответов и генерации текста на английском языке; её контекстное окно составляет 32 768 токенов. В качестве обучающих данных указан набор argilla/dpo-mix-7k. Базовая Mistral-7B-v0.1 описана как предварительно обученная языковая модель, поэтому её возможности модерации не заявлены. Модель распространяется по лицензии Apache-2.0. Карточка описывает ORPO-дообучение, но не приводит отдельных оценок качества именно этой версии.

STaR-GATE — дообученная языковая модель из основного эксперимента исследовательской работы «STaR-GATE: Teaching Language Models to Ask Clarifying Questions». Она основана на архитектуре Mistral и содержит 7,1 млрд параметров; модель принимает текст и рассчитана на диалоговое применение с контекстом до 32 768 токенов. Модель предназначена для диалогов, в которых нужно уточнить неявные предпочтения пользователя, прежде чем выполнять задачу, а затем подготовить персонализированный ответ. Авторы обучали её итеративно на синтетических примерах с персонами и задачами, вознаграждая вопросы, повышающие вероятность качественных ответов. В описанном эксперименте ответы после такого самоулучшения предпочитались ответам исходной модели в 72% задач. Модель распространяется в формате safetensors по лицензии MIT. Для получения ожидаемого поведения авторы рекомендуют использовать промпты для elicitation и генерации финального ответа, приведённые в приложении к статье; результаты описаны в контексте исследовательского эксперимента.

MN-Nyx-Chthonia-12B — языковая модель, созданная сообществом mergekit-community слиянием нескольких моделей семейства Mistral Nemo. Для слияния использован метод Model Stock, а базовой моделью в README названа mistralai/Mistral-Nemo-Instruct-2407. Репозиторий содержит веса в формате Safetensors; размер модели — 12,1 млрд параметров, заявленная длина контекста — 131 072 токена. Модель предназначена для диалоговой генерации текста. Её можно использовать для ведения беседы и создания ответов на текстовые запросы. Данные не уточняют отдельные специализированные области или основной язык модели. Модель относится к производным моделям типа merge. Лицензия в предоставленных сведениях не указана. Характеристики качества и ограничения применения в README не описаны.

MoMo-72B-lora-1.8.4-DPO — языковая модель Moreh на архитектуре Llama с 71 млрд параметров. Она обучена методом Direct Preference Optimization (DPO) на основе MoMo-72B-LoRA-V1.4; базовая модель MoMo-72B-LoRA-V1.4 была дообучена методом SFT с LoRA на QWEN-72B. Веса не объединялись с другими моделями, а для совместимости с форматом llama были выровнены при подготовке к отправке на лидерборд. Модель предназначена для генерации текста и диалоговых сценариев. В обучении использовались наборы SlimOrca, Truthy и Orca DPO Pairs; обучение проводилось на платформе MoAI компании Moreh с ускорителями AMD MI250. Контекст составляет до 32 768 токенов, библиотека для загрузки — Transformers. Карточка не приводит результатов бенчмарков, поэтому качество по конкретным задачам нельзя оценить по предоставленным данным. Модель распространяется по лицензии MIT.

korvo/MS-RandomMergeTest_v2-22B — объединённая 22-миллиардная языковая модель на архитектуре Mistral, созданная автором репозитория с помощью mergekit и метода della. Базой слияния служила concedo/Beepo-22B; также объединены TheDrummer/Cydonia-22B-v1.1, anthracite-org/magnum-v4-22b, crestf411/MS-sunfall-v0.7.0 и nbeerbower/Mistral-Small-Gutenberg-Doppel-22B. Модель предназначена для генерации текста и диалогов; заявленное базовыми моделями назначение включает следование инструкциям и создание связной прозы на английском языке. Она принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов и представлена в формате safetensors. В метаданных отмечен интерфейс вызова инструментов, однако подробности его работы в карточке не описаны. Лицензия в предоставленных данных не указана. Карточка не приводит оценки качества или подробных ограничений; пригодность слияния для конкретных сценариев следует проверять отдельно.

zelk12/MT3-Gen5-gemma-2-9B_v1 — объединённая разговорная языковая модель на архитектуре Gemma 2, созданная с помощью mergekit методом SLERP. В объединение вошли zelk12/MT3-Gen5-MAI-gemma-2-9B_v1 и zelk12/MT3-Gen5-MMGBMU-gemma-2-9B_v1; в конфигурации указана базовая модель zelk12/MT3-Gen5-MAI-gemma-2-9B_v1 и параметр смешивания t=0,25. Модель содержит 9 млрд параметров, использует формат safetensors и библиотеку Transformers, а её контекстное окно составляет 8192 токена. Она предназначена для генерации текста в диалоговом формате, включая ответы на сообщения и ведение беседы. Поддерживаемый язык в предоставленных сведениях не указан. Модель распространяется по лицензии Gemma. Качество и поведение объединённой модели отдельно не описаны; применимость к конкретным задачам следует проверять на собственных данных.

zelk12/MT4-Gen5-IF-gemma-2-S2MT3g4-9B — объединённая разговорная языковая модель семейства Gemma 2, созданная методом SLERP с помощью mergekit из zelk12/MT3-Gen4-gemma-2-9B и allknowingroger/Gemmaslerp2-9B. Модель содержит 9 млрд параметров, использует архитектуру Gemma2ForCausalLM и принимает текст для генерации продолжений и ведения диалога; контекст составляет 8192 токена. Модель предназначена для интерактивного общения и генерации текста. В репозитории указаны веса safetensors и библиотека Transformers. Сведений о специализированных областях применения или поддерживаемых языках нет. Лицензия в предоставленных данных не указана.

zelk12 создал эту модель слиянием двух предварительно обученных языковых моделей с помощью mergekit и метода SLERP: zelk12/MT-Gen2-gemma-2-9B и nbeerbower/gemma2-gutenberg-9B. Это плотная авторегрессионная модель семейства Gemma 2 с 9 млрд параметров, предназначенная для генерации текста и диалогов. Модель принимает текст и генерирует текст; её нативная длина контекста — 8192 токена. В качестве формата весов указаны safetensors. Базовая модель zelk12/MT-Gen2-gemma-2-9B описана как модель для диалоговой генерации на английском языке. Лицензия в предоставленных данных не указана. Качество, языковой охват и ограничения именно этого слияния в README не описаны; характеристики базовой модели могут не полностью переноситься на результат слияния.

zelk12/MT-IF-gemma-2-RAt0.75v0.1GD-9B — объединённая диалоговая языковая модель на архитектуре Gemma 2, созданная автором репозитория с помощью mergekit и метода SLERP из zelk12/recoilme-gemma-2-Ataraxy-9B-v0.1-t0.75 и nbeerbower/Gemma2-Gutenberg-Doppel-9B. Модель содержит 9 млрд параметров, использует формат safetensors и поддерживает контекст до 8192 токенов. Модель предназначена для генерации текста и диалоговых ответов. Сочетание исходных моделей объединяет возможности Gemma 2 Ataraxy и модели, дообученной на текстах Gutenberg; конкретные специализации и преимущества итогового слияния в карточке не описаны. Она принимает текст и выдаёт текст. Лицензия в предоставленных данных не указана.

zelk12/MT-Merge4-GI-gemma-2-9B — объединённая с помощью mergekit методом SLERP языковая модель на архитектуре Gemma 2 с 9 млрд параметров. В объединение вошли zelk12/MT-Merge4-IF-gemma-2-MT1g4MT2g4-9B и zelk12/MT-Merge4-GP-gemma-2-MTg4MT4g4-9B. Модель предназначена для генерации текста и диалогов. Она принимает текст и выдаёт текст; заявленная длина контекста — 8192 токена. Весовые файлы представлены в формате safetensors, использовать модель можно через Transformers. Лицензия в предоставленных данных не указана. Качество и поведение объединённой модели зависят от исходных моделей и метода слияния; независимые характеристики качества в карточке не приведены.

zelk12/MT-Merge4-IF-gemma-2-MT1g4MT2g4-9B — объединённая модель на основе Gemma 2, созданная разработчиком zelk12 методом SLERP с помощью mergekit. Она предназначена для генерации текста и диалогов в формате чат-модели. В объединение вошли zelk12/MT1-Gen4-gemma-2-9B и zelk12/MT2-Gen4-gemma-2-9B; размер модели — 9 млрд параметров, архитектура — плотная Gemma2ForCausalLM, контекст — 8192 токена. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Модель принимает текст и генерирует текст. Сведений о специальных предметных областях, языках и лицензии в предоставленных данных нет.