III.1Стратегия, продукт и бизнес-модели

Модель thewordsmiths/Mistral-7B-v0.3_sft_merged_100000_dpo_merged — дообученная авторами thewordsmiths плотная языковая модель Mistral для генерации текста. Она создана на основе thewordsmiths/Mistral-7B-v0.3_sft_merged_100000 с использованием Unsloth и библиотеки Hugging Face TRL; в названии и тегах указано обучение DPO. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. Карточка указывает английский язык. Репозиторий содержит веса в формате Safetensors и распространяется по лицензии Apache-2.0.

zelk12/MT4-IMUGMA-gemma-2-9B — слитая диалоговая языковая модель семейства Gemma 2, созданная с помощью mergekit методом SLERP из zelk12/MT4-GMA-gemma-2-9B и zelk12/MT4-IMU-gemma-2-9B. Модель предназначена для генерации текста в диалогах и других сценариях, где нужно сформировать ответ по текстовому запросу. Модель имеет плотную архитектуру Gemma2ForCausalLM и 9 млрд параметров, работает с библиотекой Transformers и распространяется в формате safetensors. Размер контекста — до 8192 токенов. В карточке указана лицензия, разрешающая использование модели для её задач.

zelk12/MT-Merge4-GP-gemma-2-MTg4MT4g4-9B — объединённая методом SLERP языковая модель на архитектуре Gemma 2, созданная из zelk12/MT-Gen4-gemma-2-9B и zelk12/MT4-Gen4-gemma-2-9B с помощью mergekit. Модель содержит 9 млрд параметров, распространяется в формате safetensors и рассчитана на генерацию текста и диалоговое взаимодействие с контекстом до 8192 токенов. Модель предназначена для генерации текста и ведения диалогов. Данные не уточняют её языковую специализацию или дополнительные предметные области, поэтому её следует рассматривать как модель общего назначения. Лицензия в предоставленных источниках не приведена.

Multi_verse_modelInex12-7B — объединённая чат-модель на архитектуре Mistral, созданная Maxime Labonne автоматическим слиянием MTSAIR/multi_verse_model и MSL7/INEX12-7b. Для слияния использован метод SLERP с настройкой весов слоёв внимания и MLP; веса сохранены в формате safetensors и типе bfloat16. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для диалоговой генерации текста. В карточке указана лицензия Apache-2.0. Языковые сведения карточки и метаданных указывают на англоязычную базовую модель; отдельные языковые возможности объединённой модели не описаны.

nyun-c2-llama3-61B — плотная авторегрессионная языковая модель семейства Llama 3, разработанная Nyun AI. Она содержит 76,2 млрд параметров и рассчитана на генерацию текста с контекстом до 8 192 токенов. Модель предназначена для генерации и продолжения текста, диалоговых сценариев и задач на понимание языка. В README авторы сообщают, что модель получена оптимизацией без дополнительного дообучения и показывает результаты выше Llama 3 70B в нескольких приведённых бенчмарках, хотя уступает ей в MMLU. Файлы опубликованы в формате safetensors. Для использования действует лицензия Llama 3. Русский язык и специализированные предметные области в предоставленных источниках не заявлены.

Карточка модели ff670/openbuddy-mixtral-7bx8-v17.3-32k на Hugging Face совпадает с карточкой OpenBuddy/openbuddy-mixtral-7bx8-v16.3-32k, поэтому описание составлено по ней. OpenBuddy-mixtral-7bx8-v16.3-32k — многоязычная чат-модель семейства Mixtral, опубликованная командой OpenBuddy. Она предназначена для диалогов и генерации текста; архитектура — Mixtral MoE, класс MixtralForCausalLM. В репозитории указаны 7,1 млрд параметров и контекст до 32 768 токенов; модель распространяется в формате safetensors и использует библиотеку Transformers. Модель поддерживает китайский, английский, французский, немецкий, японский, корейский, итальянский и русский языки. Лицензия — Apache 2.0. Ответы могут быть ошибочными, вредными или оскорбительными; модель не следует использовать для решений в медицине, финансах, праве и других критически важных сценариях.

Qwen2-7B-Instruct-it-v1.1 — дообученная чат-модель, разработанная homeb82784 на базе unsloth/qwen2-7b-instruct-bnb-4bit. Это плотная авторегрессионная модель семейства Qwen2 с 7,1 млрд параметров, предназначенная для генерации текста в диалоговом формате. В карточке указано, что обучение проводилось с использованием Unsloth и библиотеки Hugging Face TRL. Модель принимает текст и генерирует текст; заявленная длина контекста составляет 32 768 токенов. В метаданных указан английский язык. Модель распространяется в формате Safetensors под лицензией Apache-2.0.

zelk12/recoilme-gemma-2-Ataraxy-9B-v0.1-t0.75 — объединённая методом SLERP языковая модель на архитектуре Gemma 2, созданная с помощью mergekit из recoilme/recoilme-gemma-2-9B-v0.4 и lemon07r/Gemma-2-Ataraxy-v2-9B. Модель содержит 9 млрд параметров, использует формат safetensors и предназначена для генерации текста в диалогах и при выполнении инструкций; поддерживает контекст до 8192 токенов. Сценарии применения включают диалоговые ассистенты и творческую генерацию текста. В README приведены результаты Open LLM Leaderboard: 72,08 на IFEval и 42,49 на BBH; эти показатели характеризуют отдельные тесты и не гарантируют качество для любых запросов. Лицензия в доступных данных не указана.

Seamaiiza-7B-v2-128k — языковая модель AlekseiPravdin для генерации текста и диалогов. Это слияние двух моделей с помощью mergekit и метода SLERP: AlekseiPravdin/Seamaiiza-7B-v1 и AlekseiPravdin/KSI-RP-NSK-128k-7B. Архитектура — плотная MistralForCausalLM, размер — 7,1 млрд параметров; веса представлены в формате safetensors. Модель подходит для генерации продолжений текста и ведения диалогов. В названии и карточке базовой модели заявлен контекст до 128k токенов, однако метаданные этой модели указывают native context 32 768 токенов, поэтому возможность работы с 128k токенов не подтверждена для данного репозитория. Лицензия — Apache-2.0.

SOLAR-10.7B-merge-dpo_v1 — текстовая генеративная модель команды ETRI xainlp, созданная слиянием моделей через MergeKit. В карточке указаны базовая модель etri-xainlp/SOLAR-10.7B-merge-dpo и модель для слияния davidkim205/komt-solar-10.7b-sft-v5; при обучении использовался набор из 100 тысяч пользовательских предпочтений с DPO и LoRA. Архитектура — плотная модель семейства Llama с 10,6 млрд параметров и контекстом до 4096 токенов. Модель принимает текст и выдаёт текст; метаданные также отмечают поддержку чата. Подходит для диалогов и генерации ответов на текстовые запросы. Репозиторий содержит веса Safetensors. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но некоммерческое.

Gunulhona/Strom-Llama-Merge — объединённая языковая модель на архитектуре Llama, созданная с помощью mergekit. В слиянии использованы Meta-Llama-3.1-8B и akjindal53244/Llama-3.1-Storm-8B: слои 0–15 взяты из первой модели, а слои 16–31 — из второй. Репозиторий содержит веса в формате safetensors; модель насчитывает 7,5 млрд параметров и поддерживает контекст до 131 072 токенов. Модель предназначена для генерации текста и диалоговых сценариев. Её можно применять для ответов на вопросы, продолжения текста и создания черновиков на основе инструкций. В карточке не приведены отдельные результаты оценки качества или сведения о языках; модель основана на Llama 3.1 и помечена как conversational. Лицензия в предоставленных данных не указана. Поскольку модель объединяет веса Meta-Llama-3.1-8B и Llama-3.1-Storm-8B, условия использования следует сверять с лицензиями исходных моделей.

MaziyarPanahi/T3qm7xNeuralsirkrishna_Experiment24Experiment28 — объединённая языковая модель на архитектуре Mistral с 7,1 млрд параметров. Она создана слиянием automerger/T3qm7xNeuralsirkrishna-7B и automerger/Experiment24Experiment28-7B и предназначена для генерации текста и диалогов. Модель принимает текст и выдаёт текст. Контекст составляет до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0. Карточка не описывает специализированные области применения или отдельные ограничения качества; возможности стоит оценивать на задачах конкретного приложения.

Teuken-7B-instruct-research-v0.4 — мультиязычная языковая модель с настройкой на выполнение инструкций, разработанная Fraunhofer, Forschungszentrum Jülich, TU Dresden и DFKI в рамках проекта OpenGPT-X. Это декодерный Transformer семейства LLaMA с 7,5 млрд параметров, обученный на 4 трлн токенов; длина контекста — 4096 токенов. Модель предназначена для диалогов и других задач генерации текста на европейских языках, в которых авторы стремились обеспечить более устойчивые результаты, чем у моделей, ориентированных преимущественно на английский. Модель поддерживает 24 языка ЕС, включая немецкий, английский, французский, испанский, итальянский, польский, чешский, болгарский, греческий и другие. При этом настройка на инструкции использовала англоязычные и немецкоязычные наборы данных в равных долях. Модель распространяется в формате Safetensors и использует лицензию с меткой «other»; подробные условия следует уточнять у разработчика. Авторы указывают, что модель может выдавать предвзятые, токсичные или фактически неверные ответы, и не рекомендуют её для задач программирования и математики.

YamshadowInex12_Experiment28Strangemerges_32 — слитая модель семейства Mistral, созданная на основе automerger/YamshadowInex12-7B и automerger/Experiment28Strangemerges_32-7B. Она предназначена для генерации текста и диалоговых сценариев на базе языковой модели. Модель имеет плотную архитектуру MistralForCausalLM и содержит 7,1 млрд параметров. Она принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов. Веса опубликованы в формате safetensors; лицензия — Apache-2.0. Карточка не описывает специализацию, языки или результаты оценки качества, поэтому модель следует рассматривать как текстовую модель общего назначения. Качество и поведение конкретного слияния могут зависеть от запроса и требуют оценки для целевого применения.

Zamba2-2.7B-Instruct-v2 — диалоговая языковая модель Zyphra, дообученная на базе Zyphra/Zamba2-2.7B с помощью SFT и DPO на наборах инструкций, диалогов, рассуждений, математики и предпочтений. Она предназначена для генерации ответов и следования текстовым инструкциям в чат-сценариях. Модель использует гибридную плотную архитектуру: слои Mamba2 чередуются с общими слоями внимания Transformer, дополненными LoRA-проекциями. В карточке указано 2,66 млрд параметров, тогда как метаданные каталога сообщают 5,7 млрд; контекст составляет до 4096 токенов. Модель работает с текстом и выдаёт текст. Разработчик заявляет о низкой задержке и меньшем расходе памяти по сравнению с сопоставимыми Transformer-моделями; для ускоренного запуска рекомендуются ядра Mamba2, поскольку без них задержка и расход памяти заметно возрастают. Модель опубликована под лицензией Apache-2.0. В README приведены результаты на ряде тестов, но они не гарантируют качество для конкретных запросов; сведения о поддерживаемых языках не приведены.

AiMaven-Merkaba-1.2 — объединённая языковая модель jefferylovely на архитектуре Mistral с 7,1 млрд параметров. Она создана методом слияния Slerp с помощью LazyMergekit на основе jefferylovely/AiMaven-Merkaba-1.1 и jefferylovely/Merkaba-Maven-0.8. Модель предназначена для генерации текста и работает с контекстом до 32 768 токенов. В карточке указаны формат safetensors и лицензия CC BY-NC-ND 4.0, которая ограничивает коммерческое использование и распространение производных версий.

MaziyarPanahi/Experiment26Neuralsirkrishna_Experiment27Pastiche — объединённая модель для генерации текста, созданная на основе automerger/Experiment26Neuralsirkrishna-7B и automerger/Experiment27Pastiche-7B. Она использует плотную архитектуру Mistral и содержит 7,1 млрд параметров. Модель предназначена для генерации текста и диалоговых ответов. Контекстное окно составляет до 32 768 токенов. Репозиторий содержит веса в формате safetensors; модель распространяется по лицензии Apache-2.0.

Experiment26Neuralsirkrishna_Ognoexperiment27M7 — объединённая языковая модель на архитектуре Mistral с 7,1 млрд параметров. Она создана слиянием моделей automerger/Experiment26Neuralsirkrishna-7B и automerger/Ognoexperiment27M7-7B и предназначена для генерации текста и диалогов. Модель принимает текст и генерирует текст; размер её контекста составляет до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0. Данных о специальных предметных областях и подтверждённых ограничениях качества в карточке нет.

Experiment27pasticheShadowm7exp-7B — объединённая Maxime Labonne модель на архитектуре Mistral с 7,1 млрд параметров для генерации текста. Она создана автоматическим слиянием automerger/Experiment27Pastiche-7B и mahiatlinux/ShadowM7EXP-7B методом SLERP; в конфигурации указана точность bfloat16. Модель подходит для генерации текста и диалоговых ответов, а её контекст достигает 32 768 токенов. В карточке указана лицензия Apache-2.0.

MaziyarPanahi/Experiment28M7_Inex12Experiment26 — объединённая автором карточки модель на архитектуре Mistral с 7,1 млрд параметров. Она предназначена для генерации текста и принимает текстовые запросы. Размер контекстного окна составляет до 32 768 токенов; веса представлены в формате safetensors. Модель объединяет automerger/Experiment28M7-7B и automerger/Inex12Experiment26-7B. Для неё указана лицензия Apache-2.0, допускающая использование на её условиях. Карточка не описывает специальные предметные области или отдельные ограничения качества.

Firefly-Mixtral-8x7B — дообученная на базе mistralai/Mixtral-8x7B-v0.1 языковая модель, представленная автором карточки как результат обучения на наборе Firefly и 48 тысячах примеров UltraChat. Она предназначена для генерации текста и диалоговых сценариев. Архитектура — Mixtral MoE; метаданные указывают 7,1 млрд параметров, контекст до 32 768 токенов и формат safetensors. В карточке приведён результат 70,34 на Open LLM Leaderboard, однако методика и дата оценки не уточняются. В тегах указан английский язык. Модель опубликована под лицензией Apache-2.0. Карточка не описывает специальные инструменты, ограничения по применению или дополнительные модальности; выводы об этих свойствах делать нельзя.

gemma-7b-zephyr-alpaca-it-ties — объединённая языковая модель на архитектуре Gemma, собранная автором репозитория с помощью mergekit из google/gemma-7b-it, HuggingFaceH4/zephyr-7b-gemma-v0.1 и mlabonne/Gemmalpaca-7B методом dare_ties. Модель содержит 8,2 млрд параметров и рассчитана на генерацию текста, в том числе диалоговые ответы и выполнение инструкций. Модель принимает текст и генерирует текст. Веса представлены в формате safetensors; в конфигурации слияния указан dtype float16. Контекст составляет до 8192 токенов. Метаданные указывают лицензию Apache-2.0. Базовая Gemma 7B IT описана как англоязычная, поэтому английский язык можно считать основным; сведения о дополнительных языках для этого объединения не приведены. Качество слияния и сравнительные результаты в карточке не описаны.

rwitz2/go-bruins-v2.1.1 — текстовая генеративная модель семейства Mistral с плотной архитектурой MistralForCausalLM и 7,1 млрд параметров. Репозиторий содержит веса в формате Safetensors; заявленное окно контекста составляет 32 768 токенов. README сообщает, что модель основана на jan-hq/trinity-v1, дообученной методом DPO на Intel/orca_dpo_pairs, и содержит следы Cybertron-2. Модель предназначена для генерации текста и диалоговых сценариев на основе текстового запроса. README заявлял о первом месте в таблице лидеров 16 декабря 2023 года, но не уточняет саму таблицу или условия оценки. Автор также предупреждает о возможном загрязнении некоторых обучающих данных и сообщает о планах устранить его в будущих версиях. Лицензия репозитория — CC; конкретный вариант лицензии не указан в предоставленных метаданных.

Kosmos-EVAA-gamma-v13-8B — объединённая языковая модель от jaspionjader, созданная из двух предварительно обученных моделей с помощью mergekit и метода SLERP. Она предназначена для генерации текста и диалоговых сценариев. Модель использует плотную архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров, принимает текст и имеет контекстное окно 8192 токена. Репозиторий содержит веса в формате safetensors с точностью bfloat16. Данные о лицензии и конкретных языках модели в предоставленных источниках отсутствуют.

mncai/llama2-13b-dpo-v7 — языковая модель MindsAndCompany на архитектуре Llama 2, дообученная для следования инструкциям и оптимизированная методом DPO. Она предназначена для генерации ответов на запросы и может использоваться в чат-ботах и корпоративных генеративных AI-продуктах. Модель содержит 12,9 млрд параметров, принимает текст и выдаёт текст; заявленный контекст — 2048 токенов. В карточке показан пример запроса на корейском языке, а метаданные указывают английский и корейский языки. Модель распространяется в формате safetensors по лицензии Llama 2.

Megac4ai-command-r-plus — экспериментальная языковая модель, созданная автором nitky с помощью mergekit: слои CohereForAI/c4ai-command-r-plus чередуются с её же слоями методом passthrough. Модель содержит 160,4 млрд параметров, использует архитектуру CohereForCausalLM и формат safetensors; для запуска применяется библиотека Transformers с необходимыми изменениями. README также указывает на отдельную GGUF-версию и вариант квантования bitsandbytes до 4 бит. Модель предназначена для генерации текста и диалоговых ответов. В примере она отвечает на вопрос по японскому диалогу; метаданные перечисляют поддержку английского, французского, немецкого, испанского, итальянского, португальского, японского, корейского, китайского и арабского языков. Контекст составляет 8192 токена; доступны интерфейсы чата и вызова инструментов. Указанная лицензия — CC BY-NC 4.0, допускающая использование с атрибуцией, но не коммерческое использование.

MeliodasPercival_01_AlloyingotneoyPercival_01 — объединённая модель для генерации текста, созданная слиянием двух моделей Mistral: automerger/MeliodasPercival_01-7B и automerger/AlloyingotneoyPercival_01-7B. Она предназначена для генерации текста и диалогов; размер составляет 7,1 млрд параметров, максимальная длина контекста — 32 768 токенов. Модель использует архитектуру Mistral и распространяется в формате safetensors под лицензией Apache-2.0.

papercat404/mergecat_v0.1 — объединённая языковая модель, созданная методом SLERP с помощью mergekit на основе hkss/hk-SOLAR-10.7B-v1.4 и hwkwon/S-SOLAR-10.7B-v1.4. Модель относится к семейству Llama, использует архитектуру LlamaForCausalLM и содержит 10,6 млрд параметров; она предназначена для генерации текста и диалоговых ответов на текстовые запросы с контекстом до 4096 токенов. Модель распространяется в формате safetensors для Transformers по лицензии Apache-2.0. Карточка не описывает отдельную специализацию или конкретные ограничения качества; пригодность ответов следует оценивать для выбранного сценария.

MRAIRR/minillama3_8b_all — диалоговая языковая модель семейства Llama, основанная на allganize/Llama-3-Alpha-Ko-8B-Instruct. Это плотная авторегрессионная модель для генерации текста и чата с 7,5 млрд параметров и контекстом до 8192 токенов. Репозиторий содержит веса PyTorch; модель создана на основе базовой модели Allganize, однако способ её получения в карточке не уточнён. Она предназначена для диалогов и генерации текста. Лицензия — Apache 2.0.

Moxin-7B-Chat — диалоговая языковая модель команды Moxin-org на архитектуре Mistral с плотной авторегрессионной сетью. В README указано, что авторы получили чат-модель дообучением Moxin-7B-finetuned на Tulu v2. Модель содержит около 8 млрд параметров, поддерживает контекст до 32 768 токенов и распространяется в форматах GGUF, PyTorch и Safetensors. Модель предназначена для диалогов и генерации ответов на текстовые запросы. Авторы приводят результаты оценки на наборах ARC, HellaSwag, MMLU, Winogrande и PIQA; показатели относятся к указанным настройкам тестирования и не гарантируют качество в других сценариях. Лицензия — Apache 2.0. README и метаданные не уточняют поддерживаемые естественные языки и конкретные ограничения модели.