I.5Создание и редактирование текста

CYFRAGOVPL разработала PLLuM — семейство больших языковых моделей для польского и других славянских и балтийских языков с дополнительными англоязычными данными. Эта версия основана на Llama 3.1 и содержит 69,5 млрд параметров; она предназначена для диалогового использования и генерации текста. Модель работает с текстом и поддерживает контекст до 131 072 токенов. Модель подходит для генерации и суммаризации текста, ответов на вопросы и создания специализированных помощников. В README отмечены результаты на задачах, связанных с польским государственным управлением, и пригодность для сценариев с поиском по документам. Обучение семейства включает продолжение предобучения, настройку на инструкциях и обучение на предпочтениях; для этой версии в метаданных указана лицензия Llama 3.1. Учитывайте, что модель может галлюцинировать и воспроизводить смещения; длинный контекст также требует достаточных вычислительных ресурсов.

Poro 2 8B Instruct — чат-модель для следования инструкциям, созданная совместно AMD Silo AI, группой TurkuNLP Университета Турку и High Performance Language Technologies (HPLT). Она основана на Poro 2 8B Base: после продолженного предобучения модель прошла supervised fine-tuning и Direct Preference Optimization. Архитектура — плотная Llama с 7,5 млрд параметров по метаданным; контекстное окно — 8192 токена. Модель предназначена для диалогов и выполнения инструкций на финском и английском языках. Она подходит для ответов на вопросы, генерации текстов, учебных и клиентских помощников, а также перевода между финским и английским. В карточке приведены результаты оценок, показывающие улучшение следования инструкциям на финском относительно Llama 3.1 8B Instruct при сохранении сильных результатов на английском; также доступен интерфейс вызова инструментов. В репозитории указана лицензия Llama 3.3. Модель может ошибаться, отражать предвзятость обучающих данных и хуже работать на специализированных задачах и языках, отличных от финского и английского; знания о недавних событиях могут быть неполными. Важные ответы следует проверять, а для чувствительных и профессиональных решений требуется человеческий контроль.

Deepcodr/llama_sample_chat2 — диалоговая модель генерации текста, разработанная Deepcodr путём дообучения NousResearch/Meta-Llama-3.1-8B-Instruct. Это плотная модель семейства Llama с архитектурой LlamaForCausalLM и 7,5 млрд параметров; для обучения использовались Unsloth и библиотека TRL. Модель предназначена для чата и генерации ответов на текстовые запросы. Контекстное окно составляет 131 072 токена; в карточке отмечена поддержка английского языка. Модель распространяется под лицензией Apache-2.0. Карточка не описывает специализированную предметную область или отдельные ограничения качества; ожидаемые возможности в целом связаны с базовой инструктивной моделью Llama 3.1 8B.

Llama-SEA-LION-v3.5-8B-R — инструктивная языковая модель AI Singapore, разработанная командой Products Pillar при финансировании Национального исследовательского фонда Сингапура. Это плотная decoder-модель на архитектуре Llama 3.1 с 7,5 млрд параметров, дообученная на основе aisingapore/Llama-SEA-LION-v3-8B-IT. Она предназначена для диалога, генерации текста, следования инструкциям и задач, требующих рассуждений; режим рассуждений или стандартной генерации выбирается через шаблон чата токенизатора. Модель поддерживает бирманский, китайский, английский, филиппинский, индонезийский, яванский, кхмерский, лаосский, малайский, сунданский, тамильский, тайский и вьетнамский языки. Контекстное окно — до 128 тысяч токенов по карточке модели; метаданные указывают 131 072 токена. Модель может применяться для ответов на вопросы, анализа тональности и токсичности, перевода, суммаризации, причинных рассуждений и многошагового диалога. Модель способна галлюцинировать, выдавать нерелевантные или противоречивые ответы, поэтому результаты следует проверять. Она не прошла настройку безопасности; для пользовательских приложений разработчикам следует самостоятельно обеспечить необходимую настройку и меры защиты. Лицензия — Llama 3.1 Community License.

Llama-SEA-LION-v3-70B — многоязычная текстовая модель AI Singapore, разработанная командой Products Pillar при финансировании NRF Сингапура. Это декодер на архитектуре Llama 3.1 с 69,5 млрд параметров, созданный продолжением предобучения meta-llama/Llama-3.1-70B-Instruct на примерно 200 млрд токенов на 11 языках Юго-Восточной Азии и английском; модель использует токенизатор Llama 3.1 и поддерживает контекст до 131 072 токенов. Модель предназначена для генерации текста, ответов на вопросы, суммаризации, анализа тональности и токсичности, перевода между английским и языками региона, причинных рассуждений и следования инструкциям. Карточка сообщает оценки по SEA-HELM и SEA-IFEval, включая проверку ответа на нужном языке. Модель рассчитана на бирманский, китайский, английский, филиппинский, индонезийский, кхмерский, лаосский, малайский, тамильский, тайский и вьетнамский языки. Для использования необходима инфраструктура, способная обслуживать модель на 70B параметров. Доступна в формате safetensors; лицензия — Llama 3.1 Community License.

Louis_GRC-7B-slerp-M1 — объединённая автором LouisGRC текстовая модель на архитектуре Mistral, созданная методом slerp с помощью LazyMergekit из liminerity/M7-7b и yam-peleg/Experiment20-7B. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. Веса опубликованы в формате safetensors. Карточка не описывает специализированные области применения или результаты оценки качества; лицензия в предоставленных данных не указана.

Lumiere-120b — языковая модель для генерации текста и диалогов, созданная разработчиком bcse путём линейного слияния двух моделей с помощью mergekit: Undi95/Miqu-70B-Alpaca-DPO и Sao10K/Euryale-1.3-L2-70B. Модель основана на архитектуре Llama и содержит около 120,1 млрд параметров; для загрузки доступны веса в формате safetensors, а также упомянуты варианты GGUF. Модель предназначена для генерации ответов в диалоге и выполнения текстовых запросов. Контекстное окно составляет 32 764 токена. В карточке не описаны специальные предметные области или наборы поддерживаемых языков; базовая Miqu-модель настроена для ответов на инструкции в формате Alpaca. Лицензия в предоставленных сведениях не указана.

lumikabrabehemoth195b — объединённая языковая модель, созданная schnapper79 с помощью mergekit из двух предварительно обученных моделей: schnapper79/lumikabra-123B_v0.3 и TheDrummer/Behemoth-123B-v1. Использован метод passthrough: в итоговую модель последовательно включены диапазоны слоёв обеих моделей. Модель построена на плотной архитектуре MistralForCausalLM и содержит 194,2 млрд параметров. Она предназначена для генерации текста и диалогового взаимодействия; контекстное окно составляет 131 072 токена. Метаданные также отмечают интерфейс вызова инструментов. Карточка не описывает отдельные специализированные области применения или поддерживаемые языки. В репозитории представлены веса Safetensors, а в конфигурации слияния указан тип данных bfloat16. Лицензия в предоставленных сведениях не указана.

Lumina-2 — предварительно обученная языковая модель с разреженной архитектурой Mixture of Experts (MoE), опубликованная Ppoyaa и созданная с помощью LazyMergekit. Модель предназначена для генерации текста и диалогового взаимодействия; её архитектура относится к семейству Mixtral, а общий размер составляет 7,1 млрд параметров. Модель принимает текст и генерирует текст. Длина контекста — до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0. Карточка не приводит сведений о поддерживаемых естественных языках и конкретных областях применения.

Lumina-3 — текстовая модель семейства Mixtral, созданная с помощью LazyMergekit и объединения моделей. Она предназначена для генерации текста и диалогового общения; заявленное окно контекста достигает 32 768 токенов. В метаданных указано 7,1 млрд параметров, архитектура Mixture of Experts и формат safetensors. В README приведены результаты оценки на Open LLM Leaderboard, включая ARC и HellaSwag. Репозиторий также ссылается на сторонние сборки в формате GGUF. Модель распространяется по лицензии Apache-2.0. В карточке не указаны поддерживаемые естественные языки и специальные предметные области.

Luna-8B-Instruct-262k — объединённая модель на архитектуре Llama 3, созданная Ppoyaa с помощью LazyMergekit. В состав входят gradientai/Llama-3-8B-Instruct-262k, jondurbin/bagel-8b-v1.0, mlabonne/ChimeraLlama-3-8B-v3 и nbeerbower/llama-3-wissenschaft-8B; в конфигурации указан метод model_stock и формат bfloat16. Модель предназначена для диалогов и генерации текста, включая ответы на вопросы. В репозитории заявлено окно контекста до 262 144 токенов; размер составляет 7,5 млрд параметров. Использование предусмотрено через Transformers и формат safetensors. Лицензия в предоставленных данных не указана.

M1k4ri-7b — объединённая языковая модель от Smuggling1710 для генерации текста. Она создана с помощью LazyMergekit методом slerp из моделей Smuggling1710/M1k4-7b и Smuggling1710/Ak4ri-7b. Модель построена на архитектуре Mistral, содержит 7,1 млрд параметров и принимает текстовый ввод, генерируя текст. Максимальная длина контекста — 32 768 токенов. Карточка не описывает специализированные области применения, поддерживаемые языки, качество или дополнительные возможности. В репозитории представлены веса Safetensors. Лицензия в предоставленных данных не указана.

M7Alloyingotneoy-7B — объединённая языковая модель на архитектуре Mistral, опубликованная как автоматическое слияние Maxime Labonne. В конфигурации использованы liminerity/M7-7b и nlpguy/AlloyIngotNeoY; применён метод DARE-TIES с параметрами плотности и веса для второй модели. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и может использоваться в сценариях продолжения текста и диалогового взаимодействия. Репозиторий содержит веса в формате Safetensors, лицензия — Apache-2.0. Метаданные указывают nlpguy/AlloyIngotNeoY как дообученную базовую модель; сама карточка описывает модель как слияние двух чекпойнтов.

M7Multiverseex26-7B — плотная языковая модель семейства Mistral с 7,1 млрд параметров, созданная Maxime Labonne автоматическим слиянием моделей через mergekit. В конфигурации указаны liminerity/M7-7b и allknowingroger/MultiverseEx26-7B-slerp; применён метод dare_ties, а результат сохранён в формате safetensors с точностью bfloat16. Модель предназначена для генерации текста и может использоваться в диалоговых приложениях и для создания текстовых ответов. Максимальная длина контекста — 32 768 токенов. Репозиторий распространяется по лицензии Apache-2.0.

Ksgk-fy/M7Percival_01-7B — объединённая языковая модель на архитектуре Mistral с 7,1 млрд параметров. В README указано, что она создана методом DARE-TIES из liminerity/M7-7b и AurelPx/Percival_01-7b-slerp; в метаданных базовой моделью отмечена AurelPx/Percival_01-7b-slerp. Модель предназначена для генерации текста и диалогов по текстовым запросам. Поддерживает контекст до 32 768 токенов и опубликована в формате safetensors. Лицензия — Apache-2.0. Карточка не содержит сведений о целевых языках, специализации или оценках качества, поэтому её возможности следует считать общими для генерации текста; качество на конкретных задачах нужно проверять отдельно.

M7T3qm7xp_Strangemerges_32T3qm7xp — слитая языковая модель на архитектуре Mistral, созданная объединением automerger/M7T3qm7xp-7B и automerger/Strangemerges_32T3qm7xp-7B. Она предназначена для генерации текста и может использоваться в приложениях, где нужны ответы или продолжение текста с длинным контекстом. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. Веса представлены в формате safetensors. Языки применения не указаны. Модель распространяется по лицензии Apache-2.0.

MaziyarPanahi/M7T3qm7xp_T3qm7xpStrangemerges_32 — объединённая разработчиком модель Mistral для генерации текста. Она создана слиянием automerger/M7T3qm7xp-7B и automerger/T3qm7xpStrangemerges_32-7B и содержит 7,1 млрд параметров. Модель подходит для генерации текста и диалоговых сценариев на основе текстового ввода. Архитектура — плотная MistralForCausalLM, максимальная длина контекста составляет 32 768 токенов. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0. Карточка не описывает языковую специализацию или конкретные ограничения качества.

M7Yamshadowexperiment28-7B — объединённая языковая модель, созданная Maxime Labonne автоматическим слиянием liminerity/M7-7b и automerger/YamshadowExperiment28-7B. Веса объединены методом SLERP с настройками для слоёв self-attention и MLP; архитектура — плотная MistralForCausalLM с 7,1 млрд параметров. Модель предназначена для генерации текста и диалогов, принимает текст и выдаёт текст. Её контекст составляет 32 768 токенов. В репозитории указаны веса Safetensors и лицензия Apache-2.0. README не описывает специализацию по предметной области или конкретные языки.

M7Yamshadowexperiment28_AlloyingotneoyNeuralsirkrishna — объединённая модель семейства Mistral от MaziyarPanahi на 7,1 млрд параметров. Она создана слиянием automerger/M7Yamshadowexperiment28-7B и automerger/AlloyingotneoyNeuralsirkrishna-7B и предназначена для генерации текста и диалогов. Модель принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов и распространяется в формате safetensors. Модель подходит для генерации продолжений, ответов и диалоговых реплик. В карточке не приведены сведения о целевых языках или специализированных областях применения. Лицензия — Apache-2.0.

MaziyarPanahi/M7Yamshadowexperiment28_Experiment26Inex12 — объединённая модель на архитектуре Mistral, созданная слиянием automerger/M7Yamshadowexperiment28-7B и automerger/Experiment26Inex12-7B. Она предназначена для генерации текста и диалоговых сценариев, где полезен контекст до 32 768 токенов. Модель содержит 7,1 млрд параметров и распространяется в формате Safetensors. Модель может использоваться для продолжения текста, ответов на запросы и ведения диалога. Данные не описывают её специализацию по языкам или предметным областям, поэтому её следует рассматривать как модель общего назначения. Лицензия — Apache-2.0.

M7Yamshadowexperiment28_Experiment26Neuralsirkrishna — объединённая языковая модель семейства Mistral, созданная на основе automerger/M7Yamshadowexperiment28-7B и automerger/Experiment26Neuralsirkrishna-7B. Веса содержат около 7,1 млрд параметров, модель принимает текст и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалоговых сценариев. Доступна в формате safetensors и распространяется по лицензии Apache-2.0. Данные карточки не уточняют целевые языки, специальные области применения или сравнительные преимущества.

MaziyarPanahi/M7Yamshadowexperiment28_Experiment26Strangemerges_30 — объединённая языковая модель на архитектуре Mistral с 7,1 млрд параметров, созданная слиянием automerger/M7Yamshadowexperiment28-7B и automerger/Experiment26Strangemerges_30-7B. Она предназначена для генерации текста и принимает текстовые запросы, выдавая текстовые ответы. Модель поддерживает контекст длиной до 32 768 токенов. В репозитории указаны веса в формате safetensors и лицензия Apache-2.0. Доступные сведения не уточняют специализацию, обучающие данные или результаты сравнительных оценок модели.

M7Yamshadowexperiment28_Experiment26Yam — объединённая языковая модель, созданная на основе automerger/M7Yamshadowexperiment28-7B и automerger/Experiment26Yam-7B. Модель построена на архитектуре Mistral с плотной структурой и содержит 7,1 млрд параметров. Она предназначена для генерации текста и поддерживает контекст длиной до 32 768 токенов. Модель распространяется в формате Safetensors по лицензии Apache-2.0. README не описывает специальные сценарии применения, языки или результаты оценки качества.

M7Yamshadowexperiment28_Experiment28Experiment26 — слитая текстовая модель семейства Mistral, опубликованная MaziyarPanahi. Она объединяет модели automerger/M7Yamshadowexperiment28-7B и automerger/Experiment28Experiment26-7B и предназначена для генерации текста; карточка не уточняет специализацию или конкретные сценарии применения. Модель имеет плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. В репозитории представлены веса safetensors. Языки не определены по доступным данным. Лицензия — Apache-2.0.

M7Yamshadowexperiment28_Experiment28Meliodas — объединённая модель на архитектуре Mistral, созданная из automerger/M7Yamshadowexperiment28-7B и automerger/Experiment28Meliodas-7B. Модель содержит 7,1 млрд параметров и принимает контекст длиной до 32 768 токенов. Она предназначена для генерации текста и может использоваться в приложениях, которым нужна генерация продолжений или ответов на текстовые запросы. README не описывает специализированные сценарии или языковую направленность модели. Модель распространяется в формате safetensors по лицензии Apache-2.0.

M7Yamshadowexperiment28_Experiment29Experiment24 — объединённая модель для генерации текста и диалогов, опубликованная MaziyarPanahi. Она создана на основе automerger/M7Yamshadowexperiment28-7B и automerger/Experiment29Experiment24-7B; архитектура — MistralForCausalLM, размер — 7,1 млрд параметров, формат весов — safetensors. Модель принимает текст и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации продолжений текста и ведения диалогов. Лицензия — Apache-2.0. В доступной карточке не приведены сведения о языках обучения и результаты оценки качества.

M7Yamshadowexperiment28_Inex12Yam — слитая языковая модель, созданная объединением automerger/M7Yamshadowexperiment28-7B и automerger/Inex12Yam-7B. Она предназначена для генерации текста и диалоговых сценариев на базе архитектуры Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель принимает текст и выдаёт текст; данные о специальных предметных областях и языках не приведены. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

M7Yamshadowexperiment28_MeliodasPercival_01 — объединённая авторами модели MaziyarPanahi модель Mistral с плотной архитектурой и 7,1 млрд параметров. Она объединяет automerger/M7Yamshadowexperiment28-7B и automerger/MeliodasPercival_01-7B и предназначена для генерации текста и диалогов по текстовому запросу. Контекст модели — до 32 768 токенов; веса представлены в формате safetensors. Модель подходит для текстовых помощников, черновиков и продолжения текста. Данных о специальных возможностях, языковой специализации или ограничениях качества в карточке нет. Лицензия — Apache-2.0.

MaziyarPanahi/M7Yamshadowexperiment28_NeuralExperiment26 — объединённая автором карточки модель для генерации текста. Она построена на архитектуре MistralForCausalLM с плотной структурой и содержит 7,1 млрд параметров; заявленная длина контекста — до 32 768 токенов. Модель принимает текст и генерирует текст, а карточка указывает два объединённых компонента: automerger/M7Yamshadowexperiment28-7B и automerger/NeuralExperiment26-7B. Модель подходит для текстовых запросов и генерации продолжений в пределах доступного контекста. Сведений о специализации по языкам или прикладным областям нет. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0.

M7Yamshadowexperiment28_NeuralsirkrishnaT3qm7x — объединённая языковая модель семейства Mistral, созданная слиянием automerger/M7Yamshadowexperiment28-7B и automerger/NeuralsirkrishnaT3qm7x-7B. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и распространяется в формате Safetensors. Модель предназначена для генерации текста и диалогов, принимает текстовые запросы и формирует текстовые ответы. Размер контекста составляет до 32 768 токенов. В карточке не приведены сведения о специализации на конкретных языках или прикладных областях. Модель опубликована 7 апреля 2024 года под лицензией Apache-2.0. Карточка не сообщает результатов оценки качества или ограничений, специфичных для этого слияния.