III.2Исследование рынка и маркетинг

catrinbaze/llama-refueled-merge — объединённая инструктивная языковая модель, созданная с помощью mergekit из NousResearch/Meta-Llama-3-8B-Instruct и refuelai/Llama-3-Refueled. Для объединения использован метод SLERP; архитектура — плотная LlamaForCausalLM, размер — 7,5 млрд параметров, формат весов — safetensors. Модель предназначена для диалогов и генерации текста по инструкциям; заявленная длина контекста составляет 8192 токена. Модель подойдёт для создания чат-ботов, ответов на вопросы и генерации текста. В метаданных базовая модель описана как англоязычная. Условия лицензирования в предоставленных сведениях не приведены.

II-8B-SFT — текстовая модель генерации на архитектуре Llama, дообученная автором репозитория на наборе allenai/tulu-3-sft-mixture с помощью Axolotl. Она содержит 7,5 млрд параметров, принимает текст и предназначена для диалоговых сценариев и генерации ответов. Заявленная длина контекста — 131 072 токена. Модель основана на meta-llama/Llama-3.1-8B и распространяется в форматах PyTorch и Safetensors по лицензии Llama 3.1. Карточка не приводит результатов оценки и подробных рекомендаций по применению; качество и ограничения для конкретных задач следует проверять отдельно.

wangrongsheng/LongWriter-llama3.1-8b-abliterated — текстовая генеративная модель семейства Llama, представленная в формате Transformers и сохранённая в safetensors. По названию репозитория модель связана с LongWriter и Llama 3.1 8B; параметры каталога указывают размер около 7,5 млрд параметров и контекст до 131072 токенов. Она подходит для генерации текста и диалоговых сценариев, где полезно обрабатывать длинный контекст. Метаданные не уточняют языковую специализацию, автора дообучения, лицензию, данные обучения или оценки качества. Суффикс «abliterated» заявлен только в названии и сам по себе не подтверждает конкретные свойства безопасности или поведения модели.

Luminum-v0.1-123B — объединённая языковая модель FluffyKaeloky на архитектуре MistralForCausalLM, созданная с помощью метода della_linear на основе Mistral Large Instruct 2407 с добавлением Lumimaid-v0.2-123B и Magnum-v2-123B. Модель содержит 122,2 млрд параметров и поддерживает контекст до 131 072 токенов; автор сообщает об успешном тестировании длинных запросов свыше 32 тысяч токенов, обычно до 40–50 тысяч. Модель предназначена для диалогов, генерации текста и творческих описаний. По оценке автора, она сочетает возможности базовой Mistral Large, характерную лексику Lumimaid и описательность Magnum, сохраняя ответы менее многословными, чем Magnum. Используется шаблон Mistral [INST] ... [/INST]; заявлены интерфейс вызова инструментов и варианты файлов GGUF и EXL2. Модель может выдавать чрезмерно длинные ответы, если не ограничивать их длину. README не сообщает лицензию; условия использования следует сверить с карточкой и лицензиями компонентов слияния.

Magnolia-v2-Gemma2-8k-9B — объединённая методом SLERP языковая модель, созданная автором репозитория с помощью mergekit на основе grimjim/Magnolia-v1-Gemma2-8k-9B и grimjim/Magot-v2-Gemma2-8k-9B. Это плотная модель Gemma 2 с 9 млрд параметров для генерации текста и диалогов; контекст — до 8192 токенов. Модель ориентирована на беседы и творческую генерацию, сохраняя, по оценке автора, внимание к контексту и баланс между творческим ответом и следованием инструкциям. Подходит для чат-сценариев и написания текстов. Репозиторий содержит веса safetensors; для работы указана библиотека Transformers. Лицензия — Gemma.

Magnum v2 32B GGUF — это квантизированные варианты текстовой генеративной модели Anthracite, разработанные командой Anthracite и созданные на основе Qwen1.5 32B. Модель дообучалась для воспроизведения качества прозы моделей Claude 3, прежде всего Sonnet и Opus, и предназначена для диалогов, генерации текста, выполнения инструкций и задач, где важны качество и структура письменного ответа. Модель поддерживает текстовую модальность и ориентирована на английский и китайский языки. Она содержит около 32 миллиардов параметров, распространяется в формате GGUF и использует ChatML для форматирования диалоговых запросов. В README не указана длина контекстного окна и не приведены сведения о конкретных вариантах квантизации, производительности или системных требованиях. Дообучение проводилось в течение двух эпох на наборах данных, связанных с диалогами, рассуждениями и качественной прозой. К сильным сторонам относятся крупный размер, ориентация на естественную и выразительную генерацию текста, а также поддержка локального запуска через совместимые инструменты для GGUF. Ограничения включают отсутствие подробных оценок качества, неполные сведения о безопасности и неизвестные характеристики отдельных квантизированных сборок. Лицензия обозначена как other с названием tongyi-qianwen; в качестве текста лицензии указана лицензия Qwen2-72B-Instruct.

MagnusIntellectus-12B-v1 — объединённая модель для генерации текста и диалогов, созданная GalrionSoftworks с помощью LazyMergekit из UsernameJustAnother/Nemo-12B-Marlin-v5 и anthracite-org/magnum-12b-v2. Это плотная причинно-языковая модель семейства Mistral с архитектурой MistralForCausalLM и 12,1 млрд параметров; карточка указывает контекст до 1 024 000 токенов. Модель предназначена для генерации текста и ведения диалогов в чат-сценариях. В README описано слияние методом TIES с нормализацией и весами 0,70 и 0,30; веса опубликованы в формате safetensors и типе bfloat16. В карточке приведены результаты Open LLM Leaderboard: средний балл 21,55, IFEval 44,21 и BBH 33,26. Лицензия — Apache-2.0. Данных о поддерживаемых естественных языках в предоставленных источниках нет.

Marcoroni-neural-chat-7B-v1-Mistral-7B-Instruct-v0.1 — объединённая чат-модель MaziyarPanahi на архитектуре Mistral с 7,1 млрд параметров. Она создана слиянием Mistral-7B-Instruct-v0.1 и Marcoroni-neural-chat-7B-v1 методом SLERP; веса представлены в формате safetensors и типе bfloat16. Модель предназначена для генерации текста в ответ на инструкции и диалоговые запросы. Карточка указывает контекст длиной до 32 768 токенов и английский язык. Модель подходит для чат-ботов, черновиков текстов и ответов на вопросы; фактическое качество зависит от запроса и сценария применения. Лицензия — Apache-2.0. Модель унаследовала ограничения базовых моделей; карточка не описывает отдельные оценки качества или специальные меры безопасности.

MaXaM_Large_v1.72 — дообученная диалоговая языковая модель Triadic Intelligence Labs на архитектуре Llama с 69,5 млрд параметров. В карточке указано обучение методом SFT на датасете FTK, созданном в SFT Studio Pro. Модель предназначена для генерации текста и диалогового взаимодействия; метаданные также отмечают поддержку чата. Она принимает текст и выдаёт текст, поддерживает английский язык и имеет контекстное окно до 131 072 токенов. Модель распространяется в формате safetensors через Transformers. Метаданные указывают лицензию Apache-2.0, тогда как README обозначает лицензию llama3.1 и формулировку «Open Source with Responsible Use»; условия использования следует сверять с лицензией базовой модели Llama 3.1. Подробные результаты оценки качества и сведения о конкретных ограничениях в карточке не приведены.

mBART-50 many-to-one multilingual machine translation — дообученная модель Facebook на базе mBART-large-50 для машинного перевода между 50 языками. Модель семейства mBART построена на архитектуре кодировщик–декодировщик и содержит около 457,4 млн параметров; родной контекст составляет 1024 токена. Модель предназначена для перевода текстов между поддерживаемыми языками, включая арабский, английский, русский, китайский, японский и многие другие. Карточка называет её вариантом many-to-one, но также описывает перевод между любой парой из 50 языков; это означает, что доступен перевод с множества языков, а заявленное название указывает на сценарий перевода на один целевой язык. Лицензия в предоставленных данных не указана.

mBART-50 one-to-many — модель машинного перевода компании Facebook, дообученная на базе mBART-large-50. Она переводит с английского на 49 языков, включая русский, арабский, китайский, японский и европейские языки. Для выбора языка перевода при генерации нужно задать его специальный токен как первый генерируемый токен. Модель основана на архитектуре encoder-decoder MBartForConditionalGeneration и содержит около 457,4 млн параметров. Доступны веса PyTorch, TensorFlow и Flax; контекст составляет до 1024 токенов. Подходит для перевода англоязычных текстов на поддерживаемые языки. Качество и полнота перевода могут различаться между языковыми парами; направление с английского является заявленным сценарием этой версии. Лицензия в предоставленных данных не указана.

MeowGPT-3.5 — разговорная языковая модель, разработанная CutyCat2000x на основе Llama и Mixtral. Она предназначена для генерации текста по запросу и диалогового общения. Модель имеет плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и принимает текст, выдавая текст; максимальный контекст — 4096 токенов. В метаданных указан английский язык. Модель распространяется в формате Safetensors и может загружаться через библиотеку Transformers. Данные для обучения обозначены как приватные. Лицензия — MIT. Ответы могут быть неточными или неуместными, поэтому результаты следует проверять перед использованием в важных сценариях.

DarwinAnim8or/mergekit-model_stock-ffibbcs — языковая модель для генерации текста и диалогов, созданная слиянием трёх моделей семейства Gemma 2 методом Model Stock с помощью mergekit. В состав вошли IlyaGusev/gemma-2-2b-it-abliterated, TheDrummer/Gemmasutra-Mini-2B-v1 и cognitivecomputations/dolphin-2.9.4-gemma2-2b; базовой моделью при слиянии указана IlyaGusev/gemma-2-2b-it-abliterated. Модель имеет плотную архитектуру Gemma2ForCausalLM, около 2,7 млрд параметров и контекст до 8192 токенов. Она предназначена для диалогового взаимодействия и генерации текста; в метаданных указана библиотека Transformers и формат весов Safetensors. Лицензия в предоставленных данных не указана.

mergekit-community/mergekit-slerp-eundxnq — языковая модель, созданная сообществом с помощью mergekit путём слияния Meta-Llama-3-8B и Meta-Llama-3-8B-Instruct методом SLERP. Это плотная модель семейства Llama с архитектурой LlamaForCausalLM, примерно 7,5 млрд параметров и контекстом до 8192 токенов. Она предназначена для генерации текста и диалоговых ответов. Слияние базовой и инструкционной версий Llama 3 объединяет возможности продолжения текста и следования инструкциям. Модель принимает текст и выдаёт текст; метаданные отмечают поддержку чата. README не приводит отдельные результаты оценки качества или сведения о поддерживаемых языках, поэтому эти характеристики нельзя уточнить. Для использования действуют условия лицензии базовых моделей Meta-Llama-3.

Это объединённая языковая модель на архитектуре Mistral, созданная сообществом mergekit-community методом SLERP из NousResearch/Hermes-2-Pro-Mistral-7B и jan-hq/stealth-v1.3. Модель содержит 7,1 млрд параметров и рассчитана на генерацию текста в диалоговом формате; для работы с ней указана библиотека Transformers. Модель подходит для диалогов и генерации ответов на текстовые запросы. Контекстное окно составляет 32 768 токенов. В конфигурации слияния указана точность bfloat16; README описывает V-образное распределение коэффициента слияния, при котором вклад Hermes преобладает на входе и выходе, а промежуточные слои смешиваются иначе. Условия лицензии в предоставленных данных не указаны.

vikasaarna/mistral-7b-instruct-rigtuned-v0.1 — дообученная автором vikasaarna чат-модель на основе unsloth/mistral-7b-instruct-v0.3-bnb-4bit. Она использует плотную архитектуру MistralForCausalLM с 7,1 млрд параметров и предназначена для генерации текста в диалогах и других сценариях, где требуется продолжить текстовый запрос. Модель принимает текст и генерирует текст; заявленная длина контекста составляет 32 768 токенов. Карточка указывает английский язык. Модель обучалась с использованием Unsloth и библиотеки TRL от Hugging Face. Репозиторий распространяется по лицензии Apache-2.0.

mistral-7b-slimorcaboros-Mistral-7B-Instruct-v0.1 — чат-модель, созданная MaziyarPanahi слиянием Mistral-7B-Instruct-v0.1 и mistral-7b-slimorcaboros методом SLERP. Это плотная авторегрессионная модель Mistral с 7,1 млрд параметров, предназначенная для генерации текста и ответов на инструкции в диалоговом формате. Модель поддерживает контекст длиной до 32 768 токенов и рассчитана на англоязычные запросы. Её можно использовать для диалогов, ответов на вопросы и выполнения текстовых инструкций. Весовые файлы опубликованы в формате Safetensors. Модель распространяется по лицензии Apache-2.0. Качество и поведение унаследованы от объединённых моделей; карточка не приводит результатов оценки этой конкретной версии.

MistralDpoPearl-7b-slerp — слитая языковая модель на архитектуре Mistral, созданная с помощью LazyMergekit объединением louisbrulenaudet/Pearl-7B-slerp и NousResearch/Nous-Hermes-2-Mistral-7B-DPO методом SLERP. Модель содержит 7,1 млрд параметров и предназначена для генерации текста, включая диалоговые сценарии и ответы на инструкции. Модель принимает текст и генерирует текст; заявленная длина контекста — 32 768 токенов. Репозиторий содержит веса в формате Safetensors, объединённые в bf16. Лицензия — Apache-2.0. Карточка не приводит оценки качества или подробные сведения о языковом покрытии, поэтому пригодность для конкретного языка и специализированных задач следует оценивать отдельно.

cloudyu/Mixtral_7Bx5_MoE_30B_DPO — версия модели cloudyu/Mixtral_7Bx5_MoE_30B, дообученная методом Direct Preference Optimization (DPO). Это языковая модель семейства Mixtral с архитектурой MoE и классом MixtralForCausalLM; в метаданных указано 7,1 млрд параметров и контекст до 32 768 токенов. Модель предназначена для генерации текста и может использоваться в сценариях, где требуется получать ответы или продолжения по текстовому запросу. Репозиторий содержит веса в формате safetensors. Модель опубликована под лицензией MIT. Автор отмечает, что метрики не тестировались, поэтому качество и преимущества DPO-дообучения по карточке подтвердить нельзя.

symanto/mpnet-base-snli-mnli — англоязычная модель классификации текста на основе MPNet с механизмом cross-attention. Её разработчики дообучили mpnet-base на наборах SNLI и MNLI для классификации без примеров и с небольшим числом примеров. Модель подходит для отнесения текста к заданным категориям, когда размеченных обучающих данных мало или нет. В метаданных указаны 136,7 млн параметров и контекст до 514 токенов; доступны веса PyTorch и Safetensors. Лицензия в предоставленных данных не указана.

zelk12 выпустил объединённую модель Gemma 2, созданную из zelk12/recoilme-gemma-2-Ifable-9B-v0.1 и zelk12/recoilme-gemma-2-Gutenberg-Doppel-9B-v0.1 методом SLERP с помощью mergekit. Это плотная авторегрессионная языковая модель на 9 млрд параметров для генерации текста и диалоговых ответов; модель рассчитана на работу с контекстом до 8192 токенов. Модель подходит для общения в чате и генерации продолжений текста. В карточке указаны архитектура Gemma 2 и формат safetensors. Лицензия в предоставленных данных не указана, поэтому условия использования следует проверять в репозитории модели и у исходных моделей.

zelk12 выпустил разговорную языковую модель MT-Merge4-MU-gemma-2-MT3g4MT1g4-9B — объединение двух предварительно обученных моделей Gemma 2 с помощью SLERP и mergekit. Модель имеет плотную архитектуру Gemma2ForCausalLM и 9 млрд параметров; репозиторий содержит веса в формате safetensors. Она предназначена для генерации текста и ведения диалогов, принимает текст и выдаёт текст. Модель основана на zelk12/MT1-Gen4-gemma-2-9B и zelk12/MT3-Gen4-gemma-2-9B; в конфигурации для объединения указаны bfloat16 и параметр t=0.25. Максимальная длина контекста — 8192 токена. Лицензия в предоставленных данных не указана.

Trisert/nerde-14B — объединённая чат-модель на архитектуре Mistral, созданная автором репозитория с помощью mergekit методом SLERP из HuggingFaceH4/zephyr-7b-beta и Nexusflow/Starling-LM-7B-beta. Несмотря на название репозитория, в метаданных указан размер 7,1 млрд параметров. Модель предназначена для диалогов и генерации текста в ответ на запросы; её контекст составляет до 32 768 токенов. Модель распространяется в формате safetensors и рассчитана на работу через библиотеку Transformers. Метаданные и README не сообщают лицензию или результаты оценки качества, поэтому условия использования и сравнительную эффективность установить нельзя.

NeuralKybalion-7B-slerp-v2 — языковая модель, созданная объединением NousResearch/Hermes-2-Pro-Mistral-7B и Kukedlc/NeuralSirKrishna-7b методом slerp с помощью LazyMergekit. Это плотная архитектура MistralForCausalLM с 7,1 млрд параметров; веса представлены в формате safetensors, а контекст составляет до 32 768 токенов. Модель предназначена для генерации текста. Её можно использовать для диалоговых ответов, следования инструкциям и создания текстовых черновиков; эти сценарии соответствуют возможностям указанных базовых моделей. Карточка не сообщает результатов оценки качества или отдельных языковых ограничений. Лицензия в предоставленных данных не указана.

OpenBuddy-Falcon-40B-v16.1-4k — многоязычная чат-модель на архитектуре Falcon, разработанная проектом OpenBuddy для генерации ответов в диалоге. Она предназначена для общения и генерации текста на китайском, английском, французском, немецком, японском, корейском, итальянском и русском языках. Модель содержит 65 млрд параметров, использует архитектуру FalconForCausalLM и формат safetensors; нативная длина контекста — 2048 токенов. Доступна по лицензии Apache 2.0. Модель может выдавать ошибочную, вредную или оскорбительную информацию. Разработчики не рекомендуют применять её в ситуациях с высокими ставками, включая медицинские, финансовые и юридические решения, а также управление потенциально опасными системами.

Карточка модели google/pegasus-billsum на Hugging Face совпадает с карточкой google/pegasus-xsum, поэтому описание составлено по ней. google/pegasus-xsum — англоязычная модель Pegasus для генерации кратких пересказов, основанная на архитектуре кодировщика-декодировщика и разработанная Jingqing Zhang, Yao Zhao, Mohammad Saleh и Peter J. Liu; карточку поддерживает @sshleifer. Модель содержит 366,8 млн параметров, принимает текст и выдаёт текст. Её основная специализация — абстрактная суммаризация, в частности создание короткого пересказа по исходному тексту; в материалах карточки приведены результаты на XSum, CNN/DailyMail и других наборах данных. При предобучении использовались C4 и HugeNews, смешанные и стохастически выбранные предложения-заполнители, а также изменённый SentencePiece-токенизатор с поддержкой символа новой строки. Заявленная длина контекста — 512 токенов. Доступны веса в форматах PyTorch, TensorFlow и Flax. Карточка не сообщает об ограничениях помимо длины контекста. Лицензия в предоставленных данных не указана.

google/pegasus-large — англоязычная модель семейства PEGASUS, разработанная Jingqing Zhang, Yao Zhao, Mohammad Saleh и Peter J. Liu; репозиторий поддерживается @sshleifer. Она предназначена для абстрактивного суммирования текста. Архитектура — плотный encoder-decoder трансформер PegasusForConditionalGeneration с 366,8 млн параметров и контекстом до 1024 токенов. Вариант Mixed & Stochastic обучен на смеси C4 и HugeNews в течение 1,5 млн шагов. При предобучении случайно выбирались доля пропускаемых предложений в диапазоне 15–45% и важные предложения с шумом в оценках; токенизатор SentencePiece обновлён для кодирования символа новой строки. В README приведены результаты на нескольких датасетах суммирования, включая XSum, CNN/DailyMail и Newsroom. Модель подходит для создания кратких пересказов статей и других англоязычных текстов. Метаданные указывают доступность весов в форматах PyTorch, TensorFlow и Flax. Лицензия в предоставленных данных не указана, поэтому условия использования по ним определить нельзя.

Карточка модели google/pegasus-wikihow на Hugging Face совпадает с карточкой google/pegasus-xsum, поэтому описание составлено по ней. google/pegasus-xsum — англоязычная модель Pegasus для генерации кратких пересказов, основанная на архитектуре кодировщика-декодировщика и разработанная Jingqing Zhang, Yao Zhao, Mohammad Saleh и Peter J. Liu; карточку поддерживает @sshleifer. Модель содержит 366,8 млн параметров, принимает текст и выдаёт текст. Её основная специализация — абстрактная суммаризация, в частности создание короткого пересказа по исходному тексту; в материалах карточки приведены результаты на XSum, CNN/DailyMail и других наборах данных. При предобучении использовались C4 и HugeNews, смешанные и стохастически выбранные предложения-заполнители, а также изменённый SentencePiece-токенизатор с поддержкой символа новой строки. Заявленная длина контекста — 512 токенов. Доступны веса в форматах PyTorch, TensorFlow и Flax. Карточка не сообщает об ограничениях помимо длины контекста. Лицензия в предоставленных данных не указана.

recogna-nlp/ptt5-base-summ — дообученная модель PTT5 на архитектуре T5 для абстрактивного суммирования текстов на бразильском португальском языке. Модель разработана авторами Recogna NLP и предназначена для создания краткого связного пересказа исходного текста. Чекпойнт дообучен на наборе RecognaSumm. Он содержит 123,8 млн параметров, принимает текст с контекстом до 512 токенов и выдаёт текстовое резюме. В метаданных также указаны PyTorch и safetensors. Модель подходит для суммирования новостей, статей и других текстов на бразильском португальском. Лицензия — MIT. Ограничение длины контекста в 512 токенов может затруднить обработку длинных документов без предварительного разбиения.

AiCloser/Qwen2.5-32B-AGI — дообученная диалоговая языковая модель на архитектуре Qwen2.5, созданная на основе Qwen/Qwen2.5-32B-Instruct. Разработчик описывает её как первую донастройку Qwen2.5 32B для снижения чрезмерных отказов отвечать; для этого использованы наборы инструктивных и предпочтительных данных, включая датасеты с токсичным содержимым. Модель предназначена для диалога и генерации текста по инструкциям. Она содержит 32 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. В метаданных заявлены китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский языки. Распространяется в формате safetensors по лицензии Apache-2.0. Настройка на снижение отказов может приводить к ответам на запросы, которые базовая модель отклоняет; степень такого эффекта и качество модели для отдельных задач в карточке не измерены. Модель сохраняет ограничения базовой языковой модели, включая возможность ошибок и недостоверных утверждений.