III.4Клиентская поддержка и customer success

Sorawiz разработал Gemma-9B-Chat, разговорную языковую модель на архитектуре Gemma 2 с 9 млрд параметров. Она создана слиянием нескольких предварительно обученных моделей с помощью mergekit и метода TIES; базой слияния служила zelk12/MT-Gen6fix-gemma-2-9B. Модель рассчитана на диалоговую генерацию текста и использует шаблон Gemma Instruct. Модель подходит для создания ответов в чате и других сценариев генерации текста. Её родной контекст составляет 8192 токена. Доступны отдельные квантизированные версии GGUF, опубликованные другими пользователями; сам репозиторий содержит веса в формате safetensors. Лицензия в предоставленных данных не указана.

Geneva 12B GammaCorpus v2-10k — многоязычная чат-модель Ruben Roy, дообученная на Mistral Nemo Instruct 2407 с использованием набора GammaCorpus v2-10k, содержащего структурированные многоходовые диалоги. Она предназначена для генерации текста, общения по инструкциям и диалоговых сценариев; метаданные также указывают интерфейс вызова инструментов. Модель построена на архитектуре MistralForCausalLM с плотной архитектурой и насчитывает 12,1 млрд параметров. В README указаны 40 слоёв, SwiGLU и групповое скользящее внимание GQA. Модель заявлена для английского, французского, немецкого, испанского, итальянского, португальского, русского, китайского и японского языков. Метаданные указывают контекст до 1 024 000 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0. Автор предупреждает о возможной предвзятости ответов.

djuna/GSHT-GEMMAMA-16B — языковая модель на архитектуре Gemma 2, созданная объединением предварительно обученных моделей djuna/G2-GSHT и djuna/Gemma-2-gemmama-9b с помощью mergekit и метода passthrough. В конфигурации чередуются диапазоны слоёв двух исходных моделей; веса сохранены в формате safetensors.

Это 4-битная версия Hermes 3 на базе Llama 3.1 8B, преобразованная сообществом mlx-community из NousResearch/Hermes-3-Llama-3.1-8B в формат MLX с помощью mlx-lm 0.16.1. Модель представляет собой плотную авторегрессионную LlamaForCausalLM с примерно 7,5 млрд параметров и контекстом до 131 072 токенов. Она предназначена для диалоговой генерации текста и следования инструкциям; в метаданных также отмечены чат и function calling. Репозиторий ориентирован на запуск через mlx-lm. Карточка указывает английский язык и лицензию Llama 3. Использование 4-битного представления уменьшает требования к памяти, но может влиять на точность по сравнению с исходными весами.

HermesStar-OrcaWind-Synth-11B-Mistral-7B-Instruct-v0.2-slerp — диалоговая текстовая модель, созданная слиянием Mistral-7B-Instruct-v0.2 от Mistral AI и HermesStar-OrcaWind-Synth-11B методом SLERP. Модель построена на архитектуре Mistral с плотной причинной языковой сетью, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и ответов на инструкции в диалоговом режиме. Лицензия Apache-2.0 разрешает использование на её условиях.

Jackalope 7B — языковая модель OpenAccess AI Collective, дообученная на базе Mistral 7B. Это плотная авторегрессионная модель с 7,1 млрд параметров для генерации текста и многоходового диалога; README указывает контекст до 32 768 токенов. Модель обучали полным дообучением на подборке данных SlimOrca и других открытых наборах, включая PIPPA, материалы LDJnr, MetaMathQA и RiddleSense; для диалога используется шаблон ChatML. Модель подходит для чат-ботов, ответов на вопросы, следования инструкциям и генерации рассуждений и художественного текста. В README отмечено, что по оценкам HF Leaderboard она немного уступает MistralOrca, но рассчитана на более общее применение и поддерживает многоходовой чат. Репозиторий содержит веса PyTorch; лицензия — Apache-2.0.

inception42/jais-family-6p7b-chat — диалоговая версия двуязычной большой языковой модели Jais, созданной Inception Institute of Artificial Intelligence. Это дообученная для следования инструкциям модель с авторегрессионной decoder архитектурой; репозиторий содержит веса Safetensors, а для загрузки требуется пользовательский класс модели с параметром trust_remote_code=True. Размер модели по идентификатору — 6,7 млрд параметров. Модель предназначена для диалога и генерации текста на арабском и английском языках. Её можно использовать для создания чат-ассистентов, ответов на вопросы, суммаризации двуязычных документов и анализа тональности; также она подходит для дальнейшей адаптации под конкретные задачи. Модель оптимизирована для арабского языка и обладает сильными возможностями на английском. Она может выдавать неверные, вводящие в заблуждение или предвзятые ответы; качество на других языках и диалектах не гарантируется. Не следует полагаться на неё при принятии важных медицинских, юридических, финансовых или связанных с безопасностью решений без контроля человека. Лицензия — Apache 2.0.

J.O.S.I.E.3-Beta11-7B-slerp — объединённая чат-модель на архитектуре Mistral, созданная Goekdeniz Guelmez с помощью LazyMergekit на основе cognitivecomputations/dolphin-2.8-experiment26-7b и argilla/CapybaraHermes-2.5-Mistral-7B. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для диалогов и генерации текста. В карточке указаны английский, немецкий, испанский, французский, японский и китайский языки. Репозиторий предоставляет веса в формате safetensors; README также упоминает запуск GGUF-квантизации Q4_K_M через Ollama. Лицензия — Apache-2.0.

jul-decision-e5-small — дообученная командой jul компактная модель на базе multilingual-e5-small для типизированных решений по тексту: выбора категории (Choice), ответа «да/нет» (Noul) и выставления оценки (Score). В репозитории есть два варианта весов: векторная модель кодирует текст и варианты ответа отдельно для сравнения, а cross-модель обрабатывает вопрос и текст совместно. Архитектура — BERT, 124,3 млн параметров, контекст до 512 токенов; модель рассчитана на английский и французский языки. Для классификации Choice входы векторного варианта используют префикс `query: `; модель можно запускать в облегчённой сборке ONNX с 8-битной квантизацией, опубликованной отдельно. Модель подходит для классификации текстов по заданным вариантам, бинарных решений и оценивания без размеченных примеров, а также для тонкой настройки на конкретную задачу при наличии меток. В README приведены результаты на классификации, определении тональности и оскорбительного содержания, перефразировании и выводе. Указаны слабые места: оценка срочности, распознавание вежливых, но серьёзных жалоб, различение предложений с одинаковыми словами в разном порядке и ответы на вопросы, требующие знаний. Лицензия — Apache-2.0.

m8than/Llama-2-7b-chat-hf — копия модели Llama 2 7B Chat от Meta, размещённая на Hugging Face. Это авторегрессионная плотная Transformer-модель примерно с 6,6 млрд параметров, оптимизированная для диалогов и генерации текста. Она принимает текст и выдаёт текст; заявленная длина контекста — 4096 токенов. В карточке Meta указаны английский язык, обучение с учителем и дополнительное выравнивание с помощью RLHF. Модель подходит для диалоговых помощников, ответов на вопросы и создания текстовых продолжений. Возможны неточные или предвзятые ответы и небезопасные генерации. Репозиторий указывает лицензию Apache-2.0, однако исходная модель Llama 2 распространяется по лицензии Meta Llama 2 Community License; перед использованием следует учитывать условия лицензии исходных весов.

johnpaulbin дообучил эту разговорную языковую модель на базе unsloth/Meta-Llama-3.1-8B-Instruct-bnb-4bit с помощью Unsloth и библиотеки TRL. Это плотная модель семейства Llama с архитектурой LlamaForCausalLM и примерно 7,5 млрд параметров; она предназначена для генерации текста и диалогового взаимодействия. Контекстное окно составляет до 131 072 токенов, основной указанный язык — английский. Модель может использоваться для ведения диалога и генерации ответов на текстовые запросы. Репозиторий содержит веса в форматах PyTorch и Safetensors. Лицензия — Apache-2.0.

PlumChat — объединённая языковая модель от sequelbox на архитектуре Llama 3.1, созданная методом DARE/DELLA с помощью mergekit на основе meta-llama/Llama-3.1-8B-Instruct и моделей ValiantLabs/Llama3.1-8B-ShiningValiant2 и sequelbox/Llama3.1-8B-MOTH. Модель содержит 7,5 млрд параметров и поддерживает контекст до 131 072 токенов. Модель предназначена для диалогов, следования инструкциям и генерации текста. Её можно использовать для ответов на вопросы, ведения переписки и подготовки текстовых черновиков. Доступны веса в формате safetensors для библиотеки Transformers. Карточка приводит результаты Open LLM Leaderboard, включая среднее значение 13,13 и IFEval 42,43; оценки не гарантируют качество на конкретных задачах. Модель принимает текст и генерирует текст; данных о специально поддерживаемых языках в карточке нет. Унаследованные от Llama 3.1 ограничения и условия распространяются на эту производную модель; лицензия — llama3.1.

Llama-3.1-Minitron-4B-Chat — чат-модель на архитектуре Llama, созданная дообучением базовой модели NVIDIA nvidia/Llama-3.1-Minitron-4B-Width-Base. Разработчик провёл supervised fine-tuning на 64 тысячах пар «инструкция — ответ» из набора teknium/OpenHermes-2.5; модель содержит 3,9 млрд параметров и рассчитана на генерацию текста в диалоговом формате. Модель подходит для ответов на вопросы, выполнения инструкций и других текстовых диалоговых сценариев. Указанная длина контекста — 131 072 токена. Для использования автор рекомендует передавать запросы в формате чата с ролями system, user и assistant. В метаданных указана библиотека Transformers и формат весов safetensors; лицензия обозначена как other.

Карточка модели IntervitensInc/Llama-3.2-3B-chatml на Hugging Face совпадает с карточкой alpindale/Llama-3.2-3B, поэтому описание составлено по ней. alpindale/Llama-3.2-3B — текстовая модель семейства Llama 3.2, разработанного Meta. Это авторегрессионная плотная трансформерная модель с 3,2 млрд параметров и архитектурой LlamaForCausalLM; репозиторий содержит веса Safetensors для Transformers. Модель принимает и генерирует текст, поддерживает контекст до 131 072 токенов и рассчитана на многоязычную генерацию. Модель подходит для диалогового помощника, суммаризации, поиска знаний и приложений с агентными сценариями, а также для мобильных помощников по написанию текста и переформулирования запросов. В README описаны применение и возможности семейства Llama 3.2; отдельное дообучение alpindale/Llama-3.2-3B не подтверждено, поэтому характеристики поведения конкретного чекпойнта могут отличаться от описания семейства. Заявленные языки поддержки: английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Лицензия llama3.2 — пользовательская лицензия сообщества Meta с собственными условиями коммерческого использования и политикой допустимого использования. Модель обучена на статическом офлайн-наборе данных; как компактная модель, она может уступать более крупным системам по качеству и требует проверки безопасности и пригодности для конкретного применения.

MeliodasPercival_01_ShadowNeuralsirkrishna — объединённая модель для генерации текста на архитектуре Mistral с 7,1 млрд параметров. Она создана слиянием automerger/MeliodasPercival_01-7B и automerger/ShadowNeuralsirkrishna-7B и предназначена для генерации текста и диалогов. Модель принимает текст и выдаёт текст. Длина контекста составляет до 32 768 токенов; файлы весов представлены в формате safetensors. Модель опубликована под лицензией Apache-2.0.

MetaModel_moex8 — языковая модель с архитектурой Mixtral MoE, опубликованная Xenon1. Она создана с помощью mergekit на основе восьми моделей, включая SOLAR-10.7B-Instruct-v1.0 и SauerkrautLM-SOLAR-Instruct. Модель содержит 10,6 млрд параметров, принимает текст и генерирует текст; заявленный контекст — 4096 токенов. Модель предназначена для генерации текста и диалогового взаимодействия на нескольких языках. В метаданных перечислены английский, китайский, арабский, немецкий и французский; карточка также помечает модель как многоязычную. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

MiniCPM-MoE-8x2B — генеративная языковая модель от OpenBMB на архитектуре decoder-only Transformer с механизмом Mixture-of-Experts: в каждом слое восемь экспертов, из которых для каждого токена активируются два. Это версия после instruction tuning, без дополнительных методов RLHF; модель содержит 2,7 млрд параметров и рассчитана на контекст до 4096 токенов. Модель предназначена для диалогов и генерации текста по инструкциям. Её можно использовать для ответов на вопросы, написания и редактирования текстов, а также для классификации текста. Для запуска доступны Transformers и vLLM; веса представлены в формате PyTorch с точностью bfloat16. Модель генерирует ответы на основе обучающих текстов и не выражает личных мнений. Сгенерированную информацию следует проверять. Лицензия в предоставленных данных не указана.

MaziyarPanahi/Mistral-11B-Instruct-v0.2-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная слиянием Mistral-7B-Instruct-v0.2 от Mistral AI и Mistral-11B-Instruct-v0.2 от perlthoughts. Для объединения использован метод SLERP с настройками для слоёв self-attention и MLP. Модель построена на архитектуре MistralForCausalLM, содержит 7,1 млрд параметров и работает с контекстом до 32 768 токенов. Модель предназначена для генерации текста в диалоге и ответов на инструкции. Она принимает текст и выдаёт текст; доступные сведения не указывают на специализацию по отдельным языкам или предметным областям. Репозиторий содержит веса Safetensors. Лицензия — Apache-2.0.

MaziyarPanahi/Mistral-7B-claude-instruct-Mistral-7B-Instruct-v0.1 — объединённая чат-модель на основе Mistral-7B-Instruct-v0.1 и Norquinal/Mistral-7B-claude-instruct. Для слияния использован метод SLERP с настройками, различающимися для слоёв self-attention и MLP. Модель предназначена для генерации ответов на инструкции и диалоговые запросы. Модель использует плотную архитектуру MistralForCausalLM с 7,1 млрд параметров и контекстом до 32 768 токенов. Она принимает текст и генерирует текст; карточка не уточняет языки, на которых она рассчитана. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

mncai/mistral-7b-dpo-v5 — языковая модель MindsAndCompany на базе Mistral, прошедшая настройку для следования инструкциям и оптимизацию предпочтений методом DPO. Это плотная авторегрессионная модель с 7,1 млрд параметров, предназначенная для генерации текста и диалоговых сценариев; в примере карточки задан вопрос на корейском языке, однако метаданные указывают английский как язык карточки. Модель поддерживает контекст до 32 768 токенов. Её можно применять для ответов на вопросы, ведения диалога и создания текстовых функций для бизнес-продуктов, включая чат-боты и помощники. Репозиторий содержит веса в формате safetensors. Лицензия — Apache 2.0. Карточка не приводит результатов оценки качества или подробного описания ограничений.

Mistral-7B-KNUT-v0.2-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная слиянием Mistral-7B-Instruct-v0.2 и Mistral-7B-KNUT-v0.2 методом SLERP с помощью MergeKit. Модель построена на архитектуре Mistral с 7,1 млрд параметров и принимает текстовые запросы, чтобы генерировать ответы и следовать инструкциям в диалоговом формате. Модель подходит для чат-ботов, ответов на инструкции и генерации текста. Её контекст составляет до 32 768 токенов. Файлы модели представлены в формате safetensors; лицензия — Apache-2.0. В карточке не заявлены отдельные языки или специализированные области применения.

NickyNicky/Mistral-7B-OpenOrca-oasst_top1_2023-08-25-v2 — разговорная языковая модель на архитектуре Mistral, созданная на основе Open-Orca/Mistral-7B-OpenOrca. В карточке указано обучение на данных OpenAssistant/oasst_top1_2023-08-25; метаданные также связывают модель с Open-Orca/OpenOrca. Модель содержит 7,1 млрд параметров, использует плотную архитектуру MistralForCausalLM и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации текста в диалогах: она может отвечать на вопросы, поддерживать беседу и формулировать текстовые ответы. В карточке и метаданных перечислены болгарский, каталанский, чешский, датский, немецкий, английский, испанский, французский, хорватский, венгерский, итальянский, нидерландский, польский, португальский, румынский, русский, словенский, сербский, шведский и украинский языки. Лицензия — Apache-2.0. Оценки качества и подробные ограничения в доступных сведениях не приведены.

Gaivoronsky/Mistral-7B-Saiga — русскоязычная генеративная модель, опубликованная Gaivoronsky. Это плотная causal language model семейства Mistral на 7,1 млрд параметров, представленная в формате PyTorch fp16. Она основана на IlyaGusev/saiga_mistral_7b_lora и предназначена для генерации текста и диалоговых сценариев на русском языке. Модель подходит для русскоязычных ответов на вопросы, инструкций и общения в чат-ботах. Заявленная длина контекста — 32 768 токенов. Модель распространяется по лицензии CC BY 4.0; README описывает запуск через vLLM.

MaziyarPanahi/mistral-7b-v0.1-layla-v1-Mistral-7B-Instruct-v0.2-slerp — диалоговая текстовая модель, полученная слиянием Mistral-7B-Instruct-v0.2 и Layla v1 методом SLERP с помощью MergeKit. Она предназначена для генерации текста и ответов на инструкции в чат-сценариях. Модель использует плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель принимает текст и генерирует текст. Карточка не сообщает о специализации на отдельных языках или предметных областях. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0.

MaziyarPanahi/mistral-ft-optimized-1218-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная объединением Mistral-7B-Instruct-v0.2 и mistral-ft-optimized-1218 методом SLERP. Модель использует плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и принимает текстовые запросы для генерации ответов и диалога. Модель предназначена для следования инструкциям, общения и генерации текста. Она поддерживает контекст до 32 768 токенов и распространяется по лицензии Apache-2.0. В карточке не приведены сведения о специальных языковых возможностях или оценках качества.

Mixtral-8x7B-Instruct-v0.1 — инструктивная языковая модель Mistral AI на архитектуре Mixtral с разреженной смесью экспертов (MoE). Это дообученная версия Mixtral-8x7B-v0.1 для диалогов и генерации ответов по запросу. Модель принимает текст и выдаёт текст; в карточке заявлен контекст до 32 768 токенов. Для запуска README показывает токенизатор mistral-common и библиотеку mistralinference, а метаданные также указывают поддержку vLLM. Модель подходит для чат-ботов, ответов на вопросы и генерации текста по инструкциям. В карточке она названа демонстрацией возможностей дообучения базовой модели. Указанные языки — английский, французский, итальянский, немецкий и испанский; специализация на каком-либо одном языке не заявлена. README предупреждает, что встроенных механизмов модерации нет. Лицензия — Apache-2.0.

Vortex5/Moonlit-Shadow-12B — языковая модель, собранная автором репозитория методом Model Stock с помощью mergekit на основе mistralai/Mistral-Nemo-Instruct-2407 и десяти других моделей семейства Mistral-Nemo. Модель имеет плотную архитектуру MistralForCausalLM, содержит 12,1 млрд параметров и рассчитана на контекст до 131 072 токенов. Модель предназначена для диалогов и генерации текста по запросам. Её можно использовать для составления текстов, ответов в чате и продолжения пользовательских запросов. В карточке указаны библиотека Transformers и формат весов safetensors. Лицензия в доступных данных не указана.

zelk12/MT1-Gen4-BB-gemma-2-MTg2MTMM2MU-9B — объединённая языковая модель на базе Gemma 2, опубликованная zelk12. Веса двух предварительно обученных моделей объединены методом SLERP с помощью mergekit; размер модели составляет 9 млрд параметров, архитектура — плотная Gemma 2 для причинной генерации текста. Модель предназначена для генерации текста и диалогового общения, принимает текст и выдаёт текст. Контекстное окно — 8192 токена. Модель доступна в формате safetensors; README также описывает статические квантизованные сборки GGUF от @mradermacher. Метаданные указывают библиотеку Transformers. В карточке не приведены специальные доменные назначения или ограничения на использование. Лицензия в предоставленных данных не указана.

zelk12/MT1-Max-Merge_02012025163610-gemma-2-9B — объединённая языковая модель Gemma 2, созданная автором репозитория с помощью mergekit методом SLERP из двух моделей: zelk12/MT1-Max-Merge_02012025163610-MAB-gemma-2-9B и zelk12/MT1-Max-Merge_02012025163610-GMMMUI-gemma-2-9B. Модель с архитектурой Gemma2ForCausalLM и 9 млрд параметров предназначена для генерации текста и диалогового общения; принимает текст и выдаёт текст. Контекст — до 8192 токенов. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Язык модели отдельно не заявлен. Модель распространяется по лицензии Gemma.

mjwong выпустил дообученную на наборах XNLI и ANLI модель на базе multilingual-e5-large-instruct для многоязычной классификации без примеров. Она использует архитектуру XLM-RoBERTa с примерно 658,7 млн параметров и доступна в форматах PyTorch и Safetensors. Модель принимает текст и заданные пользователем названия классов, а затем оценивает принадлежность текста к этим классам; её также можно применять для задач определения отношений между посылкой и гипотезой (NLI). Окно контекста составляет 514 токенов. В README приведены результаты оценки на XNLI для 15 языков, а также на MultiNLI и ANLI. Лицензия CC-BY-NC-4.0 ограничивает использование условиями этой лицензии, включая некоммерческий характер. Качество зависит от формулировок текста и меток классов; приведённые результаты относятся к указанным тестовым наборам и не гарантируют качество на других данных.