III.1Стратегия, продукт и бизнес-модели

Timer-S1 — модель временных рядов общего назначения, разработанная командой THUML. Она предназначена для прогнозирования временных рядов без дообучения на конкретном наборе данных, в том числе с выдачей прогнозов на разных квантильных уровнях. Модель построена на декодерном Transformer с архитектурой Mixture-of-Experts (MoE). В карточке указаны 8,3 млрд параметров, из которых 0,75 млрд активируются на токен; метаданные каталога указывают 402,7 млн параметров. Максимальная длина контекста — 11 520 шагов по README и 12 800 токенов по метаданным. Метод TimeSTP использует последовательные вычисления для многошагового прогнозирования. Модель особенно ориентирована на среднесрочные и долгосрочные прогнозы; авторы также сообщают об улучшениях краткосрочного и длинноконтекстного прогнозирования после дополнительного обучения. Для запуска поддерживаются CPU и GPU; для GPU авторы рекомендуют не менее 40 ГБ видеопамяти. Модель доступна под лицензией Apache-2.0. Прогнозы могут быть менее надёжны вне распределений и сценариев, представленных в данных предобучения; в карточке результаты качества описаны авторами, поэтому их следует проверять на целевых рядах.

Versatile-7B — объединённая языковая чат-модель на архитектуре Mistral, опубликованная Syed-Hasan-8503. Она предназначена для диалогов и генерации текста. Веса объединены методом DARE TIES из MTSAIR/multi_verse_model и MaziyarPanahi/Calme-7B-Instruct-v0.3; модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель принимает текст и выдаёт текст. В каталоге она указана как англоязычная, поэтому подходит для англоязычного общения и генерации. Репозиторий использует формат safetensors и библиотеку Transformers. Лицензия — Apache-2.0. Данные карточки не описывают отдельные оценки качества или ограничения применения.

WizardLM-2-8x22B-Beige — объединённая диалоговая языковая модель, созданная с помощью mergekit на основе alpindale/WizardLM-2-8x22B и моделей Eurux, Tess и Mixtral Instruct. Слияние выполнено методом Model Stock в формате bfloat16. Модель предназначена для генерации текста в диалоге; её автор стремился сделать стиль ответов WizardLM-2-8x22B менее многословным и образным. Модель использует архитектуру Mixtral MoE и содержит 22 млрд параметров, поддерживает контекст до 65 536 токенов. Подходит для диалоговых ответов и генерации текста на основе запросов. Карточка не уточняет языковой охват и не приводит оценок качества. Распространяется в формате safetensors; сведения о лицензии в предоставленных данных отсутствуют.

heegyu/WizardVicuna2-13b-hf — языковая модель для генерации текста, созданная дообучением Llama 2 13B на наборе ehartford/wizard_vicuna_70k_unfiltered в течение трёх эпох. Она предназначена для диалогов с ассистентом и ответов на инструкции в текстовом формате. Модель построена на плотной авторегрессионной архитектуре Transformer семейства Llama и содержит 12,9 млрд параметров; контекст — до 4096 токенов. Модель рассчитана прежде всего на английский язык. Она может помогать в диалогах и генерировать ответы на запросы, но, как и другие LLM, может выдавать неточную, предвзятую или нежелательную информацию. Лицензия Meta для Llama 2 требует принятия условий перед получением весов и допускает коммерческое использование в рамках этих условий.

Xwin-LM-13B-V0.2 — диалоговая большая языковая модель проекта Xwin-LM, выпущенная в октябре 2023 года. Это плотная авторегрессионная модель семейства Llama с 12,9 млрд параметров, построенная на базе Llama 2 и дообученная для выравнивания ответов. Модель принимает текст и генерирует текст; длина контекста составляет 4096 токенов. Поддерживает многоходовые диалоги в шаблоне, совместимом с Vicuna. Модель предназначена для ответов на вопросы и выполнения пользовательских инструкций в диалоге. В README сообщается об использовании SFT и обучения с подкреплением на основе отзывов людей; версия V0.2 включает улучшенные сравнительные данные и обучение PPO. Проект приводит результаты оценивания на AlpacaEval, однако они не гарантируют качество для конкретных запросов. Для инференса заявлена совместимость с vLLM. Репозиторий содержит веса PyTorch и распространяется по лицензии Llama 2. Модель ориентирована на английский язык в приведённых примерах; README не подтверждает широкий охват других языков. В карточке проекта также указано, что математические и рассуждательные возможности планировалось развивать, поэтому её не следует считать специализированной моделью для таких задач.

Карточка модели Xwin-LM/Xwin-LM-7B-V0.2 на Hugging Face совпадает с карточкой Xwin-LM/Xwin-LM-13B-V0.2, поэтому описание составлено по ней. Xwin-LM-13B-V0.2 — диалоговая большая языковая модель проекта Xwin-LM, выпущенная в октябре 2023 года. Это плотная авторегрессионная модель семейства Llama с 12,9 млрд параметров, построенная на базе Llama 2 и дообученная для выравнивания ответов. Модель принимает текст и генерирует текст; длина контекста составляет 4096 токенов. Поддерживает многоходовые диалоги в шаблоне, совместимом с Vicuna. Модель предназначена для ответов на вопросы и выполнения пользовательских инструкций в диалоге. В README сообщается об использовании SFT и обучения с подкреплением на основе отзывов людей; версия V0.2 включает улучшенные сравнительные данные и обучение PPO. Проект приводит результаты оценивания на AlpacaEval, однако они не гарантируют качество для конкретных запросов. Для инференса заявлена совместимость с vLLM. Репозиторий содержит веса PyTorch и распространяется по лицензии Llama 2. Модель ориентирована на английский язык в приведённых примерах; README не подтверждает широкий охват других языков. В карточке проекта также указано, что математические и рассуждательные возможности планировалось развивать, поэтому её не следует считать специализированной моделью для таких задач.

zephyr-7b-spin-iter1-v0 — диалоговая языковая модель Argilla, дообученная на базе argilla/zephyr-7b-spin-iter0-v0. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов; репозиторий содержит веса в формате safetensors. Модель предназначена для генерации текста в диалоге и продолжает серию SPIN: в README приведены результаты оценки, включая средний балл MT-Bench 6,603125. Модель поддерживает текстовый ввод и выдаёт текст. Она распространяется по лицензии Apache 2.0. README не описывает конкретные сценарии применения или ограничения качества, поэтому приведённые результаты оценки не следует трактовать как гарантию для всех задач.

zephyr-beta-Nebula-v2-7B — объединённая разговорная языковая модель на 7,1 млрд параметров, созданная на основе HuggingFaceH4/zephyr-7b-beta и адаптера PulsarAI/Nebula-v2-7B-Lora. Она использует плотную архитектуру Mistral и предназначена для генерации текста в диалоге; заявленная длина контекста — 32 768 токенов. В карточке указан набор данных Open-Platypus, а среди тегов — английский язык. Модель распространяется в формате safetensors по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование. README содержит заголовок с результатами оценки, но значения метрик не заполнены.

Alchemist_03_2b — объединённая языковая модель семейства Gemma, опубликованная пользователем Sumail. Она создана с помощью mergekit и метода dare_ties на основе нескольких моделей, включая Aspik101/minigemma_ft9, zzttbrdd/sn6_20_new, deepnetguy/gemma-64 и rwh/gemma1. Модель предназначена для генерации текста и диалогового общения. Модель имеет плотную архитектуру GemmaForCausalLM, содержит 2,5 млрд параметров и поддерживает контекст до 8192 токенов. В репозитории представлены веса Safetensors; лицензия — Apache-2.0. Карточка не сообщает, какие естественные языки модель поддерживает.

mrcuddle/Bagel-Hermes-Lumimaid-Llama3-8B — объединённая разговорная языковая модель на архитектуре Llama, созданная автором репозитория с помощью mergekit методом SLERP из NeverSleep/Lumimaid-v0.2-8B и mrcuddle/Bagel-Hermes-2-Pro-Llama3-8B. В метаданных указано 7,5 млрд параметров и контекст до 131 072 токенов; модель распространяется в формате safetensors и рассчитана на генерацию текста и диалоговые сценарии. Модель можно применять для общения с ассистентом, творческого письма и ролевых диалогов — эти назначения отражены в описании базовой модели. Метаданные также отмечают интерфейс вызова инструментов. Данные о конкретных языках, поддерживаемых этим объединением, в предоставленной карточке не приведены. Лицензия не указана в предоставленных данных.

BLOOMChat-v2 — мультиязычная диалоговая языковая модель, разработанная SambaNova Systems. Это плотная авторегрессионная модель семейства BLOOM с архитектурой BloomForCausalLM; README указывает 176 млрд параметров, а метаданные репозитория — 233,8 млрд. Модель дообучена на длинных мультиязычных последовательностях и наборах диалогов в формате помощника, включая OIG, Dolly 2.0 и OASST1. Модель предназначена для диалогов, ответов на вопросы и генерации ответов на нескольких языках; в карточке приведены примеры для арабского, китайского, французского, хинди и испанского языков. Репозиторий содержит веса PyTorch и использует библиотеку Transformers. Лицензия BLOOMChat-176B License v1.0 основана на изменённой Apache 2.0 с ограничениями на отдельные виды использования, унаследованными от лицензии BLOOM RAIL. Модель может галлюцинировать, повторяться и переключаться между языками или диалектами. Её точность в программировании и сложной математике ограничена; возможна генерация токсичного или вредного текста. Авторы не рекомендуют применять её в критически важных сценариях, связанных с безопасностью людей, принятием важных решений или автоматизированными конвейерами.

braza-embedding-ptbr-v1 — модель текстовых эмбеддингов, разработанная TAMZ и дообученная на базе ibm-granite/granite-embedding-97m-multilingual-r2. Она использует архитектуру ModernBERT и содержит 97,4 млн параметров. Модель рассчитана прежде всего на бразильский вариант португальского языка и корпоративную лексику: описания компаний, отрасли, географию, размер бизнеса и запросы покупателей и специалистов по продажам. Максимальная длина контекста — 8192 токена. Модель подходит для семантического поиска по данным о компаниях и деловым документам, сопоставления компаний с запросами, кластеризации и поиска дубликатов, а также для построения RAG-систем на португальском языке. В README приведены результаты MTEB для португальского языка: улучшение относительно базовой модели на ASSIN2 и SICK-BR, а также по взвешенной основной оценке. Лицензия — Apache-2.0.

Nitral-AI/Captain-Eris_Violet-GRPO-v0.420 — разговорная текстовая модель, опубликованная Nitral-AI. Это плотная причинная языковая модель семейства Mistral с архитектурой MistralForCausalLM и 12,1 млрд параметров. Она предназначена для генерации текста в диалоговом формате; заявленная длина контекста — до 1 024 000 токенов. Модель получена слиянием методом SLERP двух чекпойнтов: Nitral-AI/Captain-Eris_Violet-0.420-Rebased и Nitral-AI/Captain-Eris_Violet-GRPO-Rebased. В конфигурации слияния указана точность bfloat16; веса опубликованы в формате safetensors. Карточка не описывает отдельные специализированные области применения или результаты оценки качества. В метаданных указан английский язык и лицензия «other», без конкретизации условий. Перед использованием следует проверить условия лицензии на странице репозитория. Модель принимает текст и генерирует текст; сведения в карточке не подтверждают поддержку изображений, аудио или других модальностей.

CapybaraHermes-2.5-Mistral-7B — англоязычная чат-модель Argilla на архитектуре Mistral, содержащая 7,1 млрд параметров. Она дообучена с помощью LoRA и TRL на базе teknium/OpenHermes-2.5-Mistral-7B методом DPO: использована смесь предпочтений argilla/dpo-mix-7k, обучение длилось три эпохи. Модель предназначена для диалогов и генерации ответов на английском языке, включая многоходовое общение. В карточке приведены результаты MTBench и нескольких бенчмарков; авторы отмечают улучшение оценки на втором ходе MTBench относительно базовой OpenHermes-2.5-Mistral-7B. Это сравнительные результаты конкретных оценок, а не гарантия качества для любого сценария. Контекст модели — до 32 768 токенов, веса опубликованы в формате Safetensors. Лицензия — Apache-2.0.

Карточка модели vasimakram01/dawah_llama2_working_repo на Hugging Face совпадает с карточкой NousResearch/Llama-2-7b-chat-hf, поэтому описание составлено по ней. NousResearch/Llama-2-7b-chat-hf — диалоговая языковая модель семейства Llama 2, разработанного Meta и опубликованная в формате Hugging Face Transformers. Это плотный авторегрессионный трансформер с 6,6 млрд параметров; веса представлены в форматах PyTorch и Safetensors. Модель принимает текст и генерирует текст, а её контекст составляет 4096 токенов. Модель дообучена с помощью supervised fine-tuning и обучения с подкреплением по человеческим отзывам для диалогов в формате помощника. Она предназначена для ответов на вопросы, ведения диалога и генерации текста на английском языке. Для ожидаемого поведения нужно соблюдать форматирование Llama 2 Chat с соответствующими маркерами инструкций и токенами. Модель может выдавать неточные, предвзятые или нежелательные ответы, а проведённые оценки не охватывают все возможные сценарии. Данные предобучения имеют срез до сентября 2022 года. Использование регулируется собственной лицензией Meta для Llama 2; для получения весов требуется принять её условия.

dhbacmes-3b-slerp — языковая модель, созданная Liminerity с помощью объединения моделей mergekit методом SLERP. В объединение вошли liminerity/herbaccbaccules-3b-slerp и KnutJaegersberg/Deita-2b; конфигурация использует слои 0–39 обеих моделей и формат float16. Архитектура — плотная Llama для генерации текста, размер — 2,7 млрд параметров, длина контекста — 2048 токенов. Модель предназначена для диалогов и генерации текста. В карточке приведены результаты Open LLM Leaderboard, включая оценки AI2 Reasoning Challenge и HellaSwag. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0.

DoubleLlama3-8b-slerp — диалоговая языковая модель для генерации текста, созданная слиянием двух экземпляров Meta-Llama-3-8B-Instruct методом slerp с помощью LazyMergekit. Она предназначена для чата и формирования ассистентских ответов. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров и поддерживает контекст до 8192 токенов. Модель принимает текст и выдаёт текст. В метаданных указана поддержка английского языка. Файлы опубликованы в формате safetensors. Лицензия в предоставленных сведениях не указана.

ECE-TW3-JRGL-V5 — текстовая генеративная модель на архитектуре Llama, созданная путём слияния моделей с помощью mergekit. В README указаны источники слияния: moreh/MoMo-72B-lora-1.8.7-DPO и ibivibiv/alpaca-dragon-72b-v1; объём модели составляет 71 млрд параметров, контекст — до 32 768 токенов. Модель предназначена для генерации текста по текстовому запросу и диалоговых сценариев. Она распространяется в формате safetensors по лицензии Apache-2.0. Карточка не приводит отдельной оценки качества или подробных сведений о специализации модели.

Eurydice 24b v3.5 — диалоговая причинно-следственная языковая модель от Aixon Lab, основанная на архитектуре Mistral и дообученная на пользовательском наборе данных. В метаданных указано 23,4 млрд параметров, контекст до 131 072 токенов и формат весов safetensors. Модель предназначена для многосторонних диалогов, генерации текста, ответов на вопросы, анализа и творческого письма, включая рассказывание историй. Разработчик отмечает понимание контекста, творческие ответы и естественный разговор; основной язык — английский. Лицензия — Apache 2.0. Качество не подтверждено опубликованными метриками оценки. Модель может наследовать смещения из обучающих данных, поэтому её ответы следует критически проверять.

MaziyarPanahi/Experiment28M7_Strangemerges_32Experiment28 — текстовая генеративная модель на архитектуре Mistral, созданная слиянием automerger/Experiment28M7-7B и automerger/Strangemerges_32Experiment28-7B. Она предназначена для генерации текста по запросу и диалогового использования. Модель содержит 7,1 млрд параметров, поддерживает контекст до 32 768 токенов и распространяется в формате Safetensors. В карточке указана лицензия Apache-2.0. README не описывает специализацию или подтверждённые языки модели.

Hematoma-Gemma-Model-Stock-9B — диалоговая языковая модель на архитектуре Gemma 2, созданная методом слияния Model Stock с помощью mergekit. В качестве базовой модели использована UCLA-AGI/Gemma-2-9B-It-SPPO-Iter3; в слияние также вошли BAAI/Gemma2-9B-IT-Simpo-Infinity-Preference, princeton-nlp/gemma-2-9b-it-SimPO и wzhouad/gemma-2-9b-it-WPO-HB. Модель содержит 9 млрд параметров, работает с текстом и предназначена для генерации ответов в диалоге. Максимальная длина контекста — 8192 токена. Репозиторий использует формат safetensors и библиотеку Transformers. Лицензия в предоставленных данных не указана.

Ice0.32-10.11-RP — текстовая генеративная модель на архитектуре Mistral, созданная с помощью mergekit объединением предварительно обученных моделей методом SLERP. В README указаны Ice0.31-08.11-RP и Ice0.15-06.11-RP-orpo; каталожные метаданные также отмечают Ice0.31-08.11-RP как базовую модель. Модель содержит 7,1 млрд параметров, использует формат safetensors и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогового общения. Она может применяться для ответов на вопросы, ведения беседы и составления текстов на основе пользовательского запроса. README не сообщает целевые языки или специализированные области применения. Модель распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование. В карточке нет результатов оценки качества или подробных сведений об ограничениях ответов; поведение унаследовано от объединённых моделей.

Iridium-72B-v0.1 — языковая модель на 71,5 млрд параметров, созданная автором leafspark слиянием Qwen2-72B-Instruct, calme2.1-72b и magnum-72b-v1 с помощью model_stock. Модель использует плотную архитектуру Qwen2 для генерации текста и диалогов; доступна в формате safetensors для Transformers. В README указан контекст до 128 тысяч токенов, тогда как метаданные каталога указывают native context в 32 768 токенов. Модель предназначена для диалоговых ответов и генерации связного текста, сочетая, по описанию автора, стиль прозы Magnum с возможностями Calme. Поддерживаемые языки по карточке — английский и китайский. Для запуска автор указывает потребность примерно в 140 ГБ VRAM или RAM и не менее 135 ГБ свободного места. Лицензия обозначена как other, поэтому условия использования следует сверить с карточкой модели и лицензиями исходных моделей.

aurazboev/ISAllama-3.1-8b-tuned — разговорная языковая модель семейства Llama, дообученная разработчиком aurazboev на базе unsloth/meta-llama-3.1-8b-bnb-4bit с использованием Unsloth и библиотеки TRL. Модель предназначена для генерации текста и диалоговых сценариев. Архитектура — плотная авторегрессионная LlamaForCausalLM, размер — 7,5 млрд параметров, контекст — до 131 072 токенов; модель принимает текст и выдаёт текст. В метаданных указан английский язык. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Карточка не описывает специализацию дообучения, данные обучения, результаты оценивания или конкретные ограничения, поэтому качество для отдельных задач требует самостоятельной проверки.

KR-X-AI разработала эту разговорную языковую модель на базе Qwen2-7B-Instruct. Это плотная авторегрессионная модель с 7,1 млрд параметров для генерации текста и диалогов; заявленное окно контекста составляет 32 768 токенов. Модель дообучена от unsloth/qwen2-7b-instruct-bnb-4bit с использованием Unsloth и библиотеки TRL. Модель предназначена для чат-сценариев и генерации ответов на текстовые запросы. В метаданных указан английский язык. Репозиторий содержит веса в формате Safetensors. Лицензия — Apache-2.0.

MaziyarPanahi/Llama-3-8B-Instruct-DPO-v0.1 — диалоговая языковая модель, созданная MaziyarPanahi дообучением Meta-Llama-3-8B-Instruct методом DPO. Она предназначена для генерации ответов в диалоге и других текстовых задач. Модель использует архитектуру LlamaForCausalLM с плотной сетью, содержит 7,5 млрд параметров и принимает шаблон ChatML. Контекст составляет 8192 токена; в карточке указан английский язык. Модель распространяется в формате safetensors для использования с библиотекой Transformers. Лицензия указана как other; условия её использования следует сверять с карточкой модели и базовой модели.

VictorDCh/Llama-3-8B-Instruct-MoE-2 — разговорная языковая модель на архитектуре Mixture of Experts (MoE), созданная из meta-llama/Meta-Llama-3-8B-Instruct. В конфигурации указаны два эксперта на токен, сформированные из одной базовой модели и ориентированные на разные типы вопросов, включая сравнения, вопросы с вопросительными словами и количественные рассуждения. Модель предназначена для генерации текста в диалоговом формате и ответов на запросы. Она содержит 7,5 млрд параметров, рассчитана на контекст до 8192 токенов и представлена в формате safetensors для библиотеки Transformers. README не содержит сведений о разработчике, лицензии или оценке качества, поэтому условия распространения и сравнительные преимущества по имеющимся данным определить нельзя.

Llama-3-DARE-8B — диалоговая языковая модель на архитектуре Llama, созданная Mlabonne с помощью LazyMergekit. Веса получены слиянием Meta-Llama-3-8B и Meta-Llama-3-8B-Instruct методом DARE-TIES; конфигурация использует маску int8 и формат bfloat16. В репозитории заявлено 7,5 млрд параметров, контекст — 8192 токена. Модель предназначена для диалоговой генерации текста: она принимает текстовые запросы и формирует текстовые ответы. Карточка указывает на английскую основу Meta-Llama-3-8B-Instruct, поэтому модель подходит для англоязычного общения и генерации текста. Лицензия в метаданных обозначена как other; конкретные условия следует сверять с лицензией базовой модели и репозитория.

LLMLingua-2-Bert-base-Multilingual-Cased-MeetingBank — модель Microsoft на базе BERT multilingual base cased, дообученная для токенной классификации и сжатия промптов без привязки к конкретной задаче. Она оценивает вероятность сохранения каждого токена и помогает сокращать текст, сохраняя важную для задачи информацию. Модель обучена на данных, подготовленных по методике LLMLingua-2, с примерами из MeetingBank. Модель рассчитана на сжатие текстовых промптов и стенограмм встреч; сжатый текст можно использовать, например, для ответов на вопросы и суммаризации. Архитектура — BertForTokenClassification, размер — 205,1 млн параметров, контекст — до 512 токенов. Указана лицензия Apache-2.0.

Magnum-v2-123b — диалоговая языковая модель Anthracite, шестая версия в серии моделей, настроенных на воспроизведение качества прозы Claude 3 Sonnet и Opus. Это полноразмерное дообучение Mistral Large Instruct 2407 с архитектурой MistralForCausalLM и 122,2 млрд параметров; модель распространяется в формате Safetensors и рассчитана на контекст до 131 072 токенов. Модель предназначена для генерации диалоговых ответов и связного текста, в том числе для творческого письма. Она использует формат инструкций Mistral и обучалась на данных Stheno, Kalo Opus Instruct и наборах Anthracite для письма и ответов без отказов. В карточке заявлена поддержка английского, французского, немецкого, испанского, итальянского, португальского, русского, китайского и японского языков. Модель может быть полезна для написания прозы и ведения диалогов; качество отдельных задач и языков в README не оценивается. Лицензия указана как «other», поэтому перед использованием следует проверить условия на странице модели Hugging Face.