III.2Исследование рынка и маркетинг

TrendyolMixLLM_v1.1 — объединённая языковая модель, созданная Trendyol из Trendyol-LLM-7b-chat-v1.0 и Trendyol-LLM-7b-chat-v0.1 с помощью mergekit. Это плотная причинно-языковая модель семейства Mistral на 8,9 млрд параметров, предназначенная для генерации текста в формате диалога. Она принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов и распространяется в формате Safetensors. Модель подходит для диалоговых приложений и генерации ответов на текстовые запросы. Карточка не описывает отдельную специализацию или языковой охват, поэтому такие характеристики не уточняются. Лицензия — Apache 2.0.

TurdusTrixBeagle-DARETIES-7B — текстовая авторегрессионная модель на архитектуре Mistral, созданная слиянием udkai/Turdus, CultriX/MergeTrix-7B-v2 и mlabonne/NeuralBeagle14-7B методом DARE-TIES с помощью LazyMergekit. В конфигурации указан Mistral-7B-v0.1 как базовая модель; размер итоговой модели — 7,1 млрд параметров, контекст — до 32 768 токенов. Модель предназначена для генерации текста, диалогов и ответов на инструкции, а также для задач рассуждения и творческого письма. В README приведены результаты Open LLM Leaderboard: средняя оценка 75,20, включая 73,46 на AI2 Reasoning Challenge и 88,61 на HellaSwag. Модель распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование. Языки и специализированные прикладные области в доступных материалах не обозначены.

Vapor_7B — дообученная разговорная модель семейства Qwen2.5, созданная на основе Qwen/Qwen2.5-7B. Она предназначена для генерации текста в диалоге и поддерживает контекст до 131 072 токенов. Модель содержит 7,1 млрд параметров, использует архитектуру Qwen2 и формат safetensors. Модель можно применять для ведения диалогов и генерации текста на нескольких языках, включая русский, английский, китайский, французский, испанский, португальский, немецкий, итальянский, японский, корейский, вьетнамский, тайский и арабский. Она распространяется по лицензии Apache-2.0. README не содержит дополнительных сведений о настройке дообучения или результатах оценки качества.

Vikhr-7b-0.1 — русскоязычная модель генерации текста от Vikhrmodels на базе архитектуры Mistral. Модель содержит 7,1 млрд параметров и рассчитана на контекст до 32 768 токенов. В README указано, что её дополнительно обучали на 400 млн токенов в течение трёх эпох; в метаданных также указан датасет IlyaGusev/habr. Модель предназначена для генерации и продолжения текста, в том числе для русскоязычных задач. В сравнительных результатах README она превосходит Mistral-7B-v0.1 на XWinograd и XNLI, но уступает на MMLU на русском языке. Автор предупреждает, что качество работы с кодом может быть низким. Репозиторий использует формат safetensors, библиотеку Transformers и лицензию Apache-2.0.

Aitana-7B-S-Instruct-i1-GGUF — квантизированная версия инструкционной языковой модели Aitana-7B-S-Instruct, разработанной gplsi и распространяемой в формате GGUF пользователем mradermacher. Модель предназначена для генерации текста и выполнения инструкций в диалоговых и прикладных сценариях, включая ответы на вопросы, подготовку и преобразование текстов, мультиязычные задачи и работу с информацией на испанском, каталанском и английском языках. В обучении использовались наборы данных OpenAssistant, Aya, FLORES, GSM8K, Alpaca, Dolly и другие специализированные мультиязычные и испаноязычные коллекции. Модель имеет размер 7B параметров; точная архитектура и размер контекстного окна в README не указаны. Представленная версия содержит набор вариантов квантизации, включая IQ- и Q-форматы, с размером файлов примерно от 2,4 до 6,5 ГБ. Более компактные варианты требуют меньше памяти, но могут заметно уступать в качестве; README рекомендует i1-Q4_K_M как быстрый вариант и i1-Q4_K_S как оптимальный компромисс между размером, скоростью и качеством. Модель предназначена только для работы с текстом, сведения о поддержке изображений или других модальностей отсутствуют. К сильным сторонам относятся специализация на каталанском, испанском и английском языках, инструкционный формат и возможность локального запуска через совместимые с GGUF инструменты. Ограничения связаны с отсутствием данных о бенчмарках, контекстном окне и точных характеристиках исходной архитектуры, а также с тем, что качество зависит от выбранного уровня квантизации. Указанная лицензия — Apache-2.0.

Athene-70B — открытая по весам диалоговая языковая модель команды Nexusflow, дообученная методом RLHF на основе meta-llama/Meta-Llama-3-70B-Instruct. Она предназначена для чат-ассистентов и генерации ответов на запросы пользователя; для диалогов использует тот же шаблон чата, что и Llama 3 70B Instruct. Модель построена на плотной архитектуре Llama с 69,5 млрд параметров и поддерживает контекст до 8192 токенов. В карточке приводится результат 77,8% на Arena-Hard-Auto — бенчмарке, служащем приближённой оценкой качества в Chatbot Arena. Метаданные указывают английский язык. Модель распространяется по Nexusflow Research License; условия этой лицензии следует учитывать при использовании.

Captain-Eris_Twighlight-Magnum-12B — объединённая разговорная языковая модель на основе архитектуры Mistral, созданная с помощью mergekit методом SLERP из anthracite-org/magnum-v4-12b и Nitral-archive/Captain_Eris-Twighlight-12B. Модель содержит 12,1 млрд параметров, рассчитана на генерацию текста и диалоговых ответов; в метаданных также заявлен интерфейс для вызова инструментов. Репозиторий содержит веса в формате safetensors, а карточка указывает контекст до 1 024 000 токенов. Модель предназначена для чат-сценариев и генерации прозы. Метаданные связывают одну из базовых моделей с ответами в стиле Claude 3, но отдельные языки и специальные прикладные области для этой модели не заявлены. Лицензия в предоставленных данных не указана.

Карточка модели vasimakram01/dawah_llama2_working_repo на Hugging Face совпадает с карточкой NousResearch/Llama-2-7b-chat-hf, поэтому описание составлено по ней. NousResearch/Llama-2-7b-chat-hf — диалоговая языковая модель семейства Llama 2, разработанного Meta и опубликованная в формате Hugging Face Transformers. Это плотный авторегрессионный трансформер с 6,6 млрд параметров; веса представлены в форматах PyTorch и Safetensors. Модель принимает текст и генерирует текст, а её контекст составляет 4096 токенов. Модель дообучена с помощью supervised fine-tuning и обучения с подкреплением по человеческим отзывам для диалогов в формате помощника. Она предназначена для ответов на вопросы, ведения диалога и генерации текста на английском языке. Для ожидаемого поведения нужно соблюдать форматирование Llama 2 Chat с соответствующими маркерами инструкций и токенами. Модель может выдавать неточные, предвзятые или нежелательные ответы, а проведённые оценки не охватывают все возможные сценарии. Данные предобучения имеют срез до сентября 2022 года. Использование регулируется собственной лицензией Meta для Llama 2; для получения весов требуется принять её условия.

Gigi-Llama3-8B-Chinese-zh — плотная авторегрессионная языковая модель семейства Llama 3, разработанная как дообучение Llama-3-8B-Instruct. Она обучена на более чем 1,3 млн отобранных китайско-английских примеров, включая данные OpenHermes-2.5, Hermes, glaive-function-calling и китайские наборы COIG-CQIA и alpaca-gpt4-data-zh. Модель рассчитана на диалог и генерацию текста, особенно на задачи в китайско-английском контексте, с усиленной поддержкой китайского языка. Модель содержит 7,5 млрд параметров, использует библиотеку Transformers и формат safetensors; заявленная длина контекста — 8192 токена. Карточка описывает поддержку шаблона диалога Llama-3-8B-Instruct и приводит результаты на отдельных бенчмарках, но не раскрывает подробностей методики оценки. Лицензия — Apache-2.0.

GutenLaserPi — объединённая языковая модель, опубликованная пользователем Stark2008 и созданная с помощью LazyMergekit. Она объединяет flammenai/flammen15-gutenberg-DPO-v1-7B и Eric111/CatunaLaserPi методом SLERP. Модель построена на архитектуре Mistral с 7,1 млрд параметров, принимает текст и генерирует текст; длина контекста — до 32 768 токенов. Модель предназначена для генерации текста и диалоговых сценариев. В README приведены результаты Open LLM Leaderboard: среднее значение 21,29, IFEval — 42,27 и BBH — 32,98; подробности оценки в карточке не раскрыты. Репозиторий содержит веса в формате Safetensors. Лицензия не указана в предоставленных данных.

aurazboev/ISAllama-3.1-8b-tuned — разговорная языковая модель семейства Llama, дообученная разработчиком aurazboev на базе unsloth/meta-llama-3.1-8b-bnb-4bit с использованием Unsloth и библиотеки TRL. Модель предназначена для генерации текста и диалоговых сценариев. Архитектура — плотная авторегрессионная LlamaForCausalLM, размер — 7,5 млрд параметров, контекст — до 131 072 токенов; модель принимает текст и выдаёт текст. В метаданных указан английский язык. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Карточка не описывает специализацию дообучения, данные обучения, результаты оценивания или конкретные ограничения, поэтому качество для отдельных задач требует самостоятельной проверки.

K2S3-14b-v0.2 — текстовая генеративная модель, разработанная K2S3 на основе весов mistralai/Mistral-7B-v0.1. Авторы увеличили глубину модели, примерно удвоив её размер, добавили корейскую лексику и слияния в токенизатор, а затем провели полнопараметрическое обучение методом SFT. Модель содержит 14,2 млрд параметров, использует плотную архитектуру Mistral и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалоговых задач на английском и корейском языках. В обучении использовались alpaca-gpt4-data и примеры из набора The OpenOrca Dataset. Репозиторий предоставляет веса в формате Safetensors. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.

KARAKURI LM 70B Chat v0.1 — диалоговая языковая модель компании KARAKURI Inc., дообученная на базе KARAKURI LM 70B, которая, в свою очередь, основана на Llama 2 и дополнительно обучалась на японских и многоязычных корпусах. Это плотный авторегрессионный трансформер с архитектурой Llama, содержащий 68,8 млрд параметров и поддерживающий контекст до 4096 токенов. Модель предназначена для многошагового диалога, ответов на вопросы и генерации текста на японском и английском языках. При дообучении применялась техника SteerLM, а обучающие данные включали OASST2, HelpSteer и внутренние диалоговые данные; шаблон позволяет задавать атрибуты ответа, такие как полезность, корректность, подробность и креативность. Разработчик сообщает о высоких результатах на японском MT-Bench и сопоставимом с Llama 2 70B Chat качестве на английском MT-Bench. Модель распространяется в формате safetensors через Transformers. Лицензия указана как other, поэтому перед использованием следует проверить условия на странице модели; конкретные условия в доступных данных не раскрыты. Размер модели требует значительных вычислительных ресурсов, а доступный контекст ограничен 4096 токенами.

KORMo-10B-sft — открытая языковая модель на 10,2 млрд параметров, разработанная командой KORMo. Это плотная авторегрессионная модель для генерации текста и диалогов на корейском и английском языках; поддерживает контекст до 131 072 токенов. В README указано, что обучение использовало синтетические данные и открытые наборы данных общим объёмом около 3 трлн токенов, а опубликованные результаты включают англоязычные и корейские бенчмарки. Модель подходит для ответов на вопросы, диалоговых сценариев и генерации текста на корейском и английском языках. Доступны веса в формате safetensors, а лицензия Apache 2.0 разрешает свободное использование на её условиях. По README, модель не проходила настройку безопасности и выравнивание по предпочтениям, поэтому в сложных рассуждениях возможны повторы и нежелательные ответы.

ksong-1-12b_v1_m1 — объединённая модель для генерации текста, созданная методом SLERP с помощью mergekit на основе elinas/Chronos-Gold-12B-1.0 и LatitudeGames/Wayfarer-12B. Веса объединены в формате bfloat16; архитектура — плотная Mistral, класс MistralForCausalLM, около 9,8 млрд параметров. Модель предназначена для диалогов и генерации текста.

LDCC-Instruct-Llama-2-ko-13B-v4.2.8 — корейско-английская инструкционная языковая модель, разработанная Lotte Data Communication на базе архитектуры Llama 2. Модель дообучена на общедоступных корейских и английских данных, прошедших обработку и очистку; данные клиентов Lotte Data Communication не использовались. Модель предназначена для генерации текста в ответ на инструкции по шаблону Prompt/Answer. Это плотная модель семейства Llama с 12,9 млрд параметров и контекстом 2048 токенов, сохранённая в формате safetensors. Для использования весов действует лицензия CC BY-NC 4.0, которая ограничивает коммерческое применение.

Llama-3-15b-Instruct-GLUED-Plus — инструктивная языковая модель, дообученная athirdpath на базе athirdpath/Llama-3-15b-Instruct-GLUED. Это плотная авторегрессионная модель семейства Llama с 14,9 млрд параметров, контекстом до 8192 токенов и форматом диалога L3; для обучения использовались Unsloth и Hugging Face TRL, а также частный датасет объёмом 8 тысяч примеров.

CogniLink — дообученная Daemontatox модель на архитектуре Llama 3.3 70B, созданная для многошаговых рассуждений, логического вывода и диалоговой генерации текста. Она содержит 69,5 млрд параметров, работает с контекстом до 131 072 токенов и рассчитана прежде всего на английский язык. В карточке указаны instruction tuning и обучение на наборах данных с цепочками рассуждений; доступны веса в формате safetensors и библиотека Transformers. Модель можно применять для пошаговых объяснений учебных задач, анализа сценариев и аргументов, а также вопросов и ответов в исследовательских, деловых и правовых сценариях. README также упоминает медицинские применения, однако не приводит подтверждений клинической точности. Для запуска требуется значительная вычислительная память; утверждения README о работе на ограниченных устройствах и эффективности 4-битного режима не подкреплены метриками производительности. Лицензия — Apache 2.0.

jeiku/luxemaelstrom — языковая модель, созданная слиянием моделей FourOhFour/Luxe_4B и FourOhFour/Maelstrom_4B методом SLERP с помощью mergekit. Это плотная авторегрессионная архитектура LlamaForCausalLM размером 3,9 млрд параметров, рассчитанная на генерацию текста и диалоговое использование. Заявленная длина контекста — 131 072 токена. Модель подходит для диалогового ассистента, ответов на запросы и ролевых бесед. Репозиторий содержит веса в формате safetensors; для работы указана библиотека Transformers. Дата публикации на Hugging Face — 1 октября 2024 года. Лицензия в предоставленных данных не приведена.

M7Yamshadowexperiment28_Experiment31Experiment29 — объединённая языковая модель на архитектуре Mistral, опубликованная MaziyarPanahi. Она предназначена для генерации текста и диалогов. Модель содержит 7,1 млрд параметров, использует формат safetensors и поддерживает контекст до 32 768 токенов. Модель создана слиянием automerger/M7Yamshadowexperiment28-7B и automerger/Experiment31Experiment29-7B. Репозиторий распространяется по лицензии Apache-2.0. Карточка не описывает специализированные области применения или отдельные ограничения качества.

Marcoro14-7B-ties — объединённая языковая модель на архитектуре Mistral, созданная с помощью mergekit на основе mistralai/Mistral-7B-v0.1, OpenPipe/mistral-ft-optimized-1218 и mlabonne/NeuralHermes-2.5-Mistral-7B. Она предназначена для генерации текста и диалоговых сценариев. Модель содержит 7,1 млрд параметров, использует плотную архитектуру Mistral и поддерживает контекст до 32 768 токенов. В конфигурации объединения применён метод TIES с нормализацией; опубликованные веса имеют формат Safetensors и точность float16. Репозиторий распространяется по лицензии Apache-2.0. Карточка не описывает специальные предметные области или подтверждённые языковые возможности модели.

Mayo — диалоговая языковая модель, созданная слиянием mlabonne/NeuralBeagle14-7B и openchat/openchat-3.5-0106 с помощью mergekit и метода SLERP. В основе лежит плотная архитектура Mistral с причинным языковым моделированием; размер модели — 7,1 млрд параметров, заявленный контекст — до 32 768 токенов. Модель предназначена для генерации текста в диалоге: она может использоваться для ответов на вопросы, следования инструкциям, рассуждений и творческого письма. Эти сценарии соответствуют характеристикам базовой NeuralBeagle14-7B и назначению компонентов слияния; README не приводит отдельные результаты оценки Mayo. Репозиторий содержит веса в формате Safetensors. Лицензия — Apache-2.0. Сведения о поддерживаемых естественных языках и специальных ограничениях применения в карточке не приведены.

MaziyarPanahi/MeliodasPercival_01_Experiment26Experiment24 — объединённая модель на архитектуре Mistral с 7,1 млрд параметров, созданная слиянием automerger/MeliodasPercival_01-7B и automerger/Experiment26Experiment24-7B. Она предназначена для генерации текста и диалогов, а контекст составляет до 32 768 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0. Данных о специализации на конкретных языках или прикладных областях в карточке нет.

gotchu/merge-34b-2 — объединённая языковая модель, созданная с помощью mergekit из jondurbin/nontoxic-bagel-34b-v0.2 и NousResearch/Nous-Hermes-2-Yi-34B. Для слияния применён метод SLERP с настройками для слоёв self-attention и MLP; архитектура — плотная LlamaForCausalLM, размер — 33,9 млрд параметров, формат весов — safetensors. Модель предназначена для генерации текста и диалогового взаимодействия; базовая модель Nous-Hermes-2-Yi-34B рассчитана на следование инструкциям и многоходовые диалоги в формате ChatML. Указанная нативная длина контекста — 200 000 токенов. Модель принимает текст и выдаёт текст. В карточке не описаны специальные предметные области или языковой охват. Лицензия в предоставленных данных не указана.

MFANNv0.16.10 — диалоговая языковая модель, созданная netcat420 слиянием моделей методом TIES с помощью mergekit. В основе использована MaziyarPanahi/Llama-3-8B-Instruct-v0.4; в слияние также вошли netcat420/MFANNv0.15 и netcat420/MFANNv0.16. Модель построена на архитектуре Llama и предназначена для генерации текста в диалоговом формате, включая ответы ассистента. Она содержит 7,5 млрд параметров, поддерживает контекст длиной до 32 768 токенов и распространяется в формате safetensors для библиотеки Transformers. Карточка не приводит специальных ограничений или сведений о лицензии; условия использования следует сверять с лицензией базовой модели и компонентов слияния.

Mistral-7B-golden-Mistral-7B-Instruct-v0.2-slerp — объединённая диалоговая модель на архитектуре Mistral, созданная слиянием Mistral-7B-Instruct-v0.2 и Mistral-7B-golden методом SLERP. Она предназначена для генерации текста и ответов на инструкции в диалоговом формате. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель принимает текст и выдаёт текст; в репозитории представлены веса Safetensors. Указана лицензия Apache-2.0. Карточка описывает конфигурацию слияния, но не приводит сравнительных оценок качества или подробностей о языковом покрытии.

NickyNicky/Mistral-7B-OpenOrca-oasst_top1_2023-08-25-v3 — диалоговая языковая модель на архитектуре Mistral, разработанная на основе наборов данных OpenOrca и OpenAssistant oasst_top1 от 25 августа 2023 года. Модель содержит 7,1 млрд параметров и предназначена для генерации текста в диалоговом формате, включая ответы на вопросы и ведение беседы. Модель работает через Transformers и принимает текст, выдавая текст. Заявленная длина контекста составляет 32 768 токенов. В метаданных перечислены 20 языков: болгарский, каталонский, чешский, датский, немецкий, английский, испанский, французский, хорватский, венгерский, итальянский, нидерландский, польский, португальский, румынский, русский, словенский, сербский, шведский и украинский. Репозиторий содержит веса PyTorch и распространяется по лицензии Apache 2.0. README не содержит подробных сведений об обучении или оценки качества; ответы модели могут быть неточными или содержать ошибки.

mncai/mistral-7b-v5 — языковая модель MindsAndCompany на архитектуре Mistral, основанная на mistral-7b. Согласно карточке, модель прошла инструкционное дообучение и оптимизацию DPO. Она предназначена для генерации ответов на инструкции и диалоговых сценариев; в примере из карточки пользователь задаёт вопрос на корейском языке и просит объяснить решение. Модель содержит 7,1 млрд параметров, принимает текст и генерирует текст. Указанная длина контекста — 32 768 токенов. В метаданных отмечен английский язык; пример также демонстрирует ввод на корейском, но этого недостаточно, чтобы считать корейский заявленным поддерживаемым языком. Модель может быть полезна для прототипов бизнес-чатботов и ассистентов, упомянутых разработчиком. Лицензия указана как llama2; перед использованием следует проверить её условия для конкретного сценария.

MixtureofMerges-MoE-4x7b-v3 — языковая модель Mixtral с архитектурой смеси экспертов (MoE), созданная jsfs11 с помощью LazyMergekit путём объединения четырёх моделей: jsfs11/RandomMergeNoNormWEIGHTED-7B-DARETIES, senseable/WestLake-7B-v2, mlabonne/OmniBeagle-7B и vanillaOVO/supermario_v3. Она предназначена для генерации текста и диалоговых сценариев. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. В README приведены результаты Open LLM Leaderboard, включая среднее значение 75,31, 74,40 на AI2 Reasoning Challenge и 88,62 на HellaSwag; эти показатели описывают оценивание, а не гарантируют качество в конкретном применении. Модель распространяется под лицензией Apache-2.0. Языки и специальные прикладные области в доступных сведениях не обозначены.

Mistral-Nemo-2407-12B-Estrella-v1 — модель генерации текста на архитектуре Mistral, созданная автором карточки путём слияния нескольких языковых моделей с помощью mergekit. В состав слияния вошли, среди прочих, Mistral-Nemo-Instruct-2407, MN-12B-Celeste, Magnum, Lyra и Lumimaid. Модель содержит 12,1 млрд параметров и заявленный контекст до 1 024 000 токенов. Модель предназначена для диалогов и генерации связных, лаконичных, но творческих ответов. В README рекомендован формат запросов Mistral Instruct; также может подойти ChatML. Автор советует низкую температуру генерации 0,3–0,5. Доступна под лицензией CC BY-NC 4.0, которая ограничивает коммерческое использование.