III.2Исследование рынка и маркетинг

Qwenvergence-14B-v12-Prose-DS — объединённая языковая модель на 14 млрд параметров, созданная sometimesanotion с помощью mergekit и метода Model Stock. В качестве базовой модели для слияния указана sometimesanotion/Base-Chocolatine-2-14B-Instruct-v2.0b3; в объединение также вошли несколько моделей на базе Qwen2.5 и их производных. Модель предназначена для диалогов и генерации текста. Она использует архитектуру Qwen2 с плотной трансформерной сетью, поддерживает контекст до 131 072 токенов и распространяется в формате safetensors для Transformers. Карточка не уточняет отдельные языки или специализированные прикладные области. Лицензия в предоставленных данных не указана. Составное слияние нескольких моделей может влиять на стиль и поведение ответов; конкретные ограничения качества в карточке не описаны.

Kaoeiri/Qwenwify-32B-v2.68 — объединённая языковая модель на архитектуре Qwen2, созданная с помощью mergekit методом DARE TIES. В качестве базовой модели README указывает unsloth/qwen2.5-32b-instruct; в объединение также вошли варианты Qwen2.5 для диалога, ролевых сценариев, генерации текста и художественной прозы. Модель содержит 32 млрд параметров, принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов. Модель предназначена для диалога и генерации текста, в том числе для ролевого общения и создания художественных текстов. Метаданные указывают на поддержку чата и интерфейс вызова инструментов. В карточке не приведены сведения о лицензии и конкретных языках; среди исходных моделей есть вариант для китайского языка, но это само по себе не подтверждает полный перечень поддерживаемых языков.

Ramakrishna-7b-v2 — объединённая модель семейства Mistral с 7,1 млрд параметров, созданная Kukedlc методом slerp с помощью LazyMergekit на основе Kukedlc/Ramakrishna-7b и Kukedlc/NeuralSirKrishna-7b. Модель предназначена для генерации текста и диалогов; поддерживает контекст до 32 768 токенов и распространяется в формате safetensors с весами float16. Модель принимает текст и выдаёт текст. Сведения о специализации по языкам и прикладным областям, а также о конкретных преимуществах и ограничениях в карточке не приведены. Лицензия в предоставленных данных не указана.

cardiffnlp/roberta-large-tweet-topic-multi-all — модель Cardiff NLP, дообученная на базе roberta-large для многометочной классификации тем в сообщениях Twitter. Она обучена на полном разбиении train_all набора tweet_topic_multi и проверена на test_2021. Модель принимает текст и предсказывает тематические метки; размер составляет 454,1 млн параметров, длина контекста — 514 токенов. На test_2021 модель показала micro F1 0,763, macro F1 0,620 и accuracy 0,537. Она подходит для автоматической разметки тем в твитах и анализа тематик публикаций. В карточке не указана лицензия, поэтому условия использования по имеющимся данным определить нельзя.

ehristoforu/rufalcon3-3b-it — языковая модель для генерации текста и диалогов, созданная ehristoforu дообучением tiiuae/Falcon3-3B-Instruct. Модель имеет плотную архитектуру LlamaForCausalLM и содержит 2,8 млрд параметров; веса доступны в формате safetensors. Она рассчитана на контекст до 32 768 токенов. Модель подходит для диалогового взаимодействия и генерации ответов по текстовым запросам. В карточке указаны обучение с Unsloth и TRL и лицензия Apache-2.0. Язык, отмеченный в метаданных самой модели, — английский; базовая модель также описана как поддерживающая французский, испанский и португальский языки.

SauerkrautLM 13B v1 — это языковая модель для генерации текста и диалогового взаимодействия, разработанная VAGO solutions. Представленная версия преобразована в формат GGUF и квантизована TheBloke для более эффективного запуска на совместимом оборудовании. Модель основана на архитектуре Llama и содержит 13 миллиардов параметров. Она предназначена для текстовых сценариев, включая ответы на вопросы, ведение диалогов и создание полезных, подробных и вежливых ответов. В README заявлена поддержка немецкого и английского языков. Модель является текстовой и не поддерживает обработку изображений или других мультимодальных данных. Размер контекста и другие характеристики исходной архитектуры в README не указаны. GGUF-файлы доступны с уровнями квантизации от 2 до 8 бит, что позволяет выбирать компромисс между требованиями к памяти, скоростью работы и качеством генерации. Модель совместима с llama.cpp и рядом сторонних интерфейсов и библиотек, включая text-generation-webui, KoboldCpp, LM Studio, llama-cpp-python и другие решения. Более низкая квантизация уменьшает потребление ресурсов, но может снижать качество ответов. Лицензия указана как Llama 2.

SauerkrautLM-Qwen-32b — диалоговая языковая модель, совместно разработанная VAGO solutions и Hyperspace.ai на базе Qwen/Qwen1.5-32B. Модель дообучена методом SFT и выровнена с помощью DPO; архитектура Qwen2, плотная причинная языковая модель с 31,7 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для диалогов и генерации текста на немецком и английском языках. Её можно применять для ответов на вопросы, написания текстов и работы с длинными запросами в формате помощника. В карточке приведены результаты оценки на Open LLM Leaderboard, но они не гарантируют качество для конкретной задачи. Использование регулируется лицензией tongyi-qianwen-research. Разработчики предупреждают, что модель может выдавать неподходящий или неотфильтрованный контент; её поведение не гарантированно всегда уместно.

SeaLLMs-v3-1.5B — базовая языковая модель из семейства SeaLLMs, разработанного для языков Юго-Восточной Азии. Это плотная причинная модель Qwen2 с 1,5 млрд параметров и контекстом до 131 072 токенов, распространяемая в формате safetensors. Модель предназначена для генерации текста и дальнейшей тонкой настройки под прикладные задачи; для непосредственного диалогового использования авторы предлагают отдельную версию SeaLLMs-v3-1.5B-Chat. Модель рассчитана на английский, китайский и языки региона, включая индонезийский, вьетнамский, тайский, тагальский, малайский, бирманский, кхмерский, лаосский, тамильский и яванский. В карточке заявлены способности к следованию инструкциям, переводу, математическим рассуждениям и ответам на вопросы о местном контексте; для серии также отмечены работа в многошаговом диалоге, снижение галлюцинаций и более безопасные ответы. Доступна лицензия с пометкой «other», поэтому конкретные условия следует проверять в репозитории модели.

Модель создана как линейное слияние нескольких предварительно обученных языковых моделей с помощью mergekit. В качестве базовой использована версия filtered_e2e_alignment на шаге global_step7000; также объединены версии с шагов 3000, 4000, 5000 и 6000. Архитектура — плотная авторегрессионная GPT-NeoX, около 8,8 млрд параметров; модель доступна в формате safetensors и рассчитана на контекст до 16 384 токенов. Модель предназначена для генерации текста и диалогового использования. Карточка не уточняет языки обучения, специализацию или сравнительные преимущества, поэтому её следует рассматривать как универсальную языковую модель. Лицензия в предоставленных данных не указана.

Модель создана ByteDance как объединение нескольких контрольных точек предварительно обученной языковой модели с помощью mergekit и линейного метода слияния. В качестве базовой точки слияния использована контрольная точка global_step10000; также объединены версии с шагами обучения 6000, 7000, 8000 и 9000. Это плотная авторегрессионная модель семейства GPT-NeoX с 8,8 млрд параметров и контекстом до 16 384 токенов. Она предназначена для генерации текста в диалоговом режиме. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Языки и специальные прикладные области в карточке не указаны; лицензия также не приведена.

Модель yuhengtu-bytedance/sfm_filtered_midtrain_alignment-4k_5k_6k_weightedavg_merge — объединение предварительно обученных языковых моделей, созданное с помощью mergekit. Для слияния применён линейный метод: чекпойнт global_step6000 использован как базовый, а чекпойнты global_step4000 и global_step5000 также включены в объединение. Модель построена на архитектуре GPT-NeoX и содержит 8,8 млрд параметров; формат весов — safetensors, контекст — до 16 384 токенов. Предназначена для генерации текста и диалогового взаимодействия. Карточка не сообщает конкретные языки или специализированные области применения. Условия лицензии в доступных данных не указаны.

nisten/shqiponja-90 — языковая модель для генерации текста, созданная с помощью mergekit на основе моделей семейства Qwen. В карточке указано, что в объединении использован метод passthrough и модели Smaug-72B-v0.1, Qwen1.5-72B и smallsmaug-fine2; метаданные связывают репозиторий с Qwen/Qwen1.5-72B. Архитектура — плотная Qwen2ForCausalLM, размер — 88,5 млрд параметров, формат весов — safetensors, библиотека — Transformers, контекст — до 32 768 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. Её можно применять для ответов на запросы, составления текстов и ведения беседы. README не сообщает о специализированной предметной области или языковом охвате. Лицензия — MIT.

Lambent/Silver5-Nemo-12B — объединённая модель генерации текста, созданная с помощью mergekit методом TIES. В основу взята Mistral-Nemo-Base-2407, а в объединение также вошли Dans-PersonalityEngine-V1.1.0-12b, Wayfarer-12B, Vikhr-Nemo-12B-Instruct-R-21-09-24, MISCHIEVOUS-12B-Mix_0.6v и Grey-12b. Модель построена на плотной архитектуре MistralForCausalLM и содержит 12,1 млрд параметров. Она предназначена для диалоговой генерации текста; заявленная длина контекста — 131 072 токена. Используйте её для ответов на запросы и создания связного текста в чат-сценариях. Репозиторий содержит веса safetensors и использует библиотеку Transformers. Лицензия — Apache-2.0. Карточка не приводит отдельных оценок качества или подробных ограничений, поэтому практические результаты могут зависеть от запроса и настроек генерации.

Smoke_7B — дообученная FourOhFour/Vapor_7B модель на архитектуре Qwen2 для генерации текста и диалогов. Она содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 131 072 токенов. В README указано, что модель обучена на датасете, обозначенном как None; подробности о данных и результатах оценки ограничены значением loss 1,4023. Модель подходит для генерации ответов в диалогах и других сценариев текстовой генерации. Репозиторий использует формат safetensors и библиотеку Transformers. Лицензия — Apache-2.0.

Socrates Llama 3 8B SFT — дообученная SocratesFT модель на архитектуре Llama 3, основанная на meta-llama/Meta-Llama-3-8B-Instruct. Она предназначена для генерации текста и диалоговых ответов на английском языке; в метаданных также заявлена поддержка следования инструкциям. Модель содержит 7,5 млрд параметров и поддерживает контекст до 8192 токенов. Модель подготовлена на наборе данных socratesft/SocSci210. Доступна в формате safetensors для использования с Transformers. Лицензия — llama3; применяются условия лицензии Meta Llama 3.

Spaetzle-v61-7b — языковая чат-модель, созданная cstr слиянием трёх моделей на базе Mistral с помощью LazyMergekit: FelixChao/WestSeverus-7B-DPO-v2, mayflowergmbh/Wiedervereinigung-7b-dpo и cognitivecomputations/openchat-3.5-0106-laser. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Она предназначена для диалогов и генерации текста. Метаданные отмечают чат-возможности; базовая модель описана как немецко-английская, поэтому эти языки можно считать основными ориентирами применения. Репозиторий распространяется под лицензией Apache-2.0. Карточка описывает слияние весов, а не дообучение или конвертацию формата.

Spaetzle-v64-7b — объединённая модель генерации текста, созданная cstr с помощью LazyMergekit из flemmingmiguel/NeuDist-Ro-7B, cstr/Spaetzle-v63-7b и ResplendentAI/Flora_DPO_7B. Это плотная причинно-языковая модель архитектуры Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов; поддерживает диалоговый режим и предназначена для генерации текста и ответов в чате. В карточке не приведены подробности о языках и сравнительных качествах модели. Модель распространяется по лицензии CC BY-SA 4.0.

T3qm7xNeuralsirkrishna_Strangemerges_32Strangemerges_30 — объединённая модель на базе Mistral, созданная из automerger/T3qm7xNeuralsirkrishna-7B и automerger/Strangemerges_32Strangemerges_30-7B. Модель содержит 7,1 млрд параметров и предназначена для генерации текста и диалогов; максимальная длина контекста — 32 768 токенов. Модель принимает текст и выдаёт текст. Репозиторий содержит веса в формате Safetensors, лицензия — Apache-2.0. Сведения о конкретных языках и специализированных областях применения в доступных материалах отсутствуют.

T3qm7xNeuralsirkrishna_YamOgno — объединённая языковая модель на архитектуре Mistral, созданная путём слияния automerger/T3qm7xNeuralsirkrishna-7B и automerger/YamOgno-7B. Она предназначена для генерации текста и диалоговых сценариев. Модель содержит 7,1 млрд параметров, использует формат Safetensors и поддерживает контекст до 32 768 токенов. Карточка не описывает отдельную специализацию или языки, поэтому модель можно охарактеризовать только как текстовую модель общего назначения. Репозиторий распространяется по лицензии Apache-2.0.

Карточка модели conor9999/t5-large на Hugging Face совпадает с карточкой google-t5/t5-large, поэтому описание составлено по ней. T5-Large — языковая модель семейства Text-To-Text Transfer Transformer, разработанная Colin Raffel, Noam Shazeer и коллегами. Она преобразует текстовый ввод в текстовый вывод и обучалась в едином формате для разных задач обработки естественного языка. В карточке Hugging Face основная задача модели указана как перевод; размер версии в метаданных — 385,2 млн параметров, архитектура — T5ForConditionalGeneration. В README приведён размер 770 млн параметров, поэтому сведения о размере в источниках расходятся. Модель предназначена для перевода и может применяться после соответствующей настройки для суммаризации, ответов на вопросы, классификации и других текстовых задач. Заявленные языки — английский, французский, румынский и немецкий; длина контекста — 512 токенов. Предобучение проводилось на C4 и наборах данных для языковых задач. Модель доступна в форматах PyTorch, TensorFlow, Flax и safetensors. Лицензия — Apache 2.0. Возможности модели ограничены обучающими данными и контекстом; результаты могут содержать ошибки и отражать смещения данных. README не приводит подробных оценок качества или конкретных ограничений для отдельных сценариев.

Tess-3-Mistral-Nemo-12B — универсальная большая языковая модель из серии Tess, созданной Migel Tissera; вычислительные ресурсы для её разработки предоставила KindoAI. Это плотная авторегрессионная модель архитектуры Mistral на 12,1 млрд параметров, рассчитанная на диалог и генерацию текста. В метаданных указан контекст до 1 024 000 токенов, а веса доступны в формате safetensors. Модель подходит для общения с пользователем и генерации текста общего назначения. В README приведены результаты Open LLM Leaderboard: средний показатель 16,54, IFEval (0-shot) — 33,55, BBH (3-shot) — 28,04; эти оценки дают ориентир по отдельным тестам, но не гарантируют качество в конкретном сценарии. README не уточняет поддерживаемые языки и дополнительные ограничения применения. Лицензия — Apache-2.0.

Карточка модели Jinstudio/VibeVoice-ASR на Hugging Face совпадает с карточкой microsoft/VibeVoice-ASR, поэтому описание составлено по ней. VibeVoice-ASR — модель Microsoft для распознавания речи и формирования структурированных расшифровок. Она принимает аудио и в одном проходе обрабатывает записи длительностью до 60 минут, указывая распознанный текст, временные метки и говорящих. Модель также поддерживает пользовательские ключевые слова для имён, терминов и другой специальной лексики. Модель рассчитана на многоязычную речь: README заявляет поддержку более 50 языков, автоматическое определение языка и переключение между языками в ходе записи. По данным карточки, модель построена на плотной архитектуре семейства VibeVoice, использует Transformers и хранит веса в формате safetensors. Указанная лицензия — MIT. Модель подходит для расшифровки длинных записей, где важны привязка реплик ко времени и разделение по говорящим. README заявляет обработку до 60 минут в пределах контекста 64K токенов; фактическое качество распознавания может зависеть от языка, акустики и предметной лексики.

Villanova-2B-2603 — мультиязычная инструкционная языковая модель, разработанная Villanova.AI. Она создана дообучением Villanova-2B-Base-2603 на наборе VillanovaAI/villanova-sft-2603 и предназначена для диалога, следования инструкциям, ответов на вопросы и генерации текста на пяти европейских языках. Модель использует плотную decoder-only архитектуру на базе LLaMA с 2,4 млрд параметров и контекстом до 32 768 токенов. Она принимает текст и генерирует текст; заявлена поддержка английского, французского, немецкого, итальянского и испанского языков. В карточке отмечены сбалансированное следование инструкциям на этих языках и оценивание безопасности на пяти языках. Модель распространяется в формате Safetensors и выпущена под лицензией Apache 2.0. Компактный размер делает её пригодной для развёртывания на устройствах с ограниченными ресурсами, однако качество и скорость зависят от оборудования и сценария. Результаты бенчмарков в карточке приведены разработчиком; они не гарантируют качество для конкретной задачи. Возможности модели ограничены текстовым вводом и выводом.

WestOrcaDPO-7B-GTA — объединённая языковая модель на основе Mistral, созданная с помощью LazyMergekit из decruz07/kellemar-DPO-Orca-Distilled-7B-SLERP и senseable/WestLake-7B-v2. Она предназначена для генерации текста, включая диалоговые ответы и творческие тексты. Модель имеет плотную архитектуру MistralForCausalLM и 7,1 млрд параметров; заявленная длина контекста — 32 768 токенов. Веса представлены в формате safetensors. Слияние выполнено методом task arithmetic с параметрами весов 0,4 и 0,6 и плотностью 0,5 для каждой исходной модели. README указывает Mistral-7B-v0.1 как базовую модель. Лицензия в предоставленных данных не приведена.

YamshadowInex12_Experiment26Strangemerges_32 — объединённая модель MaziyarPanahi на архитектуре Mistral с 7,1 млрд параметров, предназначенная для генерации текста. Она объединяет модели automerger/YamshadowInex12-7B и automerger/Experiment26Strangemerges_32-7B. Модель принимает текст и может использоваться для генерации продолжений и ответов в пределах контекстного окна до 32 768 токенов. Данные представлены в формате Safetensors; лицензия — Apache-2.0. README не описывает специальные сценарии применения или языковую специализацию модели.

Yarn-Solar-10b-64k — языковая модель NousResearch, созданная на основе SOLAR-10.7B-v1.0 и дополнительно обученная на двух миллиардах токенов длинного контекста с помощью метода YaRN. Это плотная авторегрессионная модель семейства Llama с 10,6 млрд параметров и окном контекста до 65 536 токенов. Модель предназначена для генерации текста и работы с длинными входными документами: например, для анализа больших текстов, ответов на вопросы по ним и суммаризации. Карточка приводит результаты тестов на длинном контексте и отмечает небольшое снижение качества на коротком контексте. Заявлена поддержка английского языка; метаданные указывают библиотеку Transformers и формат PyTorch. Модель распространяется по лицензии Apache-2.0. Для загрузки в Transformers карточка указывает необходимость `trust_remote_code=True` и актуальной версии библиотеки; это следует учитывать при использовании. Данные карточки не описывают отдельную настройку для диалогов или вызова инструментов.

Zara 14b v1.2 — диалоговая языковая модель Aixon Lab на архитектуре Transformer с причинной генерацией текста и примерно 14 млрд параметров. В метаданных указана архитектура Qwen2 и контекст до 131 072 токенов; модель распространяется в формате safetensors по лицензии Apache 2.0. Модель дообучена на основе aixonlab/Zara-14b-v1.1 и предназначена для многоходового общения, генерации текста, ответов на вопросы, анализа, творческого письма и сторителлинга. Карточка выделяет работу с контекстом и диалогами с несколькими ролями. Основной язык — английский; README допускает поддержку других языков, но не уточняет их. Автор не приводит метрик оценки. Модель может наследовать смещения и ограничения обучающих данных и исходных моделей, поэтому результаты следует проверять. В README также сказано, что при создании использовались разные датасеты и слияния слоёв, однако отдельное слияние не подтверждено метаданными происхождения.

Ziya-Writing-LLaMa-13B-v1 — языковая модель IDEA-CCNL из серии Ziya, созданная на архитектуре LLaMA с 12,9 млрд параметров. Это инструкционно дообученная модель, усиленная для задач письма; в обучении использовались данные по письму, общие инструкции и обучение с обратной связью от людей (RM и PPO). Модель предназначена для подготовки официальных отчётов, выступлений, писем, рекламных и творческих текстов, а также ответов на разнообразные инструкции. В карточке заявлена поддержка английского и китайского языков. Модель принимает текст и генерирует текст; длина контекста — 2048 токенов. Авторы сообщают об улучшении качества письма по результатам сравнительной оценки, однако оценивание проводилось на 100 инструкциях, а качество текста субъективно. Лицензия репозитория — GPL-3.0, при этом README отдельно предупреждает, что из-за ограничений лицензии исходных весов LLaMA модель нельзя использовать коммерчески и необходимо соблюдать политику LLaMA.

ShenaoZ/0.0001_sft_nodpo_4iters_bs256_5102lr_iter_1 — дообученная модель Mistral с плотной архитектурой MistralForCausalLM и 7,1 млрд параметров. Она основана на HuggingFaceH4/mistral-7b-sft-beta и обучена на обновлённом и исходном наборах данных. Модель предназначена для генерации текста и диалогового общения, включая ответы на вопросы. Поддерживает контекст до 32 768 токенов и распространяется в формате safetensors. Карточка не приводит оценки качества и подробностей о составе обучающих данных. Лицензия — MIT.

Это дообученная диалоговая модель Mistral с 7,1 млрд параметров, созданная на основе HuggingFaceH4/mistral-7b-sft-beta. Модель дообучена методом DPO на датасете HuggingFaceH4/ultrafeedback_binarized и предназначена для генерации текста в формате общения и ответов на вопросы. Архитектура — плотная авторегрессионная MistralForCausalLM; заявленная длина контекста — 32 768 токенов. Модель принимает текст и генерирует текст. В карточке нет подробных сведений об оценке качества и ограничениях; её возможности и надёжность следует проверять на целевых сценариях. Репозиторий распространяется по лицензии MIT.