II.1Анализ требований и архитектура ПО
В разделе собраны самостоятельные задачи, где AI помогает переводить потребности бизнеса в непротиворечивые требования и технические решения. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
18 191 модельgoogle/t5gemma-xl-xl-ul2 — предварительно обученная текстовая модель семейства T5Gemma от Google с энкодером XL и декодером XL, адаптированная с использованием UL2. Архитектура типа encoder-decoder преобразует текст в текст; веса сохранены в формате safetensors и предназначены для работы через Transformers. Модель рассчитана на английский язык. Модель подходит для генерации текста, суммаризации, ответов на вопросы и рассуждений; энкодер также можно применять в задачах классификации и понимания текста. Возможные сценарии — подготовка черновиков и кратких изложений, ответы по предоставленному тексту и NLP-исследования. В карточке не указаны размер в параметрах и длина контекста. К ограничениям относятся возможные фактические ошибки, влияние пробелов и смещений обучающих данных, трудности с неоднозначностью и сложными открытыми задачами. Лицензия — Gemma; для применения необходимо учитывать условия Gemma и политику допустимого использования.
Jebadiah создал Tess-gradient-ruby-p2 — объединённую диалоговую языковую модель семейства Llama с плотной архитектурой LlamaForCausalLM и примерно 7,5 млрд параметров. Она объединяет Jebadiah/Tess-gradient-ruby-p1 и NousResearch/Hermes-2-Theta-Llama-3-8B методом DARE linear; файлы представлены в формате safetensors, веса указаны как bfloat16. Модель предназначена для генерации текста и диалоговых сценариев: она принимает текстовые запросы и выдаёт текстовые ответы. Контекст составляет до 8192 токенов. В метаданных указана возможность чата; отдельные сведения о поддерживаемых языках и лицензии не приведены, поэтому их нельзя уточнить по доступным данным.
Trillama-8B — языковая модель на архитектуре Llama 3, разработанная Senseable и дообученная на базе Llama-3-8B. Она предназначена для генерации текста в диалоге и ответов на запросы, с акцентом разработчика на логическое мышление и рассуждения. Модель содержит 7,5 млрд параметров и поддерживает контекст до 8192 токенов; в метаданных указан английский язык. Модель подходит для диалоговых помощников, объяснения понятий и задач, требующих рассуждений. Карточка демонстрирует запуск через Transformers с точностью bfloat16. Лицензия указана как Llama 2 License; качество рассуждений и результаты оценивания в карточке не приведены.
TriMistral-7B-TIES — объединённая модель для генерации текста и диалогов, созданная Muhammad2003 методом TIES с помощью LazyMergekit. В слиянии использованы NousResearch/Hermes-2-Pro-Mistral-7B и instructlab/merlinite-7b-lab; конфигурация также указывает HuggingFaceH4/zephyr-7b-beta как базовую модель. Модель построена на плотной архитектуре Mistral с 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для диалогов и генерации текста по инструкциям. Карточка приводит результаты бенчмарков AI2 Reasoning Challenge и HellaSwag, но не описывает специализированные сценарии или гарантии качества. Репозиторий содержит веса в формате safetensors; лицензия — Apache 2.0.
ehristoforu/ud-14b — объединённая автором модель для генерации текста и диалогового общения. Она создана методом TIES с помощью mergekit на основе Qwen/Qwen2.5-32B; в объединение также вошли Qwen/QwQ-32B-Preview и unsloth/DeepSeek-R1-Distill-Qwen-32B. Архитектура — плотная Qwen2 с причинной языковой моделью, размер — 32 млрд параметров, контекст — до 131 072 токенов. Модель распространяется в формате safetensors и использует библиотеку Transformers. Модель предназначена для генерации ответов в чате и обработки длинных текстовых запросов. В метаданных отмечен интерфейс вызова инструментов, однако README не описывает его применение или проверенные сценарии. Языки и специализированные области применения в предоставленных данных не обозначены. Сведения о лицензии отсутствуют в предоставленных источниках.
UltraLM-13b — чатовая языковая модель на архитектуре LLaMA с 12,9 млрд параметров, созданная OpenBMB путём дообучения LLaMA-13b на наборе UltraChat. Она рассчитана на многоходовые диалоги и генерацию ответов по инструкциям в формате User/Assistant. Контекст модели составляет 2048 токенов; она принимает и генерирует текст. В репозитории размещены delta-веса: для инференса необходимо восстановить полную модель на основе исходной LLaMA-13b и использовать чатовый шаблон. Модель распространяется на условиях лицензии LLaMA; применяются её ограничения использования.
UltronTactIQ-Mistral-2-7b — диалоговая языковая модель с архитектурой MistralForCausalLM и 7,1 млрд параметров, созданная CapiJack дообучением NousResearch/Nous-Hermes-2-Mistral-7B-DPO. Модель предназначена для генерации текста и общения по инструкциям; в метаданных отмечена поддержка чата. README сообщает о дообучении на наборе данных, название которого не приведено, и указывает значение loss 0,5036 на оценочном наборе. Модель принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов. В карточке нет сведений о целевых языках и специализированных областях применения. Распространяется по лицензии Apache-2.0.
fhai50032 выпустил Unaligned-Thinker-PHI-4 — разговорную языковую модель на базе Phi-4, дообученную методом SFT на наборе fhai50032/Unaligned-Thinking-o1. Модель предназначена для генерации текста в диалогах и ответов с рассуждениями; в карточке приведены примеры обсуждения алгоритмов и AGI. По метаданным это плотная модель с архитектурой LlamaForCausalLM, содержащая 14,1 млрд параметров и поддерживающая контекст до 16 384 токенов. Указаны язык английский и возможность чата. Модель опубликована в форматах PyTorch и safetensors по лицензии Apache-2.0. README сообщает параметры дообучения: три эпохи, глобальный размер пакета 8, скорость обучения 5e-4, LoRA с r=16 и alpha=16, cosine schedule и AdamW 8-bit с weight decay 0,01.
Nitral-Archive выпустила Violet_Eris-BMO-12B — объединённую методом SLERP чат-модель на базе архитектуры Mistral. В слиянии использованы Nitral-AI/Captain_BMO-12B и Epiculous/Violet_Twilight-v0.2; модель содержит 12,1 млрд параметров и распространяется в формате safetensors для библиотеки Transformers. Модель предназначена для диалогов и генерации текста. Её можно применять для продолжения текста и создания ответов в чат-сценариях. В метаданных указан контекст до 1 024 000 токенов. Язык лицензии в предоставленных сведениях не указан.
WestKunai-Hermes-7b — слитая языковая модель, созданная автором seyf1elislam с помощью mergekit и метода DARE TIES. В слиянии использованы saishf/West-Hermes-7B и seyf1elislam/KunaiBeagle-Hermes-7b на основе mistralai/Mistral-7B-v0.1. Модель построена на архитектуре Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Она предназначена для генерации текста по запросам и может применяться в диалогах, ответах на вопросы и задачах рассуждения. Репозиторий содержит веса в формате safetensors; в README также упомянуты квантованные версии GGUF. Модель распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование. README приводит результаты Open LLM Leaderboard, но не описывает отдельно языковую специализацию или гарантии качества.
WestKunai-XS-7b — слитая с помощью mergekit языковая модель, созданная из seyf1elislam/WestKunai-Hermes-7b и seyf1elislam/KuTrix-7b. В README указан метод слияния SLERP; архитектура — плотная MistralForCausalLM с 7,1 млрд параметров, контекст — до 32 768 токенов. Модель предназначена для генерации текста и ответов на запросы. README приводит результаты на тестах рассуждения и понимания текста, включая AI2 Reasoning Challenge и HellaSwag. Доступны веса в формате safetensors; автор также упоминает квантованные версии GGUF. Модель распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование. README не уточняет поддерживаемые естественные языки и специальные возможности модели.
Yamshadowexperiment28M70.04-0.39-0.5-0.24-0.68-0.29-7B — объединённая языковая модель семейства Mistral, опубликованная пользователем aaron-di. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и формат Safetensors; её контекст составляет до 32 768 токенов. Модель предназначена для генерации текста и диалогов по текстовым запросам. README показывает запуск через Transformers с шаблоном чата и генерацией ответа, а метаданные указывают на объединение AurelPx/Percival_01-7b-slerp и liminerity/M7-7b. Модель распространяется по лицензии Apache-2.0.
Yamshadowexperiment28M7-7B — объединённая текстовая модель семейства Mistral с 7,1 млрд параметров, созданная автоматически Maxime Labonne на основе liminerity/M7-7b. Веса объединены методом DARE-TIES; в конфигурации указаны формат bfloat16 и int8-маска слияния. Модель предназначена для генерации текста и диалоговых сценариев. Она принимает текст и выдаёт текст, а заявленная длина контекста составляет 32 768 токенов. Карточка не сообщает о специализации на конкретных языках или предметных областях. Модель распространяется по лицензии Apache-2.0. Качество и ограничения в README не описаны; применимость к конкретным задачам следует оценивать отдельно.
YamshadowInex12_Experiment26Pastiche — слитая модель для генерации текста, созданная объединением automerger/YamshadowInex12-7B и automerger/Experiment26Pastiche-7B. Она построена на плотной архитектуре Mistral и содержит 7,1 млрд параметров; контекст — до 32 768 токенов. Модель принимает текст и генерирует текст, поэтому подходит для диалогов и других сценариев генерации на основе текстового запроса. Репозиторий содержит веса в формате Safetensors. Лицензия — Apache-2.0.
YamshadowStrangemerges_32_NeuralsirkrishnaInex12 — объединённая модель Mistral, созданная на основе automerger/YamshadowStrangemerges_32-7B и automerger/NeuralsirkrishnaInex12-7B. Она предназначена для генерации текста и диалогов по текстовым запросам. Модель содержит 7,1 млрд параметров, использует плотную архитектуру MistralForCausalLM и поддерживает контекст до 32 768 токенов. Веса представлены в формате safetensors. Лицензия — Apache-2.0. README не уточняет языковые специализации, качество и конкретные сценарии применения; характеристики объединённых моделей могут влиять на поведение результата.
YamT3qm7xp_Experiment28Experiment29 — объединённая модель семейства Mistral на 7,1 млрд параметров, созданная MaziyarPanahi на основе automerger/YamT3qm7xp-7B и automerger/Experiment28Experiment29-7B. Она предназначена для генерации текста и может использоваться в чат-сценариях и других задачах, где требуется продолжение или создание текста. Модель принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов. В репозитории представлены веса Safetensors. Модель распространяется по лицензии Apache-2.0.
MaziyarPanahi/Yarn-Mistral-7b-64k-Mistral-7B-Instruct-v0.1 — объединённая чат-модель на архитектуре Mistral с 7,1 млрд параметров. Она создана слиянием mistralai/Mistral-7B-Instruct-v0.1 и NousResearch/Yarn-Mistral-7b-64k методом SLERP; конфигурация слияния использует формат bfloat16. Модель предназначена для генерации ответов на инструкции и диалоговые запросы, в том числе с длинным контекстом: в метаданных указан контекст до 32 768 токенов. Модель ориентирована на англоязычные текстовые диалоги. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Карточка не приводит результатов оценки качества или дополнительных сведений о поведении модели.
Zenith-7B-dpo — чат-модель Xenon1, созданная дообучением Mistral-7B-v0.1 на датасете Ultrafeedback с применением техник из работы Self-Rewarding Language Models. Она предназначена для диалогов и выполнения инструкций в формате text-generation. Архитектура — плотный трансформер Mistral с Grouped-Query Attention и Sliding-Window Attention; модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Для общения используйте шаблон Mistral с маркерами [INST] и [/INST]; доступен chat template через apply_chat_template(). Модель принимает и генерирует текст, а в метаданных указан английский язык. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.
zephyr-orpo-141b-A35b-v0.1-GGUF — это квантизированная версия языковой модели HuggingFaceH4/zephyr-orpo-141b-A35b-v0.1, подготовленная и опубликованная MaziyarPanahi в формате GGUF. Базовая модель основана на Mixtral-8x22B-v0.1 и дообучена с использованием метода ORPO на смеси общедоступных и синтетических наборов данных, включая argilla/distilabel-capybara-dpo-7k-binarized. Модель предназначена для генерации текста и диалоговых сценариев: ответов на вопросы, инструкций, помощников общего назначения и других задач NLP преимущественно на английском языке. Это Mixture of Experts (MoE) с 141 млрд общих параметров и 35 млрд активных параметров. Доступны варианты квантизации с разной разрядностью — от 2 до 16 бит, что позволяет выбирать компромисс между качеством, размером файлов и требованиями к ресурсам. Размер контекстного окна и поддержка других модальностей в README не указаны; модель является текстовой. Сильные стороны — крупная MoE-архитектура, диалоговая направленность и возможность локального запуска через совместимые инструменты, включая llama.cpp, с выбором степени квантизации. Ограничения включают преимущественную ориентацию на английский язык, высокие требования к вычислительным ресурсам для менее агрессивно квантизированных вариантов и возможное снижение качества при сильной квантизации. Лицензия — Apache 2.0.
ZEUS 8B V13 — плотная языковая модель семейства Llama 3.1, созданная T145 слиянием нескольких моделей методом DARE TIES. В качестве основы использована unsloth/Meta-Llama-3.1-8B-Instruct; в слияние также вошли Llama-3.1-SuperNova-Lite, Llama-3.1-Storm-8B и Llama-3.1-8B-Lexi-Uncensored-V2. Модель содержит 7,5 млрд параметров и поддерживает контекст до 131 072 токенов. Модель предназначена для генерации текста и диалогов, включая ответы на инструкции; её можно применять для продолжения текста и ведения беседы. Карточка приводит результаты оценивания на Open LLM Leaderboard, в том числе IFEval и BBH, но не описывает конкретные языки или специализированные предметные области. Репозиторий использует формат safetensors и библиотеку Transformers. Лицензия — Llama 3.1.
ishikaa/acquisition_generator_AS_gradient_numina_qwen14b — текстовая генеративная модель из семейства Qwen2, опубликованная на Hugging Face. В метаданных указаны 14 млрд параметров, поддержка библиотеки Transformers и максимальный контекст 32 768 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. Модель можно применять для создания ответов на запросы, ведения диалогов, подготовки черновиков текста и других сценариев, основанных на text-generation. Метка conversational указывает на пригодность к разговорным сценариям, однако README не содержит сведений о разработчике, точной специализации, языках обучения или результатах оценки. Лицензия в доступных данных не указана. README также не описывает датасеты, процедуру обучения, ограничения, риски и рекомендуемые параметры использования.
airoboros-13b-gpt4-1.4 — плотная авторегрессионная модель семейства LLaMA примерно на 12,9 млрд параметров, дообученная автором jondurbin на синтетических данных, созданных с помощью GPT-4. Это полное дообучение, а не QLoRA; модель опубликована в формате PyTorch и использует шаблон диалога Vicuna 1.1. Модель предназначена для генерации ответов в диалоге, ответов на вопросы по предоставленному контексту, написания текстов и кода. В обучающие примеры включены многоходовые беседы, ролевые диалоги, шутки, загадки и задачи по программированию на десяти языках. Контекстное окно составляет 2048 токенов; русский язык отдельно не заявлен. Автор сообщает, что модель обучали отвечать по заданному контексту и стараться ограничивать ответ его содержимым, однако это не гарантирует отсутствия выдуманных фактов. В карточке также указана настройка на ответы без отказов, в том числе на потенциально незаконные или аморальные запросы. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение.
Airoboros 7B GPT4 1.4.1 QLoRA — дообученная модель семейства LLaMA, созданная jondurbin на базе синтетических данных, сгенерированных GPT-4. Это вариант QLoRA для сравнения с полной тонкой настройкой; модель содержит около 6,6 млрд параметров и рассчитана на контекст до 2048 токенов. Для диалога использует шаблон в стиле Vicuna 1.1. Модель предназначена для генерации ответов в диалоге, следования инструкциям, ответов на вопросы по предоставленному контексту, помощи с программированием, письма, ролевых диалогов, загадок и викторин. В обучающем наборе есть примеры кода на десяти языках программирования, но естественные языки модели в источниках не перечислены. Модель ориентирована на подробные и прямые ответы, однако README предупреждает, что ответы по контексту могут выдумываться, поэтому для закрытых вопросов рекомендуется явно просить не придумывать ответ при нехватке данных. Модель обучалась следовать запросам без отказов, включая незаконные или аморальные; это может приводить к небезопасным ответам. Лицензия — CC BY-NC 4.0, разрешающая использование с указанием авторства и запрещающая коммерческое использование.
Карточка модели jondurbin/airoboros-l2-70b-2.1 на Hugging Face совпадает с карточкой jondurbin/airoboros-l2-13b-2.1, поэтому описание составлено по ней. airoboros-l2-13b-2.1 — языковая модель на архитектуре Llama 2, дообученная Jondurbin на синтетических инструкциях Airoboros. Она предназначена для диалогов и выполнения инструкций: ответов по заданному контексту, написания текстов и следующих глав, ролевых бесед, помощи с кодом, планирования и генерации аргументов функций в JSON или YAML. В обучающий набор вошли примеры стилизованных ответов и экспериментальные форматы ролевых диалогов. Модель содержит 12,9 млрд параметров, работает с текстом и имеет нативное контекстное окно 4096 токенов. Для диалогов используется формат с маркерами USER и ASSISTANT; карточка рекомендует останавливать генерацию при появлении USER:, поскольку модель может продолжить имитацию диалога. В README указано, что версия 2.1 имеет ошибку форматирования промптов при обучении, которая может ухудшать работу; заявлена как экспериментальная. Модель распространяется по лицензии Llama 2. В карточке описан небольшой набор для ослабления цензурных ограничений, поэтому ответы могут включать чувствительный контент; качество и соблюдение инструкций не гарантированы.
Это готовые объединённые веса Stanford Alpaca-7B, опубликованные пользователем sharpbai. Модель основана на архитектуре LLaMA и предназначена для генерации текста по инструкциям; в карточке указано, что веса можно использовать напрямую. Размер модели — 6,6 млрд параметров, контекст — до 2048 токенов. Модель подходит для диалогов, ответов на вопросы и выполнения текстовых инструкций. Репозиторий содержит веса PyTorch. Указана лицензия other; перед использованием следует проверить условия Meta LLaMA и Alpaca, поскольку README не приводит отдельного описания лицензии для объединённых весов.
Amber Meadow M2 — каузальная языковая модель для генерации текста, опубликованная пользователем или организацией codex176743 на Hugging Face. Модель представлена как checkpoint и предназначена для запуска через библиотеку Transformers с использованием формата Safetensors. Модель относится к семейству Qwen2, содержит около 7,1 млрд параметров и поддерживает контекст длиной до 32 768 токенов. Она может применяться для диалоговой генерации, продолжения текста и других сценариев, основанных на pipeline text-generation. К сильным сторонам относятся сравнительно крупный размер, поддержка длинного контекста и совместимость с экосистемой Transformers. В README отсутствуют сведения о конкретных языках, датасетах обучения, результатах оценки, специализации и рекомендуемых параметрах инференса, поэтому качество в прикладных сценариях необходимо проверять отдельно. Модель распространяется по лицензии Apache-2.0.
Aurora-10.7B — слитая плотная авторегрессионная модель семейства Mistral, опубликованная SteelStorage. По README она собрана из слоёв mistralai/Mistral-7B-Instruct-v0.2 методом passthrough и предназначена как базовая модель для дальнейшего обучения; автор указывает, что после слияния она не дообучалась. В репозитории доступны веса Safetensors, лицензия — Apache-2.0. Модель принимает текст и генерирует текст; метаданные также отмечают поддержку чата. Контекст составляет 32 768 токенов, размер — около 10,6 млрд параметров. README приводит результаты оценок на ARC, HellaSwag, MMLU, T-QA, Winogrande и GSM8K, но они не гарантируют качество на конкретных пользовательских задачах. Языки и специальные предметные области в предоставленных данных не обозначены.
big3-pt2 — текстовая авторегрессионная модель семейства Llama, созданная deltanym методом passthrough mergekit из слоёв deltanym/bigllama3.2-3b-to-7b. Модель содержит 9,5 млрд параметров и рассчитана на генерацию текста и диалоги; метаданные также отмечают интерфейс для вызова инструментов. Модель принимает текстовые запросы и выдаёт текст. Заявленная длина контекста — 131 072 токена. В репозитории используются веса safetensors; конфигурация слияния задаёт тип bfloat16. README не описывает специальную область применения или поддержку конкретных языков. Лицензия в предоставленных данных не указана.
BlueLM-7B-Chat-4bits — 4-битная квантованная версия диалоговой языковой модели BlueLM, разработанной vivo AI Lab. Модель с плотной архитектурой BlueLM и примерно 6,9 млрд параметров предназначена для генерации текста в диалоге и ответов на запросы пользователя. В карточке указана длина контекста 2048 токенов. Модель обучалась преимущественно на китайских и английских данных; корпус также содержал небольшую долю японских и корейских текстов. В README заявлены результаты на тестах общих знаний, математики и программирования, включая C-Eval, MMLU, GSM8K и HumanEval. Лицензия обозначена как other; README сообщает, что веса BlueLM открыты для академических исследований и коммерческого использования.
bruphin-gamma — слитая с помощью mergekit модель генерации текста, созданная nbeerbower методом SLERP из nbeerbower/bruphin-beta и jan-hq/supermario-v2. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Она предназначена для генерации текста и диалогового использования. Модель принимает текст и выдаёт текст. В карточке указана лицензия Apache-2.0. README не описывает специальные прикладные области или дополнительные возможности, поэтому модель можно характеризовать как модель общего назначения.