II.1Анализ требований и архитектура ПО
В разделе собраны самостоятельные задачи, где AI помогает переводить потребности бизнеса в непротиворечивые требования и технические решения. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
18 191 модельЭто объединённая модель генерации текста, созданная yuhengtu-bytedance с помощью mergekit. Она объединяет несколько контрольных точек предварительно обученной языковой модели методом Linear; среди исходных точек указаны шаги обучения от 1000 до 5000. В основе модели — плотная архитектура GPT-NeoX с причинной языковой моделью на 8,8 млрд параметров, сохранённая в формате safetensors. Модель предназначена для генерации текста и диалогового взаимодействия. Контекст составляет до 16 384 токенов, поэтому она может работать с достаточно длинными запросами и историей беседы. В карточке не указаны языки, специализированные области применения или результаты оценки качества; подходящие сценарии следует проверять на собственных данных. Условия лицензирования в доступных сведениях не описаны.
Это объединённая языковая модель yuhengtu-bytedance/sfm_filtered_midtrain_alignment-5k_6k_7k_8k_9k_weightedavg_merge, созданная автором с помощью mergekit из пяти контрольных точек обучения. Для слияния применён линейный метод; контрольная точка global_step9000 использовалась как базовая, а в объединение также вошли состояния на шагах 5000, 6000, 7000 и 8000. Модель построена на архитектуре GPT-NeoX и содержит 8,8 млрд параметров. Она предназначена для генерации текста и диалогового использования; заявленная длина контекста — 16 384 токена. Репозиторий содержит веса в формате Safetensors и использует библиотеку Transformers. README и метаданные не уточняют языковое покрытие, специальные области применения или результаты оценки качества. Лицензия в предоставленных данных не указана.
sfmunfilterede2ealignment-8k9k10k11k12kweightedavgmerge — объединённая языковая модель, созданная автором репозитория с помощью mergekit. В README указано линейное слияние пяти контрольных точек модели unfiltered_e2e_alignment; базовой для слияния служила контрольная точка global_step12040. Это плотная причинная модель GPT-NeoX с 8,8 млрд параметров, сохранённая в safetensors и работающая через Transformers. Модель предназначена для генерации текста и диалогового использования. Её контекст составляет 16 384 токена. Название указывает на выравнивание без фильтрации, однако README не описывает конкретные обучающие данные, языковое покрытие или поведение в задачах безопасности. Лицензия в предоставленных данных не указана.
sfmunfilteredmidtrainalignment-3k4k5kweightedavgmerge — объединённая языковая модель, созданная с помощью mergekit. В линейное слияние вошли три чекпойнта обучения с шагов 3000, 4000 и 5000; чекпойнт с шага 5000 использовался как базовый при слиянии. Каталог определяет архитектуру как плотную GPT-NeoX с причинно-языковой моделью GPTNeoXForCausalLM. Модель содержит 8,8 млрд параметров, работает с текстом и рассчитана на контекст до 16 384 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. В карточке нет сведений о целевых языках, специализированных областях применения или лицензии, поэтому их нельзя уточнить. Также карточка не приводит оценок качества или ограничений слияния; практические результаты следует проверять на целевых задачах.
Это объединённая модель генерации текста, созданная yuhengtu с помощью mergekit методом Linear merge из контрольных точек предварительно обученной языковой модели на шагах 5000, 6000 и 7000. Архитектура — плотная GPT-NeoX с причинно-языковой головой; размер составляет 8,8 млрд параметров, контекст — до 16 384 токенов. Модель предназначена для генерации текста и диалоговых сценариев. В карточке не описаны специальные предметные области, языковой охват или сравнительные результаты. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Сведения о лицензии в доступных данных отсутствуют.
yuhengtu-bytedance опубликовал объединённую модель генерации текста на основе GPT-NeoX. Она создана методом Linear merge с помощью mergekit из контрольных точек предварительно обученных языковых моделей на шагах 8 000, 9 000 и 10 000; размер составляет 8,8 млрд параметров. Модель предназначена для генерации текста и диалогового взаимодействия, поддерживает контекст до 16 384 токенов и распространяется в формате Safetensors через Transformers. В карточке не описаны конкретные языки, данные обучения или области применения, поэтому модель можно охарактеризовать только как языковую модель общего назначения. Лицензия в предоставленных данных не указана.
mahiatlinux/ShadowM7EXP-7B — объединённая автором модель для генерации текста на основе Mistral. Она создана методом SLERP с помощью mergekit из liminerity/M7-7b и automerger/YamshadowExperiment28-7B. Модель имеет 7,1 млрд параметров, использует плотную архитектуру MistralForCausalLM и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалоговых сценариев. Репозиторий содержит веса в формате safetensors; для работы предусмотрена библиотека Transformers. Лицензия — Apache-2.0. README не приводит результатов оценки качества или подробных сведений о языках и ограничениях модели.
Sheared-LLaMA-1.3B-ShareGPT — инструктивно дообученная языковая модель Princeton NLP на архитектуре LLaMA с 1,3 млрд параметров. Для настройки использованы 10 000 пар «инструкция — ответ» из ShareGPT, только первые ходы диалога. Модель рассчитана на генерацию текстовых ответов на запросы в формате инструкции. Её можно применять для ответов на вопросы, выполнения текстовых инструкций и создания диалоговых прототипов. Контекст модели составляет 4096 токенов. Доступна в формате PyTorch; лицензия — Apache-2.0. Карточка не сообщает о дополнительной настройке под конкретные области или языки.
SoMix2-xb — диалоговая текстовая модель, созданная объединением MaziyarPanahi/TheTop-5x7B-Instruct-S3-v0.1 и argilla/notus-7b-v1 с помощью LazyMergekit. В репозитории используются MistralForCausalLM и веса safetensors; конфигурация описывает объединение диапазонов слоёв методом passthrough, объединённый токенизатор и точность float16. Размер модели — 11 млрд параметров, заявленная длина контекста — 32 768 токенов. Модель предназначена для генерации текста и диалоговых ответов. Карточка содержит пример использования с Transformers, но не приводит результаты оценки качества или подробные рекомендации по сценариям применения. Лицензия в предоставленных данных не указана.
Bielik-11B-v3.0-Instruct-GGUF — квантизированная версия инструкционной языковой модели Bielik-11B-v3.0-Instruct, разработанной командой speakleash. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через llama.cpp, LM Studio, KoboldCpp, Jan AI и другие совместимые инструменты. Модель содержит 11 миллиардов параметров и распространяется в формате GGUF с вариантами от BF16 до Q3 и IQ-квантизаций. Доступны файлы разного размера — примерно от 5 до 22 ГБ, что позволяет выбирать баланс между качеством, потреблением памяти и скоростью работы. Конкретные архитектура, поддерживаемые языки, размер контекстного окна и формат prompt не указаны в представленном README; для их уточнения требуется документация исходной модели. Сильной стороной является широкий выбор уровней квантизации: варианты Q5 и Q6 заявлены как высококачественные, а Q4 подходят для большинства сценариев и более ограниченных по памяти систем. Более компактные варианты позволяют запускать модель при меньшем объёме RAM, но могут снижать качество генерации. Лицензия в README не указана и должна быть проверена на странице исходной модели speakleash/Bielik-11B-v3.0-Instruct.
StopCarbon-10.7B-v5 — разговорная языковая модель семейства Llama от kekmodel, предназначенная для генерации текста в формате диалога. Модель имеет плотную архитектуру LlamaForCausalLM и около 10,6 млрд параметров; её контекст составляет 4096 токенов. Репозиторий содержит веса в формате Safetensors. Модель можно использовать для диалоговых ответов и генерации текста по запросу пользователя, оформляя вход по шаблону с ролями User и Assistant. В карточке указана лицензия CC BY-NC-SA 4.0, предусматривающая указание авторства, распространение производных работ на тех же условиях и ограничения на коммерческое использование.
StrangeMerges_47-7B-dare_ties — объединённая модель для генерации диалогового текста, созданная Gille с помощью LazyMergekit. В README указано слияние трёх моделей методом dare_ties: Gille/StrangeMerges_46-7B-dare_ties, AurelPx/Percival_01-7b-slerp и kaist-ai/mistral-orpo-beta; в конфигурации также указан kettleguts/zephyr-7b-beta_sparse05. Метаданные определяют архитектуру как плотную MistralForCausalLM с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для диалоговой генерации текста и следования инструкциям. README приводит результаты оценки на AI2 Reasoning Challenge и HellaSwag, но не описывает отдельные специализированные сценарии или языковое покрытие. Модель опубликована в формате safetensors под лицензией Apache-2.0.
SUS-Chat-72B — диалоговая модель с инструкционной настройкой, опубликованная командой SUSTech. Она основана на плотной архитектуре Llama и предназначена для генерации текста в ответ на запросы и инструкции. Модель содержит 71 млрд параметров, использует формат PyTorch и имеет контекст длиной до 7168 токенов. Модель можно применять для чат-ботов, ответов на вопросы и генерации текста по инструкциям. Карточка README помечена как «not currently in use» и не содержит сведений о языковом охвате, данных обучения, оценках качества или ограничениях в использовании. Лицензия указана как other, поэтому условия использования следует проверять в репозитории модели.
Synthia V3.0 11B AWQ — это квантизированная версия языковой модели Synthia V3.0 11B, разработанной Migel Tissera и опубликованной TheBloke. Модель предназначена для генерации и обработки текста, включая диалоговые сценарии и задачи, требующие связного рассуждения. В README также указан шаблон приглашения Synthia-CoT, ориентированный на последовательное построение ответа с возможностью пересмотра промежуточных шагов. Модель основана на архитектуре Solar и содержит около 11 млрд параметров. Представлена в формате AWQ с 4-битной квантизацией, группой 128 и длиной последовательности 4096 токенов; размер файлов составляет около 5,96 ГБ. Это текстовая модель без заявленной поддержки других модальностей и без указанного набора языков. Квантизация снижает требования к памяти и обеспечивает быструю генерацию при сохранении сопоставимого с распространёнными настройками GPTQ качества, однако для работы требуются совместимые средства инференса и NVIDIA GPU под Linux или Windows; macOS в README не поддерживается. Модель доступна по лицензии Apache-2.0. Она совместима с AutoAWQ, vLLM, TGI, Transformers и text-generation-webui. README не содержит подробных результатов тестирования, поэтому качество на конкретных языках и задачах, а также фактические ограничения исходной Synthia V3.0 11B требуют самостоятельной проверки.
T3qm7xNeuralsirkrishna_AlloyingotneoyExperiment28 — объединённая модель Mistral, созданная из automerger/T3qm7xNeuralsirkrishna-7B и automerger/AlloyingotneoyExperiment28-7B. Она предназначена для генерации текста и диалогов; модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Репозиторий распространяет веса в формате safetensors. Модель принимает текст и генерирует текст. В README не описаны специализация, языки или результаты оценки качества, поэтому её можно охарактеризовать только как модель общего назначения для генерации текста. Лицензия — Apache-2.0.
Hunyuan-7B-Instruct-GGUF — это квантизированная GGUF-версия текстовой генеративной модели Hunyuan-7B-Instruct, разработанной Tencent. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для запуска локально через llama.cpp, LM Studio и другие совместимые проекты. Модель ориентирована на диалоговые сценарии и генерацию текста по инструкциям. В репозитории доступны варианты от BF16 до квантизаций Q2–Q8, размером примерно от 3 ГБ до 15 ГБ; это позволяет выбирать между качеством и требованиями к памяти. Для работы необходимо использовать указанный формат prompt с системным сообщением и специальными токенами. README не содержит сведений об архитектуре, поддерживаемых языках, длине контекста, мультимодальности или результатах бенчмарков. Квантизации с более высокой разрядностью обычно обеспечивают лучшее качество, а варианты Q3 и ниже экономят память, но заметнее теряют в качестве; некоторые форматы предназначены для совместимости с ARM или Apple Silicon. Лицензия в предоставленных данных не указана.
Threebird Scribe Alpha 0.2 — объединённая языковая модель, созданная Lambent методом TIES с помощью mergekit на основе Mistral-7B-v0.1 и моделей Threebird Scribe Alpha 0.1 и Patronum-7B. Модель содержит 7,1 млрд параметров, использует архитектуру Mistral и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста. По описанию автора, версия Alpha 0.1 создавалась для исправления синтаксических проблем с небольшим ухудшением сохранения исходных возможностей; Alpha 0.2 показала небольшое улучшение относительно обеих объединённых моделей на EQ-Bench и сохраняет возможность разбора результатов бенчмарка. Веса опубликованы в формате safetensors, лицензия — Apache-2.0.
turbcat-instruct-72b-GGUF — это набор GGUF-квантизаций инструкционной модели turboderp/turbcat-instruct-72b. Квантизации подготовлены bartowski с использованием llama.cpp и метода imatrix; исходная модель разработана turboderp. Модель предназначена для генерации текста и диалоговых сценариев, включая запуск локально через llama.cpp или LM Studio. Из README известно, что модель имеет размер 72B параметров, работает с текстом и ориентирована на английский язык. Для взаимодействия используется шаблон чата с ролями system, user и assistant на основе специальных токенов <|im_start|> и <|im_end|>. Доступны варианты от F32 размером около 290,83 ГБ до низкобитных IQ2_M и Q2_K размером около 29–31 ГБ. Версии Q6_K_L, Q6_K, Q5 и Q4 рекомендуются как обеспечивающие высокое или хорошее качество; варианты Q3 и Q2 экономят память, но заметно уступают по качеству. Ключевое преимущество набора — широкий выбор квантизаций для компромисса между качеством и требованиями к памяти, включая варианты с улучшенной точностью embedding- и output-весов. Ограничения — высокая ресурсоёмкость 72B-модели, отсутствие в README сведений о длине контекста, архитектурных деталях и результатах бенчмарков, а также потенциальное снижение качества у наиболее компактных вариантов. Лицензия указана как other с названием tongyi-qianwen; в качестве лицензионного документа приведена лицензия Qwen/Qwen2-72B-Instruct.
TwinLlama-3.1-8B-DPO3-GGUF — это набор GGUF-квантизированных версий текстовой генеративной модели TwinLlama-3.1-8B-DPO3, исходно разработанной mlabonne и квантизированной bartowski. Модель относится к семейству Llama, содержит около 8 миллиардов параметров и предназначена для генерации текста на английском языке, включая диалоговые сценарии и задачи, поддерживаемые базовой моделью после обучения методом DPO. Набор рассчитан на локальный запуск через llama.cpp и совместимые приложения, включая LM Studio. Доступны варианты от F16 размером 16,07 ГБ до компактных квантов Q2 и Q3, а также распространённые Q4, Q5, Q6 и Q8; размер файлов составляет примерно от 3,66 до 8,54 ГБ для квантованных версий. Для общения используется шаблон с ролями system, user и assistant в формате ChatML. Для некоторых вариантов предусмотрена оптимизация под ARM-процессоры, требующая соответствующих аппаратных инструкций. Более высокие уровни квантования обеспечивают качество, близкое к исходному, тогда как компактные варианты позволяют снизить требования к оперативной памяти ценой ухудшения качества. Сведения о размере контекста, поддерживаемых модальностях помимо текста, результатах оценки и аппаратных требованиях отсутствуют. Указанная лицензия — Apache-2.0.
horangwave/vicuna_1822 — текстовая генеративная модель, созданная с помощью mergekit на основе lmsys/vicuna-7b-v1.3. В README указано слияние методом passthrough, включающее слои 0–22 и 30–31 базовой модели; метаданные классифицируют связь как дообучение. Модель построена на архитектуре LLaMA с плотной сетью и классом LlamaForCausalLM, содержит 5 млрд параметров и принимает контекст до 2048 токенов. Модель предназначена для генерации текста, в том числе ответов в диалоговых сценариях и экспериментов с чат-ботами. Она принимает текст и выдаёт текст. В карточке указана библиотека Transformers и формат весов safetensors. Лицензия в предоставленных данных не указана.
Vikhr-7B-instruct_0.3 — русскоязычная чат-модель семейства Llama, представленная Vikhrmodels. Это плотная причинная языковая модель с 7,1 млрд параметров, предназначенная для диалога и выполнения инструкций в формате ChatML. Репозиторий содержит веса в формате safetensors; карточка указывает контекст до 32 768 токенов и библиотеку Transformers. Модель подходит для русскоязычных чат-ботов, ответов на вопросы и выполнения текстовых инструкций. В метаданных перечислены обучающие наборы Veles-2.5, darulm и Vikhr_instruct; название и содержание карточки указывают на настройку для инструктивного диалога. README называет модель экспериментальной разработкой и сообщает, что метрики и инструкции по запуску появятся позже. Лицензия в предоставленных данных не указана.
Westbreeze-7B — языковая модель для генерации текста и диалогового общения, созданная Rebecca19990101 с помощью LazyMergekit. Это объединение senseable/WestLake-7B-v2 и Rebecca19990101/Breeze-Petro-7B-Instruct-v1: слои 0–23 взяты из первой модели, а слои 24–31 — из второй; используется метод passthrough с точностью float16. Модель построена на плотной архитектуре MistralForCausalLM, содержит 7,2 млрд параметров и поддерживает контекст до 32 768 токенов. Карточка указывает на возможность чата, но не описывает конкретные языки или специализированные сценарии применения. Модель распространяется по лицензии Apache-2.0.
Casual-Autopsy/WorldGen-v2-TEST001 — языковая модель на архитектуре Mistral, созданная методом слияния TIES из нескольких моделей с помощью mergekit. В качестве базовой использована kubernetes-bad/chargen-v2; также в состав слияния вошли NeverSleep/Noromaid-7B-0.4-DPO, Weyaxi/Einstein-v4-7B с адаптером Severian/Einstein-IKM-v1-7B-LoRa и teknium/OpenHermes-2.5-Mistral-7B. Модель содержит 7,1 млрд параметров и рассчитана на генерацию текста и диалоговое взаимодействие. Она подходит для ведения бесед и создания текстовых ответов; карточка не описывает более узкую специализацию. Модель принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов и распространяется в формате safetensors для библиотеки Transformers. Данные не указывают специально поддерживаемые естественные языки. Условия лицензии в предоставленных сведениях не приведены.
YamExperiment28-7B — автоматическое слияние моделей, созданное Maxime Labonne из моделей yam-jom-7B и Experiment28-7B методом DARE-TIES. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, предназначенная для генерации текста. Метаданные указывают контекст до 32 768 токенов и формат весов safetensors. Модель можно использовать для генерации продолжений и ответов на текстовые запросы. README не сообщает о специализации, языковом охвате или результатах оценки качества. Указана лицензия Apache-2.0.
YamMulti_verse_model-7B — объединённая языковая модель на архитектуре Mistral, созданная с помощью mergekit. Разработчик объединил mayacinka/yam-jom-7B-slerp и ammarali32/multi_verse_model методом DARE TIES; в карточке базовой для слияния указана mayacinka/yam-jom-7B-slerp. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста на основе текстового запроса. Её можно использовать для диалогов, написания и продолжения текста, а также для других сценариев генерации. Данные не уточняют специализацию по языкам или прикладным областям. Модель распространяется в формате safetensors и рассчитана на работу через Transformers. Сведения о лицензии и известных ограничениях в предоставленных источниках отсутствуют.
Yamshadowexperiment28M70.18-0.88-0.5-0.08-0.65-0.29-7B — объединённая языковая модель на архитектуре Mistral, опубликованная пользователем aaron-di. Модель содержит 7,1 млрд параметров и предназначена для генерации текста и диалогов; в карточке приведён пример запуска через Transformers с шаблоном чата. Родной размер контекста — 32 768 токенов. Модель принимает текстовые запросы и генерирует текст. Она объединяет AurelPx/Percival_01-7b-slerp и liminerity/M7-7b; файлы представлены в формате safetensors. Лицензия — Apache-2.0. README не приводит результатов оценки качества или сведений о языковой специализации модели.
Aaron-di/Yamshadowexperiment28M70.25-0.07-0.83-0.08-0.94-0.93-7B — объединённая автором модель для генерации текста и диалогов на архитектуре Mistral. В README приведён пример использования через Transformers с chat template и генерацией ответа на запрос пользователя. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст длиной до 32 768 токенов. Репозиторий использует формат safetensors; лицензия — Apache-2.0. Метаданные указывают на слияние моделей AurelPx/Percival_01-7b-slerp и liminerity/M7-7b. README не приводит результатов оценки качества и не описывает специализацию по языкам или областям применения, поэтому пригодность для конкретных задач следует проверять самостоятельно.
Yamshadowexperiment28M70.8-0.01-0.86-0.36-0.42-0.95-7B — объединённая языковая модель на архитектуре Mistral с 7,1 млрд параметров, опубликованная пользователем aaron-di. Она предназначена для генерации текста и диалогов; модель можно запускать через Transformers, используя шаблон чата. Заявленная длина контекста — 32 768 токенов. Модель принимает текст и генерирует текст. В карточке указано объединение моделей AurelPx/Percival_01-7b-slerp и liminerity/M7-7b. Репозиторий распространяет веса в формате Safetensors по лицензии Apache-2.0. README содержит пример генерации, но не описывает результаты оценки качества или конкретные языковые специализации.
YamshadowInex12_M7T3qm7x — слитая языковая модель MaziyarPanahi на архитектуре Mistral с 7,1 млрд параметров. Она предназначена для генерации текста и диалоговых сценариев на основе текстового запроса; поддерживает контекст до 32 768 токенов. Модель объединяет веса automerger/YamshadowInex12-7B и automerger/M7T3qm7x-7B. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0. Карточка не описывает специализированные области применения или отдельные языковые возможности.
cloudyu/Yi-34Bx2-MOE-200K — экспериментальная чат-модель на базе Yi с архитектурой MoE. Автор карточки описывает её как попытку создать модель с контекстом 200 тысяч токенов; метаданные указывают 33,9 млрд параметров, архитектуру MixtralForCausalLM и поддержку генерации текста. Репозиторий содержит веса в формате safetensors, а в README также упомянута 4-битная версия GGUF. Модель предназначена для генерации текста и диалогового использования, в том числе с длинным контекстом. Карточка не приводит результатов метрик или подробных сведений о качестве. Лицензия указана как other, поэтому условия использования следует сверять с лицензией в репозитории.