II.1Анализ требований и архитектура ПО
В разделе собраны самостоятельные задачи, где AI помогает переводить потребности бизнеса в непротиворечивые требования и технические решения. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
18 191 модельMacaroni-7b-Tied — языковая модель для генерации текста, созданная объединением нескольких моделей семейства Mistral методом TIES. В качестве базовой использована mistralai/Mistral-7B-v0.1; в слияние также вошли decruz07/kellemar-DPO-Orca-Distilled-7B-SLERP, mlabonne/NeuralMarcoro14-7B, fblgit/UNA-TheBeagle-7b-v1 и SanjiWatsuki/Lelantos-DPO-7B. Модель построена на плотной архитектуре MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Она предназначена для генерации англоязычного текста и может использоваться для диалога, ответов на вопросы и рассуждений в текстовом формате. Репозиторий содержит веса Safetensors; лицензия — Apache-2.0. Как и другие языковые модели, она может выдавать фактические ошибки, галлюцинации и предвзятые либо неподходящие ответы. Результаты следует проверять, особенно в критичных сценариях; разработчик предоставляет модель без гарантий пригодности для конкретной задачи.
Magistral-Small-2506-GGUF — это GGUF-квантизированная версия языковой модели Magistral Small, разработанной Mistral AI. Файл подготовлен пользователем lmmy на основе llama.cpp, а распространением модели в рамках Community Model Program занимается сообщество LM Studio. Модель предназначена для генерации текста и задач, связанных с рассуждением, включая диалоговые сценарии, ответы на вопросы и обработку текстовых запросов. Модель поддерживает контекст длиной до 49 152 токенов и работает в формате GGUF, совместимом с llama.cpp и приложениями, использующими этот формат, включая LM Studio. В README не указаны точный размер модели, конкретная конфигурация архитектуры, поддерживаемые языки и модальности, а также параметры используемой квантизации. К сильным сторонам относятся большой контекст и возможность локального запуска через совместимое программное обеспечение. К ограничениям относятся потенциальное снижение качества из-за квантизации и отсутствие подробных данных о производительности, языковой поддержке и требованиях к оборудованию. Модель распространяется по лицензии Apache-2.0; при использовании следует учитывать, что она может генерировать неточные, вредные или неподходящие результаты.
Manticore-13b-Landmark — объединённая модель на архитектуре LLaMA, представленная Honkware. Она сочетает Manticore-13B и Manticore-13B-Landmark-QLoRA и предназначена для генерации текста с применением Landmark Attention. В README заявлен увеличенный размер контекста около 18 тысяч токенов; метаданные указывают 12,9 млрд параметров и нативный контекст 2048 токенов. Модель подходит для продолжения текста и диалоговых сценариев, где полезно учитывать длинный контекст. Репозиторий содержит веса PyTorch; лицензия обозначена как «other», поэтому условия использования следует сверить с лицензией и файлами репозитория перед применением. README также содержит настройки запуска через Oobabooga, включая включение доверенного удалённого кода.
Marcoroni-neural-chat-7B-v2 — объединённая языковая модель на архитектуре MistralForCausalLM, созданная с помощью Slerp и mergekit из AIDC-ai-business/Marcoroni-7B-v3 и Intel/neural-chat-7b-v3-3. Обе исходные модели основаны на mistralai/Mistral-7B-v0.1. Модель содержит 7,1 млрд параметров, принимает текст и генерирует текст; заявленный контекст — до 32 768 токенов. Она предназначена для тестирования возможностей объединённой модели и задач генерации текста. Репозиторий предоставляет веса в формате safetensors; лицензия — Apache-2.0.
Marcoroni-neural-chat-7B-v2-Mistral-7B-Instruct-v0.2-slerp — объединённая диалоговая языковая модель, созданная методом SLERP из mistralai/Mistral-7B-Instruct-v0.2 и Toten5/Marcoroni-neural-chat-7B-v2. Она предназначена для генерации текста и ответов на инструкции в формате диалога. Модель построена на плотной архитектуре MistralForCausalLM и содержит 7,1 млрд параметров. Поддерживает контекст до 32 768 токенов; опубликованные веса представлены в формате safetensors. Карточка не приводит сведения о поддерживаемых языках. Модель можно применять для диалоговых помощников, ответов на вопросы и генерации текста. Репозиторий распространяется по лицензии Apache-2.0. Качество ответов и конкретные языковые возможности в карточке не описаны.
MeliodasPercival_01_Experiment24Inex12 — объединённая модель на архитектуре Mistral с 7,1 млрд параметров. Она создана слиянием automerger/MeliodasPercival_01-7B и automerger/Experiment24Inex12-7B и предназначена для генерации текста и диалогов. Модель принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов. Модель распространяется в формате Safetensors по лицензии Apache 2.0. Карточка не приводит сведений о языковой специализации, результатах оценки качества или конкретных ограничениях; поэтому пригодность для отдельных языков и сценариев стоит проверять на собственных примерах.
Memalpha-4B — генеративная текстовая модель, опубликованная пользователем YuWangX на Hugging Face. По метаданным она предназначена для генерации текста и поддерживает conversational-сценарии; в тегах также указана связь с семейством Qwen3. Модель рассчитана на работу через библиотеку Transformers и распространяется в формате Safetensors. Модель содержит около 3,7 млрд параметров и поддерживает контекст длиной до 40 960 токенов, что позволяет обрабатывать достаточно длинные диалоги и документы. Её можно применять для создания ответов в чатах, продолжения текста, черновой генерации контента и интеграции в приложения на базе Transformers. README не содержит сведений о разработчиках, лицензии, языках, обучающих данных, результатах оценки, безопасности и рекомендуемых сценариях использования. Поэтому перед применением в продуктивных, чувствительных или коммерческих системах необходимы самостоятельная проверка качества, совместимости и условий распространения.
mahiatlinux/merged1 — объединённая языковая модель, созданная автором репозитория с помощью LazyMergekit из mistralai/Mistral-7B-Instruct-v0.2 и chihoonlee10/T3Q-Mistral-Orca-Math-DPO. Веса объединены методом slerp; архитектура — плотная MistralForCausalLM, размер — 7,1 млрд параметров, формат файлов — safetensors. Модель рассчитана на генерацию текста и диалоговые сценарии, включая ответы на инструкции и математические запросы. Поддерживает контекст до 32 768 токенов. Модель принимает текст и генерирует текст. В карточке указана лицензия базовой модели, но лицензия самого объединённого репозитория не приведена в доступных данных, поэтому условия использования установить нельзя. Качество и ограничения именно этого слияния в карточке не оценены.
Это объединённая языковая модель семейства Llama, созданная сообществом mergekit-community методом SLERP из mergekit-community/mergekit-slerp-anaazls и mergekit-community/mergekit-slerp-epibiuy. Конфигурация задаёт кривую смешивания, которая, согласно карточке, сочетает Hermes на входных и выходных слоях с WizardMath в средних слоях. Модель предназначена для генерации текста и диалогового взаимодействия. Она содержит 33,9 млрд параметров, использует архитектуру LlamaForCausalLM и заявленное контекстное окно 200 000 токенов. Веса доступны в формате safetensors; для работы указана библиотека Transformers. Карточка не сообщает языки обучения и подробные результаты оценки качества, поэтому пригодность для конкретных языков и задач стоит проверять отдельно. Условия лицензии в предоставленных сведениях не указаны.
Meta-Llama-3-11.5B-Instruct — созданная mpasila экспериментальная инструкционная языковая модель, полученная слиянием слоёв Undi95/Meta-Llama-3-8B-Instruct-hf методом passthrough с помощью mergekit. Модель предназначена для диалогов и генерации текста в ответ на инструкции; архитектура — плотная Llama с причинным языковым моделированием, объём — около 11 млрд параметров, контекст — 8192 токена. Карточка указывает английский язык и формат safetensors. Модель может подойти для чат-ботов, ответов на вопросы, написания и продолжения текстов, а также генерации кода. Доступна по лицензии llama3. Карточка описывает способ слияния, но не приводит сравнительных оценок качества; как экспериментальная Frankenmerge, она может отвечать менее стабильно, чем исходная модель.
winglian/Meta-Llama-3-8B-1M — слитая модель на базе Llama 3 8B, созданная объединением исходной модели с LoRA-адаптером от инструкционной модели Gradient AI с контекстом 1M токенов. Это плотная авторегрессионная языковая модель класса LlamaForCausalLM с 7,5 млрд параметров, предназначенная для генерации текста и работы с длинным контекстом. Репозиторий содержит веса в формате safetensors. Модель подходит для генерации продолжений и ответов на запросы с большим объёмом текста в контексте. README не сообщает сведения о поддерживаемых языках или конкретных оценках качества. Лицензия в предоставленных данных не указана.
Это 7-миллиардная чат-модель Llama 2 от Meta, представленная в репозитории abhinavkulkarni в 4-битном формате AWQ с размером группы 128 для запуска через Hugging Face Transformers. Модель предназначена для генерации текста в диалоге и других сценариях работы с текстом; архитектура — плотная авторегрессионная LlamaForCausalLM, число параметров по метаданным — 6,6 млрд, контекст — до 4096 токенов. Карточка приводит оценку perplexity на wikitext для исходной и квантованной версии; значения у квантованной версии немного выше. Квантование AWQ уменьшает точность весов до 4 бит, что позволяет экономить память при запуске. В README указана проверка на CUDA 11.7 и требование к NVIDIA GPU с compute capability 8.0 или выше. Карточка не указывает лицензию, поэтому условия использования по имеющимся данным описать нельзя.
MiniMax-M2 — языковая модель для генерации текста, разработанная MiniMax AI. Она предназначена для сценариев text-generation, включая создание и преобразование текстов, ответы на запросы и интеграцию в приложения на базе Transformers. Из доступных данных известно, что модель распространяется для работы с библиотекой Transformers. README не содержит сведений об архитектуре, количестве параметров, поддерживаемых языках, размере контекста, модальностях, результатах тестирования или конкретных ограничениях качества, поэтому эти характеристики нельзя оценить по представленным материалам. Модель предоставляется по лицензии modified-MIT; точные условия следует уточнять в файле лицензии, указанном в репозитории MiniMax-AI/MiniMax-M2. Лицензионные ограничения и требования к коммерческому использованию могут отличаться от стандартной MIT-лицензии.
Mini_synata_7b_011-Mistral-7B-Instruct-v0.1 — объединённая чат-модель на архитектуре Mistral с 7,1 млрд параметров. Разработана путём слияния mistralai/Mistral-7B-Instruct-v0.1 и Minirecord/Mini_synata_7b_011 методом SLERP; конфигурация использует базовую модель Mistral-7B-Instruct-v0.1 и точность bfloat16. Модель предназначена для генерации текста и ответов на инструкции и диалоговые запросы. Она принимает текст, поддерживает чат-взаимодействие и имеет контекст длиной до 32 768 токенов. Данные не подтверждают специализацию на конкретном языке или предметной области. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0. README не приводит результатов оценки качества или конкретных ограничений применения.
Mini_synatra_7b_03-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная слиянием mistralai/Mistral-7B-Instruct-v0.2 и Minirecord/Mini_synatra_7b_03 методом SLERP. Модель основана на плотной архитектуре MistralForCausalLM и содержит 7,1 млрд параметров; файлы представлены в формате safetensors. Модель предназначена для генерации текста и ответов на инструкции в диалоговом формате. Контекст составляет до 32 768 токенов. В карточке не описаны специализированные предметные области или отдельные мультимодальные возможности; вход и выход — текст. Модель выпущена под лицензией Apache-2.0. Карточка не приводит сравнительных оценок качества или подробностей о поддерживаемых языках, поэтому пригодность для конкретного языка или узкой задачи следует проверять отдельно.
Карточка модели NostraEmpire/mirror-qwq-32b на Hugging Face совпадает с карточкой Qwen/QwQ-32B, поэтому описание составлено по ней. QwQ-32B — reasoning-модель семейства Qwen от команды Qwen, основанная на Qwen2.5-32B и дообученная с supervised fine-tuning и reinforcement learning. Это плотная причинная языковая модель на 32 млрд параметров для генерации текста и диалогов, рассчитанная на сложные задачи, где полезны рассуждения, в частности решение математических задач и ответы на трудные вопросы. Поддерживает интерфейс вызова инструментов. Архитектура Qwen2 использует RoPE, SwiGLU, RMSNorm и смещение в QKV attention; в модели 64 слоя и grouped-query attention с 40 головами Q и 8 головами KV. README заявляет контекст до 131 072 токенов, тогда как метаданные указывают нативный контекст 40 960 токенов. Для входов длиннее 8 192 токенов README рекомендует включать YaRN; статическое масштабирование в vLLM может снижать качество на коротких текстах. Модель описана как конкурентоспособная с другими reasoning-системами, но конкретные результаты оценки в карточке не приведены. Модель принимает текст и генерирует текст. Карточка указывает английский язык. Для снижения повторов README рекомендует не использовать жадное декодирование и настраивать параметры sampling; при повышении presence penalty возможны смешение языков и небольшое снижение качества. Лицензия — Apache-2.0.
EmbeddedLLM/Mistral-7B-Merge-14-v0.4 — экспериментально собранная языковая модель на архитектуре Mistral с 7,1 млрд параметров. Авторы объединили 14 моделей методом DARE TIES, а результат дополнительно объединили с Weyaxi/OpenHermes-2.5-neural-chat-v3-3-openchat-3.5-1210-Slerp методом Gradient SLERP. Модель предназначена для генерации текста и ответов на инструкции в диалоговом формате. Поддерживает шаблоны ChatML и Llama-2 chat, английский язык и контекст до 32 768 токенов. В README приведены результаты Open LLM Leaderboard: средняя оценка 71,19, включая ARC, HellaSwag и MMLU; авторы отмечают, что модели может потребоваться дополнительное дообучение на инструкциях. Лицензия — Apache-2.0.
Mistral-Nemo-12B-ArliAI-RPMax-v1.1-GGUF — это набор GGUF-квантизированных файлов модели Mistral-Nemo-12B-ArliAI-RPMax-v1.1, разработанной ArliAI. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и может запускаться, в частности, в LM Studio с шаблоном запроса <s>[INST]{prompt}[/INST]. Доступны варианты от исходных весов F16 размером 24,50 ГБ до более компактных форматов Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и IQ4_XS/IQ3_M; размеры файлов варьируются примерно от 5,72 до 24,50 ГБ. Старшие варианты квантизации обеспечивают качество, близкое к исходному, а младшие подходят для систем с ограниченным объёмом оперативной памяти, но могут заметно уступать в качестве. Отдельные варианты оптимизированы для ARM и требуют соответствующей аппаратной поддержки. В README не указаны модальности, языки и размер контекста. Распространение заявлено по лицензии Apache-2.0.
ModernCE-base-nli — англоязычный cross-encoder на архитектуре ModernBERT-base, обученный автором dleemiller для классификации отношений между парами текстов: противоречие, нейтральность или следование. Модель дообучена на наборе AllNLI из Sentence Transformers и совместима с сопоставимыми cross-encoder-моделями Sentence Transformers. Модель предназначена для NLI, оценки смыслового сходства и проверки того, следует ли гипотеза из текста-посылки. Автор сообщает точность 90,34% на MNLI mismatched и 90,25% на SNLI. В README заявлена обработка последовательностей до 8192 токенов, тогда как метаданные указывают нативный контекст 2048 токенов. Веса содержат около 149 млн параметров и доступны в формате safetensors. Лицензия — MIT. Показатели приведены для указанных тестовых наборов; они не гарантируют качество на других данных. Модель ориентирована на английский язык.
MoziAI-35B-A3B-MOE — локальная мультимодальная модель, разработанная командой китайского финансового автора Чэнь Юймо. Она создана на базе Ornith-1.5-35B-A3B с архитектурой семейства Qwen3.5/Qwen3.6 и ориентирована на финансовые задачи, программирование, анализ данных, создание текстов, работу с инструментами и агентами. Модель распространяется в формате GGUF и поддерживает llama.cpp, Ollama, LM Studio и Jan. Модель использует MoE-архитектуру объёмом 35 млрд параметров: заявлены 56 маршрутизируемых экспертов и один общий эксперт, при этом на токен активируется 8 экспертов. Самостоятельная технология квантования MoziSmartBit уменьшает размер модели примерно до 15,5 ГБ, что упрощает запуск на потребительских видеокартах. Заявлена поддержка контекста до 128K токенов, визуального ввода, вызова инструментов, многоагентных сценариев и около 201 языка и диалекта; отдельно усилены китайский и финансовый языки. Сильные стороны модели — специализация на финансовых вопросах, рыночном и финансовом анализе, разработке количественных стратегий, работе с финансовыми источниками, а также возможности локального запуска, сохранения конфиденциальности данных и интеграции с IDE и агентскими платформами. К ограничениям относятся зависимость производительности от оборудования, необходимость CPU-выгрузки на некоторых видеокартах и возможная потеря качества из-за квантования. Модель позиционируется как uncensored и не содержит встроенных ограничений на тематику ответов, поэтому результаты требуют контроля пользователя. Для самой модели указана лицензия other; базовая модель заявлена под MIT.
zelk12/MT1-Gen5-MAG-gemma-2-9B — объединённая языковая модель на архитектуре Gemma 2, созданная с помощью mergekit методом SLERP из zelk12/MT1-Gen5-GP-gemma-2-S4S2-9B и zelk12/MT1-Gen5-MA-gemma-2-S2S4-9B. Модель содержит 9 млрд параметров, рассчитана на генерацию текста и диалоговое взаимодействие и имеет контекстное окно 8192 токена. Работает с текстовым вводом и выдаёт текст; репозиторий содержит веса в формате safetensors. Модель подходит для диалоговых приложений и генерации ответов или другого текста. Данные карточки не описывают специализацию по отдельным областям или языкам. Лицензия в предоставленных сведениях не указана.
zelk12 создал эту диалоговую языковую модель, объединив с помощью SLERP двух предварительно обученных моделей Gemma 2: recoilme/recoilme-gemma-2-9B-v0.3 и zelk12/recoilme-gemma-2-Ifable-9B-v0.1. Модель использует плотную архитектуру Gemma2ForCausalLM, содержит 9 млрд параметров и рассчитана на генерацию текста и диалоговое общение; поддерживает контекст до 8192 токенов. Модель подходит для чат-ботов и генерации ответов на текстовые запросы. В карточке указаны формат safetensors и библиотека Transformers. Сведения о лицензии и конкретных языках в доступных данных отсутствуют, поэтому условия распространения и языковой охват по этой карточке определить нельзя.
zelk12/MT3-Gen4-gemma-2-9B — объединённая разговорная языковая модель на 9 млрд параметров, созданная с помощью mergekit методом SLERP из zelk12/MT3-Gen4-MAMM-gemma-2-9B и zelk12/MT3-Gen4-GBMUI-gemma-2-9B. В основе лежит плотная архитектура Gemma 2 для причинной генерации текста; модель рассчитана на диалоговое применение и работает через библиотеку Transformers. Модель подходит для генерации ответов и ведения диалога в пределах контекста до 8192 токенов. В README приведены результаты оценки на Open LLM Leaderboard, включая IFEval и BBH, однако они сами по себе не гарантируют качество в конкретных сценариях. Модель распространяется по лицензии Gemma.
zelk12 опубликовал объединённую модель MT3-IMA-gemma-2-9B, созданную с помощью mergekit из двух предварительно обученных моделей Gemma 2. Для объединения применён метод SLERP с параметром t=0.5; веса представлены в формате bfloat16 и safetensors. Модель предназначена для генерации текста и диалогового взаимодействия, включая выполнение инструкций. Это плотная причинная языковая модель Gemma 2 с 9 млрд параметров и контекстом 8192 токена, работающая через библиотеку Transformers. Языковая специализация в предоставленных данных не указана. Лицензия в предоставленных источниках не описана. Как и у других объединённых моделей, качество и поведение могут отличаться от исходных моделей; отдельные оценки качества в карточке не приведены.
zelk12/MT-Merge2-MA-gemma-2-MT4g2MTg2-9B — объединённая модель генерации текста на архитектуре Gemma 2, созданная методом SLERP с помощью mergekit из zelk12/MT4-Gen2-gemma-2-9B и zelk12/MT-Gen2-gemma-2-9B. Модель предназначена для текстовых ответов и диалогового общения; размер составляет 9 млрд параметров, нативная длина контекста — 8192 токена. Репозиторий содержит веса Safetensors, а README также описывает вариант GGUF Static. Модель подходит для чат-ботов и генерации текста в приложениях на базе Transformers. Метаданные не определяют целевые языки или специализированные предметные области, поэтому их нельзя уверенно указать. В README приведены параметры слияния: SLERP, тип данных bfloat16 и коэффициент t=0.25. Сведения о лицензии и конкретных ограничениях качества в доступных материалах отсутствуют.
Muse-Glimmer-30B-GGUF — квантизированная версия мультимодальной модели Muse-Glimmer-30B, разработанной meta-models и подготовленной в формате GGUF пользователем bartowski. Модель предназначена для генерации и анализа текста, а также обработки изображений при использовании дополнительного файла mmproj, поэтому подходит для текстовых и текстово-визуальных сценариев. Поддерживается MTP, однако подробности архитектуры, языков и размера контекстного окна в карточке не указаны. Модель содержит около 30 млрд параметров и доступна в вариантах от BF16 до низкобитных квантований Q2 и IQ3. Квантизации выполнены с использованием llama.cpp и imatrix; варианты отличаются размером файла, качеством и требованиями к оперативной памяти. В качестве сбалансированного варианта рекомендуется Q4_K_M размером около 17,31 ГБ, а Q5 и Q6 позиционируются как более качественные, но более ресурсоёмкие. Низкобитные варианты позволяют работать при ограниченных ресурсах, но могут заметно терять в качестве. Для использования необходим совместимый рантайм llama.cpp или другое ПО с поддержкой GGUF; для обработки изображений требуется mmproj-файл. Модель распространяется по лицензии Apache-2.0.
Nemotron 3.5 Lightning 30B-A3B REAP-20B — экспериментальная производная модель sleepyeldrazi на основе NVIDIA Nemotron 3.5 Lightning 30B-A3B. Это гибридная архитектура Mamba-2, MoE и attention для генерации текста и диалога. Метод REAP сократил число маршрутизируемых экспертов с 128 до 77 в каждом из 23 MoE-слоёв; по README, размер модели уменьшен с 31,58 до 19,87 млрд параметров, при этом активными остаются около 3 млрд. Метаданные каталога указывают 1,9 млрд параметров, поэтому точный размер в источниках расходится. Модель предназначена как базовая точка для последующего дообучения LoRA и для общих текстовых задач с небольшим уклоном в программирование: ответов на вопросы, рассуждений, математических задач и работы с кодом. Калибровка выполнена на смеси инструкций, примеров кода и математики; заявленный нативный контекст в метаданных — 262 144 токена. README описывает ограниченную проверку генерации, но не приводит результатов полных бенчмарков. Это ранняя альфа-версия, поэтому качество следует проверять на целевых задачах; для специализированных сценариев автор рекомендует калибровку на собственных данных. Модель распространяется по лицензии OpenMDW-1.1.
Nemotron-Labs-TwoTower-30B-A3B-Base-BF16 — базовая языковая модель NVIDIA Corporation, построенная на базе NVIDIA-Nemotron-3-Nano-30B-A3B-Base-BF16. Это блоковая авторегрессионная диффузионная модель: замороженная контекстная башня обрабатывает запрос и уже сформированные токены, а обученная башня-денойзер итеративно восстанавливает блоки токенов параллельно. Обе башни используют гибридную архитектуру Mamba-2, attention и MoE; в модели около 30 млрд параметров в сумме и 3 млрд активируются на токен согласно названию модели. Модель предназначена для генерации текста, включая диалоговые и общие языковые сценарии. При размере блока 16 и настройках по умолчанию в README указаны 98,7% агрегированного качества авторегрессионной базовой модели и в 2,42 раза более высокая пропускная способность генерации в тесте на двух H100. Поддерживаются режимы диффузионной генерации блоками, имитации авторегрессии и обычной авторегрессионной генерации. Максимальный размер входа — 128 тыс. токенов; в README перечислены английский, испанский, французский, немецкий, японский, итальянский, португальский, китайский, арабский, датский, корейский, нидерландский, польский, русский, шведский и тайский языки. Для запуска используется Hugging Face Transformers с trust_remote_code=True. Полная двухбашенная диффузионная генерация рассчитана на две 80-ГБ GPU; для режима только с контекстной башней достаточно одной 80-ГБ GPU. README заявляет готовность к коммерческому использованию, но метаданные обозначают лицензию как other и не уточняют её условия, поэтому перед применением следует проверить лицензионные документы репозитория.
Neona-12B — объединённая текстовая модель на 12,1 млрд параметров, созданная kyx0r с помощью mergekit и метода NearSwap. В качестве базовой использована yamatazen/NeonMaid-12B-v2; в объединение также включена yamatazen/LorablatedStock-12B. Модель построена на архитектуре Mistral и предназначена для генерации текста в диалоговом формате ChatML. Заявленная длина контекста — 131 072 токена. Модель подходит для диалогов и генерации текста. В карточке не указаны поддерживаемые естественные языки и специализированные области применения. Весы опубликованы в формате safetensors; лицензия и ограничения использования в предоставленных данных не описаны.
NeuralJaskier-7b-dpo — языковая модель на 7,1 млрд параметров, созданная слиянием моделей bardsai/jaskier-7b-dpo-v6.1 и CultriX/NeuralTrix-7B-dpo с помощью LazyMergekit. Использует плотную архитектуру MistralForCausalLM и предназначена для генерации текста; заявленная длина контекста составляет 32 768 токенов. Модель подходит для генерации ответов и диалогового текста, а также для других сценариев, где требуется продолжение текста. Веса опубликованы в формате safetensors. Лицензия — MIT.