II.1Анализ требований и архитектура ПО
В разделе собраны самостоятельные задачи, где AI помогает переводить потребности бизнеса в непротиворечивые требования и технические решения. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
18 191 модельКарточка модели princeton-nlp/Mistral-7B-Instruct-CPO на Hugging Face совпадает с карточкой princeton-nlp/Llama-3-Instruct-8B-SimPO-v0.2, поэтому описание составлено по ней. Llama-3-Instruct-8B-SimPO-v0.2 — диалоговая языковая модель семейства Llama, выпущенная командой Princeton NLP как модель из работы SimPO (Simple Preference Optimization with a Reference-Free Reward). Она предназначена для генерации текста в формате инструкций и диалога. Модель содержит 7,5 млрд параметров, принимает текст и имеет контекстное окно 8192 токена. Модель связана с исследованием оптимизации предпочтений без эталонной модели. В карточке не приведены подробности обучения, оценки качества или специальные области применения; метаданные указывают поддержку чата и формат весов safetensors. Лицензия в предоставленных данных не указана.
bhenrym14/mistral-7b-platypus-fp16 — плотная языковая модель Mistral на 7,1 млрд параметров, созданная на основе mistralai/Mistral-7B-v0.1. Автор дообучил её на инструкциях из набора garage-bAInd/Open-Platypus, используя объединённый QLoRA-адаптер ранга 64. Модель предназначена для генерации текста в ответ на инструкции и запросы; в карточке приведены результаты тестов ARC, HellaSwag и MMLU. Модель рассчитана на контекст до 32 768 токенов и использует архитектуру MistralForCausalLM. Для работы карточка рекомендует загрузку через Transformers; на момент её написания требовалась версия библиотеки из исходного кода. Обучение велось с устаревшим системным промптом Airoboros версии ниже 2.0, что важно учитывать при подготовке запросов. Это дообученная модель, а не исходная разработка автора репозитория. В карточке не приведены сведения о лицензии, поэтому условия использования следует проверять у базовой модели и в репозитории. Описанные бенчмарки не гарантируют качество на произвольных задачах; автор также отмечает, что скользящее оконное внимание и размер модели могут ограничивать её конкурентоспособность при работе с длинным контекстом.
Mistral-7B-v0.1-ties — языковая модель на архитектуре Mistral, созданная объединением весов mistralai/Mistral-7B-v0.1 и mlabonne/NeuralHermes-2.5-Mistral-7B с помощью mergekit и метода TIES. Модель содержит 7,1 млрд параметров, сохранена в формате safetensors и рассчитана на генерацию текста; базовое окно контекста составляет 32 768 токенов. Модель подходит для диалоговых приложений и генерации ответов, опирающихся на возможности объединённых моделей. В README указаны параметры слияния: плотность 0,5, вес второй модели 0,3 и тип данных float16. Репозиторий распространяется по лицензии Apache-2.0. Конкретные гарантии качества и подробные результаты оценки в карточке не приведены.
ehristoforu/mistral-distil-test-7 — текстовая генеративная модель, созданная с помощью mergekit из unsloth/Mistral-Nemo-Instruct-2407. В README указан метод passthrough и конфигурация, которая переносит слои исходной модели; метаданные классифицируют происхождение как дообучение базовой модели. Это плотная архитектура MistralForCausalLM на 9,5 млрд параметров, распространяемая в формате safetensors и предназначенная для диалоговой генерации текста. Заявленная длина контекста — 1 024 000 токенов. Модель подходит для ведения диалога и генерации текста по запросу. В карточке нет сведений о специализированных областях применения или поддерживаемых языках. Лицензия в предоставленных данных не указана.
Mocha-Dare-7b-ex — языковая модель, созданная объединением нескольких предварительно обученных моделей с помощью mergekit и метода DARE TIES. В качестве основы использована Mistral-7B-v0.1; в объединение также вошли Open-Orca/Mistral-7B-OpenOrca, Mistral-7B-v0.1-Open-Platypus и WizardMath-7B-V1.1. Модель предназначена для генерации текста и может применяться в диалогах, ответах на вопросы, решении задач по математике и общих инструкциях. Она построена на плотной архитектуре Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Доступны веса в формате safetensors; библиотека из метаданных — Transformers. В карточке не описаны результаты оценки качества или отдельные гарантии для конкретных сценариев. Указана лицензия CC BY 4.0.
Moonlight-16B-A3B-Instruct-MXFP4_MOE-GGUF — квантованная в формате GGUF модель Moonlight-16B-A3B-Instruct, опубликованная пользователем noctrex. Это чат-модель для генерации текста и выполнения инструкций на основе архитектуры Mixture-of-Experts; она имеет 16 млрд общих и около 3 млрд активных параметров. Модель предназначена для диалогов и генерации ответов на текстовые запросы. Вариант MXFP4_MOE использует квантование MXFP4 и распространяется в формате GGUF. Сведения о поддерживаемых языках, длине контекста и лицензии в предоставленных данных отсутствуют.
Moza-7B-v1.0 — экспериментальная языковая модель на архитектуре Mistral с 7,1 млрд параметров, созданная автором kidyu как слияние нескольких предварительно обученных и дообученных моделей с помощью mergekit и метода DARE TIES. Среди компонентов — варианты Mistral, NeuralHermes, OpenOrca, Neural Chat, Starling, Dolphin и MetaMath; базой слияния указана mistralai/Mistral-7B-v0.1. Модель предназначена для генерации текста по инструкциям и диалоговых сценариев. Для инференса предлагается формат Alpaca. Контекст составляет 32 768 токенов; в репозитории есть веса safetensors и квантованный вариант GGUF. Карточка не описывает отдельную специализацию по языкам или областям применения. Лицензия — Apache-2.0. Автор предупреждает, что слияние выполнено экспериментально, а использовать модель следует на свой риск.
MRAI_synatra_7B_v1-Mistral-7B-Instruct-v0.1 — чат-модель для генерации текста, созданная слиянием Mistral-7B-Instruct-v0.1 и MRAIRR/MRAI_synatra_7B_v1 методом SLERP. Она предназначена для ответов на инструкции и диалоговые запросы. Модель имеет плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель принимает текст и генерирует текст. В карточке указаны формат safetensors и лицензия Apache-2.0. README описывает диапазоны слоёв и параметры слияния, но не приводит сведения о языковой специализации и конкретных областях применения.
zelk12/MT1-gemma-2-9B — объединённая разговорная языковая модель, созданная с помощью mergekit методом SLERP из zelk12/MT1-GB-gemma-2-9B и zelk12/MT1-IMMMU-gemma-2-9B. Модель разработана автором репозитория zelk12 и предназначена для генерации текста в диалоговом формате. Модель построена на архитектуре Gemma 2 с плотной авторегрессионной архитектурой Gemma2ForCausalLM, содержит 9 млрд параметров и поддерживает контекст до 8192 токенов. Доступна в формате safetensors и предназначена для работы через Transformers. README приводит результаты оценки на Open LLM Leaderboard, включая среднее значение 33,37, IFEval и BBH. В карточке не указаны поддерживаемые естественные языки. Лицензия в предоставленных данных не указана. Результаты бенчмарков не гарантируют качество на конкретных прикладных задачах.
zelk12/MT1-Max-Merge_02012025163610-MM-gemma-2-MTM5MTM1-9B — объединённая методом SLERP языковая модель, созданная с помощью mergekit на основе zelk12/MT-Merge5-gemma-2-9B и zelk12/MT-Merge1-gemma-2-9B. Это плотная модель Gemma 2 с 9 млрд параметров, предназначенная для генерации текста и диалогов. Она принимает текст и выдаёт текст; максимальная длина контекста составляет 8192 токена. Модель подходит для чат-ботов, ответов на вопросы и генерации текста. Метаданные указывают на поддержку разговорного режима, однако карточка не уточняет языки, качество на отдельных задачах или дополнительные специализированные возможности. Модель опубликована в формате safetensors для библиотеки Transformers. Условия лицензирования в предоставленных данных не указаны.
Карточка модели zelk12/MT2-GP-gemma-2-RIv0.1RAv0.1-9B на Hugging Face совпадает с карточкой zelk12/MT5-IF-gemma-2-RIv0.1RAv0.1-9B, поэтому описание составлено по ней. zelk12 выпустил объединённую модель Gemma 2 для диалогов и генерации текста. Она создана методом SLERP с помощью mergekit из моделей zelk12/recoilme-gemma-2-Ifable-9B-v0.1 и zelk12/recoilme-gemma-2-Ataraxy-9B-v0.1. Модель имеет плотную архитектуру Gemma2ForCausalLM и содержит 9 млрд параметров. Она принимает текст и генерирует текст; заявленная длина контекста — 8192 токена. Репозиторий распространяет веса в формате safetensors и использует библиотеку Transformers. Модель подходит для ведения диалогов и генерации ответов по текстовым инструкциям. README и метаданные не сообщают о специальных прикладных областях или ограничениях качества. Лицензия в предоставленных данных не указана.
zelk12/MT2-MMMA-gemma-2-9B — объединённая языковая модель на базе Gemma 2, созданная разработчиком zelk12 с помощью mergekit. Веса двух моделей объединены методом SLERP; архитектура — плотная Gemma2ForCausalLM, размер — 9 млрд параметров. Репозиторий содержит веса в формате safetensors, библиотека для работы — Transformers. Модель предназначена для генерации текста и диалогового использования. Контекст составляет 8192 токена. README не описывает специализированные сценарии или языковую специализацию, поэтому модель можно характеризовать как общего назначения. Сведения о лицензии в предоставленных данных отсутствуют.
zelk12/MT5-IGMAMU-gemma-2-9B — объединённая языковая модель, созданная методом SLERP с помощью mergekit на основе zelk12/MT5-IG-gemma-2-9B и zelk12/MT5-MAMU-gemma-2-9B. Модель построена на архитектуре Gemma 2, содержит 9 млрд параметров и рассчитана на генерацию текста и диалоговые ответы; поддерживает контекст до 8192 токенов. Модель подходит для чат-ботов и других сценариев генерации текста. Веса доступны в формате safetensors для библиотеки Transformers. В README не указаны языковая специализация и лицензия, поэтому они не описываются.
zelk12 выпустил MT-Merge5-GMA-gemma-2-9B — разговорную языковую модель на архитектуре Gemma 2, созданную слиянием двух моделей с помощью SLERP и mergekit. Модель содержит 9 млрд параметров и рассчитана на генерацию текста в диалоговом формате; она принимает текстовые запросы и выдаёт текстовые ответы. Модель подходит для чат-ботов и других сценариев генерации ответов. Контекстное окно составляет 8192 токена. В карточке указаны форматы safetensors и библиотека Transformers; сведения о лицензии и языках в предоставленных источниках отсутствуют.
UsernameJustAnother/Nemo-12B-Marlin-v3 — языковая модель, дообученная UsernameJustAnother на базе unsloth/Mistral-Nemo-Instruct-2407. Она предназначена для диалоговой генерации текста и может использоваться в чат-ботах и приложениях, которым нужны ответы на текстовые запросы. Модель содержит 12,1 млрд параметров, использует архитектуру Mistral с плотной causal language model и принимает и выдаёт текст. В метаданных указан контекст длиной до 1 024 000 токенов и английский язык. README сообщает, что обучение проводилось с Unsloth и библиотекой Hugging Face TRL. Модель распространяется по лицензии Apache-2.0.
JANGQ-AI представляет квантованный вариант NVIDIA Nemotron-3-Super-120B-A12B для запуска на Apple Silicon через MLX. Модель использует гибридную архитектуру Mamba-2, Latent MoE и плотного внимания; карточка указывает 6,6 млрд параметров, а README описывает 88 слоёв: 40 Mamba-2, 40 MoE и 8 слоёв внимания. Формат JANG_4M заявлен как 4,1-битный с 8-битной защитой внимания; размер файлов — около 63 ГБ. Контекст составляет 262 144 токена. Модель предназначена для диалоговой генерации текста и задач рассуждения. В README приводятся результаты MMLU 93,0% в режиме рассуждения на тесте из 200 вопросов, а также скорость генерации 55,1 токена в секунду; эти показатели заявлены автором и зависят от условий тестирования. Запуск рассчитан на Mac с Apple Silicon и не менее 64 ГБ объединённой памяти через MLX Studio или библиотеку jang для MLX; карточка заявляет интерфейс вызова инструментов. Базовая модель указана как nvidia/NVIDIA-Nemotron-3-Super-120B-A12B-FP8, а лицензия обозначена как other, поэтому перед использованием следует проверить её условия в карточке модели. README предупреждает, что формат JANG не поддерживают LM Studio, Ollama и oMLX; для запуска нужны совместимые инструменты и значительный объём памяти. Основные языки по метаданным — английский, китайский и корейский.
Nemotron-Labs-Diffusion-3B — плотная языковая модель NVIDIA с 3,2 млрд параметров для генерации текста и диалогов. Она поддерживает авторегрессионное декодирование и параллельное декодирование на основе диффузии: режимы переключаются изменением шаблона внимания в одной и той же модели. Режим self-speculation сочетает диффузионную подготовку черновика с авторегрессионной проверкой и общим KV-кэшем. Модель предназначена для чат-сценариев и генерации текста, где важна эффективность декодирования при разной конкурентной нагрузке. В карточке заявлены режимы AR, diffusion и self-speculation; для практического запуска README указывает Transformers версии 5.0.0 или новее. Контекст составляет 262 144 токена. README приводит ускорения для других размеров семейства и платформ, но эти показатели не следует считать результатами именно версии 3B. Модель опубликована NVIDIA в формате safetensors. Лицензия обозначена как other; README отсылает к условиям NVIDIA, поэтому перед использованием следует проверить применимые условия. Языки в предоставленных материалах не перечислены.
NeuralsirkrishnaShadow_Experiment24Experiment26 — объединённая языковая модель, опубликованная MaziyarPanahi. Она создана слиянием automerger/NeuralsirkrishnaShadow-7B и automerger/Experiment24Experiment26-7B и предназначена для генерации текста. Модель построена на архитектуре Mistral, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель распространяется в формате safetensors под лицензией Apache-2.0. README не описывает специальные области применения или языки, поэтому её можно охарактеризовать как модель общего назначения; качество и поведение могут зависеть от использованных при слиянии моделей.
NeuralsirkrishnaShadow_T3qM7 — объединённая модель для генерации текста, созданная путём слияния automerger/NeuralsirkrishnaShadow-7B и automerger/T3qM7-7B. Она построена на архитектуре Mistral и содержит 7,1 млрд параметров; заявленная длина контекста — до 32 768 токенов. Модель подходит для генерации текста и диалога. Репозиторий содержит веса в формате Safetensors. Лицензия — Apache-2.0. Карточка не описывает специальные предметные области или языки модели.
NeuTrixOmniBe-7B-model-remix — языковая модель на архитектуре Mistral, созданная слиянием CultriX/NeuralTrix-7B-dpo и paulml/OmniBeagleSquaredMBX-v3-7B-v2 с помощью LazyMergekit. Она предназначена для генерации текста и ответов на запросы; размер модели — 7,1 млрд параметров, контекст — до 32 768 токенов. В README приведены результаты оценки на нескольких тестах рассуждения и понимания текста. Модель принимает текст и генерирует текст. Данные не подтверждают поддержку конкретных естественных языков или специализированных областей. Веса доступны в формате safetensors, лицензия — Apache-2.0. Карточка не описывает специальные ограничения или гарантии качества.
Nous-Hermes-2-SUS-Chat-34B-Slerp — чат-модель на архитектуре Llama, созданная автором репозитория с помощью слияния моделей через mergekit. В её названии и шаблонах указаны Nous-Hermes-2-Yi-34B и SUS-Chat-34B; точная конфигурация слияния в доступной карточке не приведена. Модель предназначена для генерации текста в диалоговом формате. Автор рекомендует использовать шаблон ChatML; также приведён шаблон Human–Assistant. Размер модели — 33,9 млрд параметров, контекст — 4096 токенов. В репозитории доступны веса safetensors. В карточке приведены результаты Open LLM Leaderboard, включая среднюю оценку 74,06, AI2 Reasoning Challenge и HellaSwag. Лицензия обозначена как other, поэтому перед использованием следует проверить условия на странице репозитория.
Это GGUF-квантизированная версия языковой модели OpenReasoning-Nemotron-14B, разработанной NVIDIA. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты на базе llama.cpp. Модель имеет размер 14 миллиардов параметров; README не сообщает точную архитектуру, поддерживаемые языки и размер контекстного окна. Доступны варианты от полноточного BF16 до более компактных форматов Q8, Q6, Q5, Q4, Q3 и IQ. Старшие варианты обеспечивают более высокое качество, а младшие требуют меньше оперативной памяти, но сильнее теряют в качестве. Для большинства сценариев рекомендуются варианты Q4_K_M, Q5_K_M, Q6_K и Q6_K_L; Q4_1 и Q4_0 используют устаревший формат, но могут быть полезны на некоторых CPU и Apple silicon. Сильная сторона этой версии — широкий выбор квантизаций для локального запуска на оборудовании с разным объёмом памяти. Ограничения связаны с неизбежной потерей качества при низких уровнях квантизации, а также с отсутствием в README подробностей о возможностях исходной модели, языках и контекстном окне. Лицензия в предоставленных данных не указана.
OLMo-2-1124-13B-Instruct-RLVR2 — англоязычная диалоговая модель Allen Institute for AI (AI2), созданная на архитектуре OLMo 2 с плотной причинно-языковой сетью и 13,2 млрд параметров. Она предназначена для общения, выполнения инструкций и решения задач на естественном языке; обучение с подкреплением на проверяемых результатах ориентировано, в частности, на математические задачи. Модель принимает текст и генерирует текст, поддерживает контекст до 4096 токенов и доступна в формате safetensors для Transformers. Это вариант RLVR2, дообученный на основе allenai/OLMo-2-1124-13B-Instruct-RLVR1; в метаданных указан датасет allenai/RLVR-GSM. Модель рассчитана прежде всего на английский язык. Лицензия Apache 2.0. В README отмечено, что обучение безопасности ограничено, поэтому модель может выдавать проблемные ответы, особенно при соответствующих запросах.
OpenAi-GPT-oss-20b-HERETIC-uncensored-NEO-Imatrix-gguf — это текстовая генеративная модель в формате GGUF, разработанная DavidAU на базе p-e-w/gpt-oss-20b-heretic. Согласно карточке, модель использует архитектуру Mixture of Experts с 20B параметров и 24 экспертами. Она предназначена для локального запуска и доступна в вариантах IQ4_NL, Q5_1 и Q8_0 с применением Imatrix, DI-Matrix или TRI-Matrix-квантизации. Модель ориентирована на генерацию текста, чат, программирование и генерацию кода, рассуждения, решение задач, мозговой штурм, творческие сценарии и общее использование. Указан английский язык и заявлена поддержка контекста до 128k токенов. Автор отмечает улучшения производительности благодаря NEO, Horror и NEOCode-наборам данных, а также различия между квантизациями: Q5_1 описывается как более стабильная в некоторых сценариях, тогда как IQ4_NL может давать более необычные и спонтанные ответы. Ключевая особенность модели — удаление отказов и ограничений, обозначенное автором как uncensored и decensored. Это может быть полезно для свободных творческих и исследовательских сценариев, но одновременно означает отсутствие встроенных защитных механизмов и повышенный риск небезопасных или нежелательных ответов. В карточке не приведены независимые бенчмарки, точные требования к памяти, аппаратные рекомендации или подробные измерения качества, поэтому производительность и практическая скорость зависят от выбранной квантизации и оборудования. Модель распространяется по лицензии Apache-2.0.
OpenChat 3.5 0106 GGUF — квантизированная версия текстовой генеративной модели OpenChat 3.5 0106, разработанной командой OpenChat и подготовленной в формате GGUF пользователем TheBloke. Модель основана на архитектуре Mistral и предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через llama.cpp и совместимые графические интерфейсы, библиотеки и API-серверы. В репозитории представлены варианты квантования с разрядностью от 2 до 8 бит для инференса на CPU и GPU. Точные размер модели, длина контекста, поддерживаемые языки и мультимодальные возможности в README не указаны; по описанию это текстовая, а не мультимодальная модель. Для работы используется шаблон запросов OpenChat-Correct: GPT4 Correct User и GPT4 Correct Assistant. Ключевое преимущество — возможность более экономичного локального запуска благодаря квантованию и широкой совместимости с llama.cpp, text-generation-webui, KoboldCpp, GPT4All, LM Studio, llama-cpp-python и другими инструментами. Ограничения связаны с потерями качества, возможными при низкоразрядном квантовании, а также с отсутствием в README подробных характеристик исходной модели и результатов оценки. Указанная лицензия — Apache-2.0.
OpenHercules-2.5-Mistral-7B — объединённая модель на базе Mistral, созданная с помощью LazyMergekit из Locutusque/Hercules-2.5-Mistral-7B и teknium/OpenHermes-2.5-Mistral-7B. Веса объединены методом SLERP с настройками для слоёв внимания и MLP; архитектура — плотная авторегрессионная MistralForCausalLM с 7,1 млрд параметров. Модель предназначена для генерации текста и диалогового использования. Она принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов и ориентирована на английский язык. Файлы представлены в safetensors; README также упоминает варианты квантования EXL2, GGUF и AWQ. Модель распространяется по лицензии Apache-2.0. Показатели в README включают среднее значение 66,55, результат 64,25 на AI2 Reasoning Challenge и 84,84 на HellaSwag; эти оценки не гарантируют качество на конкретных пользовательских задачах.
OpenYourMind выпустил вариант NVIDIA Nemotron-3-Ultra-550B-A55B с ослабленными отказами на запросы: в веса внесена правка методом abliteration, а сама модель представлена в формате NVFP4. Архитектура NemotronHForCausalLM сочетает Mamba-2, Attention и Latent-MoE; в README указаны 550 млрд параметров всего и 55 млрд активных, 108 слоёв и сохранённая голова MTP для спекулятивного декодирования. Модель предназначена для генерации текста, диалогов и задач рассуждения; режим enable_thinking позволяет получать рассуждения перед ответом. Автор заявляет, что после правки сохранены рассуждения, связность и фактическая точность, но независимые оценки в карточке не приведены. Весовой набор занимает около 329 ГБ; для запуска полного контекста README рекомендует узел с 4× B200/B300 или 8× H100 и vLLM версии 0.22 или новее. Указан контекст до 262 144 токенов. Лицензия — OpenMDW-1.1, унаследованная от базовой модели.
Ornith-1.0-9B-abliterated-fable — разговорная текстовая модель с архитектурой Qwen 3.5, разработанная ansulev на базе YuYu1015/YuYu1015-Ornith-1.0-9B-abliterated. Модель содержит около 9,57 млрд параметров и дообучена методом LoRA SFT на 3 346 многоходовых трассах рассуждений Fable-5 с форматом вызова инструментов Hermes. Поддержка MTP предназначена для ускорения спекулятивного декодирования. Модель рассчитана на диалоговые сценарии с пошаговыми рассуждениями и вызовом инструментов. В README она описана как модель без обычных шаблонов отказа. Для данных дообучения использовались только текстовые примеры, а башня обработки изображений базовой модели была заморожена; практическая поддержка изображений этой версией не подтверждена. Карточка указывает английский язык. Модель распространяется по лицензии MIT.
Ornith 1.5 35B A3B NVFP4 512K GGUF — конвертированная в GGUF версия чекпойнта Ornith AI Ornith-1.5-35B-A3B-NVFP4. Модель построена на архитектуре Qwen3.5 MoE: всего 35 млрд параметров, из которых около 3 млрд активны при обработке токена. Репозиторий сохраняет исходное представление NVFP4 без повторной квантизации и расширяет контекст до 524288 токенов с помощью YaRN и масштабирования RoPE 2. Модель предназначена для диалоговой генерации текста с длинным контекстом в совместимых с GGUF средах вывода, включая llama.cpp. Это позволяет использовать её для бесед и работы с большими текстовыми материалами; заявленная длина контекста подходит для анализа объёмных документов и сохранения длинной истории диалога. В метаданных указана лицензия MIT. Для запуска требуется среда, поддерживающая GGUF-тензоры NVFP4; совместимость и производительность зависят от используемого рантайма и оборудования. В README приведены испытания на RTX 5090 с llama.cpp, но результатов тестирования качества генерации в доступных сведениях нет.
Карточка модели anonymous-bird-72/Ouro-2.6B на Hugging Face совпадает с карточкой ByteDance/Ouro-2.6B, поэтому описание составлено по ней. Ouro-2.6B — языковая модель ByteDance с 2,6 млрд параметров на архитектуре Looped Language Model: это декодерный Transformer из 24 слоёв с общими весами, которые повторно применяются на четырёх рекуррентных шагах. Модель предназначена для генерации текста и диалогового взаимодействия; рекуррентные вычисления в скрытом пространстве поддерживают рассуждения, а механизм раннего выхода позволяет менять объём вычислений и баланс между скоростью и качеством. Модель принимает текст и генерирует текст, поддерживает контекст до 65 536 токенов. В README заявлена эффективность по числу параметров на уровне стандартных моделей размером 3–4 млрд параметров, но независимые показатели качества не приведены. Для адаптивного раннего выхода требуется совместимая среда: при использовании vLLM модель всегда выполняет все заданные рекуррентные шаги. Лицензия — Apache 2.0; README предупреждает, что модель предназначена для исследований и предоставляется без гарантий для производственного использования.