II.7DevOps, облако и эксплуатация IT-систем

Ornith-1.5-35B-A3B-REAP-20pct — разреженная MoE-модель для генерации текста, программирования и вызова инструментов, созданная oxfrug на основе Ornith-1.5-35B-A3B от ornith-ai. Модель предназначена для локального и самостоятельного развёртывания, особенно в сценариях кодирования, диалогового взаимодействия и tool calling. В метаданных указан английский язык. Модель использует гибридную архитектуру GatedDeltaNet + MoE с 40 слоями. После удаления 20% экспертов в каждом слое осталось 205 экспертов вместо 256, при этом для каждого токена активны 8 экспертов. Активный объём параметров составляет около 3B на токен, размер BF16-весов — примерно 56 ГБ вместо 67 ГБ у базовой модели. Общие эксперты, vision tower, эмбеддинги и lm_head не изменялись; архитектура обозначена как Qwen3_5MoeForConditionalGeneration, поэтому модель поддерживает текстово-мультимодальный интерфейс базовой архитектуры. Для работы требуются transformers версии 5.8.1 или новее; для vLLM заявлена конфигурация с контекстом до 262144 токенов. Главное преимущество — экономия около 11 ГБ дискового пространства при сохранении примерно 3B активных параметров на токен и совместимость с transformers и vLLM. Ограничения связаны с потерей качества из-за pruning: модель не является lossless-копией и не является квантизированной или дообученной. Для этого чекпойнта не проводились полноценные тесты SWE-bench, Terminal-Bench и GPQA, а опубликованные результаты родственной модели нельзя переносить на него. Калибровка выполнялась на последовательностях длиной 1024 токена, что также может повышать риск ухудшения специализированных возможностей, включая tool calling. Модель распространяется по лицензии MIT. Она требует значительных ресурсов: это не вариант для одной видеокарты на 24 ГБ; для длинного контекста в vLLM рекомендуется конфигурация с двумя GPU по 80 ГБ. Форматы GGUF для данного pruning в README не заявлены.

Prakrit1.0-7B-Small — языковая модель Jagneshdeveloper, дообученная на базе Qwen/Qwen2.5-7B. Это плотная авторегрессионная модель архитектуры Qwen2 с 7,1 млрд параметров, предназначенная для генерации текста, программирования и сценариев с агентами; нативная длина контекста — 32 768 токенов. Модель ориентирована на написание, отладку, объяснение и рефакторинг кода, планирование использования инструментов и выдачу структурированных ответов, включая JSON. В карточке также заявлены суммаризация и перевод. Основной язык — английский; поддержка разных языков программирования не означает поддержку соответствующих естественных языков. Модель распространяется в формате Safetensors по лицензии Apache 2.0. Разработчик предупреждает, что сложную логику и математические ответы, а также сгенерированный код следует проверять перед применением; качество на узкоспециализированных региональных задачах может зависеть от формулировки запроса.

unsloth/Qwen2.5-Coder-14B-Instruct — это инструкционная языковая модель для генерации и анализа кода, представленная в формате Unsloth и основанная на Qwen/Qwen2.5-Coder-14B-Instruct. Она использует плотную архитектуру Qwen2 с причинным декодером и содержит 14 млрд параметров; для запуска через Transformers доступны веса Safetensors. Модель рассчитана на контекст до 32 768 токенов. Модель предназначена для диалоговых сценариев разработки: написания и дополнения кода, анализа программ, исправления ошибок и работы в агентных сценариях. Карточка Qwen2.5-Coder описывает усиление генерации, рассуждений и исправления кода при сохранении общих математических и языковых навыков. Поддерживается английский язык; метаданные также отмечают интерфейс для вызова инструментов. Это дообученная модель, а не исходная базовая версия. Лицензия — Apache-2.0. README содержит общее описание семейства, но часть его утверждений о размере и типе модели относится к версии 0,5B и не описывает этот репозиторий; здесь использованы параметры 14B и контекста из метаданных. Конкретные оценки качества для этой версии в предоставленных материалах не приведены.

Qwen2.5-Coder-3B-Instruct — инструктивно дообученная языковая модель для программирования от команды Qwen. Она предназначена для генерации, объяснения и исправления кода, рассуждений о коде и создания кодовых агентов; также сохраняет общие способности и навыки решения математических задач. Модель построена на архитектуре Qwen2 с причинным декодированием и содержит около 3,1 млрд параметров. Модель принимает текстовые инструкции и выдаёт текст, включая код. Контекстное окно составляет 32 768 токенов. В карточке указано, что обучение охватывало исходный код, связку текста и кода и синтетические данные; метаданные указывают английский язык. Для загрузки рекомендуется актуальная версия библиотеки Transformers. Репозиторий использует формат safetensors и лицензию с обозначением «other»; конкретные условия следует проверять в файлах лицензии репозитория.

Qwen3.5-0.8B-Claude-Opus-Distill-Heretic-UNCENSORED — компактная текстовая модель Ghost (ghost-actual), созданная дообучением Qwen/Qwen3.5-0.8B с дистилляцией рассуждений Claude Opus и последующим снижением частоты отказов методом abliteration с помощью Heretic. Она предназначена для диалогов, генерации структурированных ответов и кода, а также для работы на устройствах с ограниченными ресурсами. В метаданных указаны 581,4 млн параметров, архитектура Qwen3.5 для причинной генерации текста, поддержка чата и контекст до 262 144 токенов; README также заявляет нативную поддержку изображений и анализа видео, однако метаданные относят модель к текстовой генерации. Карточка приводит результаты тестов отказов 2 из 100 и KL-дивергенцию 0,0100, а также заявляет производительность на OCRBench 74,5. Эти показатели приведены автором модели и не являются независимой оценкой. Формат репозитория — safetensors; автор заявляет возможность запуска в BF16 примерно на 1,5 ГБ памяти и приводит настройки генерации. Лицензия в предоставленных данных не указана. Снижение числа отказов означает, что модель может отвечать на запросы, которые модели с более строгими ограничениями отклонили бы; ответы следует проверять, особенно при использовании в чувствительных сценариях.

txn545/Qwen3.5-35B-A3B-NVFP4 — квантизированная версия авторегрессионной языковой модели Qwen3.5-35B-A3B, разработанной Alibaba. Квантизация выполнена с помощью NVIDIA Model Optimizer до формата NVFP4; модель предназначена для текстового ввода и генерации текста. Модель рассчитана на разработчиков, которым нужны готовые к развертыванию решения для AI Agent-систем, чат-ботов, RAG-систем и других приложений на базе ИИ. Она использует трансформерную архитектуру Qwen3.5-35B-A3B с 35 млрд параметров, из которых активируется 3 млрд, и поддерживает контекст до 262K токенов. Указанные сценарии инференса ориентированы на NVIDIA GPU, в частности архитектуру Blackwell, Linux и движок SGLang. Ключевое преимущество модели — предварительная NVFP4-квантизация весов и активаций линейных операторов в MoE-блоках, что предназначено для эффективного инференса на совместимом оборудовании. Ограничения включают зависимость от NVIDIA GPU и совместимой версии SGLang, а также возможные неточности, токсичные ответы и усиление предубеждений, унаследованных от обучающих данных базовой модели. Модель распространяется по лицензии Apache 2.0 и допускает коммерческое и некоммерческое использование с учетом требований базовой модели.

Qwen3.8-Flash-Next REAP-288 (MLX, 4-bit) — оптимизированная сборка базовой модели Qwen/Qwen3.8-Flash-Next, опубликованная пользователем sh0wie. Модель предназначена прежде всего для локального запуска на компьютерах Mac с 128 ГБ памяти и агентских сценариев в стиле Claude Code, включая генерацию и рефакторинг кода. Сборка использует библиотеку mlx-vlm и лицензию qwen-community-license-1.0. Это MoE-модель класса 180B параметров: около 125B приходится на основную модель и 51B — на таблицу n-gram-эмбеддингов. Архитектура включает 48 слоёв, чередующих Gated DeltaNet и разреженное внимание Qwen; в каждом MoE-слое используются 288 из 512 экспертов с маршрутизацией top-10. Весы мультимодальной vision tower сохранены, поэтому заявлена поддержка изображений, однако оценивалось только качество работы с текстом. Контекст и полный набор поддерживаемых языков в README не указаны. По сравнению с базовой 512-экспертной 4-битной сборкой размер на диске снижен с 98 до 68 ГБ, а результат HumanEval pass@1 составляет 91,5% против 93,9%. На Mac модель занимает около 68 ГБ оперативной памяти, либо около 39 ГБ при потоковой загрузке n-gram-таблицы с NVMe. Скорость декодирования зависит от среды и составляет примерно 28 токенов/с в стандартном mlx-vlm и 37–65 токенов/с в pmlx. Поддерживается speculative decoding с MTP, но его преимущество зависит от оборудования; на M4 прирост может отсутствовать. Ограничения включают снижение качества относительно полной сборки, недостаточно проверенную мультимодальность и высокие требования к памяти.license_name: qwen-community-license-1.0

OpenAssistant/codellama-13b-oasst-sft-v10 — англоязычная причинная языковая модель семейства CodeLlama, дообученная командой Open-Assistant на базе Meta CodeLlama. Это плотный decoder-only трансформер с 12,9 млрд параметров и контекстом до 16 384 токенов; веса опубликованы в формате safetensors. Модель обучалась на диалоговых данных OpenAssistant и наборах Orca, а для общения использует шаблон ChatML. Модель предназначена для генерации продолжений и ответов в диалоге, в том числе для сценариев, связанных с кодом. В README указано, что обучение частично использовало системные сообщения Orca; для корректной загрузки требуется актуальная версия Transformers либо trust_remote_code=True из-за изменения RoPE Theta. Лицензия — Llama 2 Community License Agreement. Проверки описаны только для английского языка. Ответы могут быть неточными, предвзятыми или нежелательными, поэтому перед внедрением модель следует оценить и настроить с учётом конкретного применения.

Grok 4.6 — модель SpaceXAI, предназначенная для задач программирования, интеллектуальной работы и STEM. По карточке модели, её сменила более новая версия Grok 4.7. Доступные сведения не описывают архитектуру, размер, модальности, поддерживаемые языки, длину контекста или лицензию, поэтому их нельзя надёжно указать. Метаданные каталога классифицируют модель как image-text-to-text, но README не подтверждает работу с изображениями.

Карточка модели zorks1233/Kimi-K2.7-Code на Hugging Face совпадает с карточкой moonshotai/Kimi-K2.7-Code, поэтому описание составлено по ней. Kimi K2.7 Code — ориентированная на программирование агентная модель компании Moonshot AI, основанная на Kimi K2.6. Она предназначена для выполнения длительных задач разработки ПО и многоэтапных инженерных процессов: от создания и изменения кода до работы с проектами и инструментами. Архитектура — Mixture-of-Experts с общим числом параметров около 1 трлн и 32 млрд активируемых параметров; модель представлена в safetensors и использует нативную квантизацию INT4. Для тестирования заявлен контекст длиной 262 144 токена. Модель поддерживает диалог, вызов инструментов и визуальный ввод изображений и видео; основная специализация — агентное программирование и решение сложных задач разработки. Разработчик сообщает о повышении эффективности на длительных задачах и примерно на 30% меньшем расходе токенов на рассуждения по сравнению с Kimi K2.6. В карточке указана лицензия other; конкретные условия следует сверить с лицензией репозитория и условиями API.

Карточка модели ahmed-amedo-1/Kimi-K3 на Hugging Face совпадает с карточкой moonshotai/Kimi-K3, поэтому описание составлено по ней. Kimi K3 — модель с открытыми весами от Moonshot AI для диалогов, рассуждений и агентных задач. В README указаны 2,8 трлн параметров, архитектура Kimi Delta Attention (KDA) и Attention Residuals (AttnRes), а также разреженная смесь экспертов Stable LatentMoE: активируются 16 из 896 экспертов. Метаданные Hugging Face определяют архитектуру как плотную; поэтому тип архитектуры в доступных источниках описан неоднозначно. Модель принимает текст, изображения и видео и рассчитана на контекст до 1 млн токенов. Среди сценариев применения — длительные сессии программирования и работы с большими репозиториями, исследовательская работа с материалами и мультимодальные задачи. В README заявлена поддержка инструментов для агентных сценариев; метаданные подтверждают возможность диалогового взаимодействия. Веса опубликованы по лицензии Kimi K3 License, обозначенной в метаданных как other. README не приводит текст лицензии, поэтому конкретные условия распространения и коммерческого использования по имеющимся данным уточнить нельзя. Заявления о возможностях и эффективности приведены разработчиком; независимые результаты оценки здесь не доступны.

Mira — разговорная языковая модель SmilyAI для технического общения, рассуждений, математики и помощи с программированием. Она основана на Nova-2-Large, созданной на базе Qwen3-14B слиянием DARE-TIES, а затем дообучена с помощью LoRA. В репозитории указана архитектура Qwen3ForCausalLM, около 14 млрд параметров по метаданным и контекст до 40 960 токенов. Модель предназначена для генерации ответов в диалоге, объяснения технических тем, написания и отладки кода, а также решения математических задач. Карточка описывает дружелюбный, энергичный стиль общения и возможность конструктивного шуточного режима при проверке кода. Основной язык — английский; доступны веса safetensors для Transformers. Mira может ошибаться в фактах, коде и математике, неверно понимать неоднозначные запросы и давать уверенные, но неправильные объяснения; результаты следует проверять человеком, особенно перед использованием в важных системах. Лицензия обозначена как other, конкретные условия использования в карточке не раскрыты.

Naive-N0.5-Flash — открытая модель с архитектурой Mixture-of-Experts от разработчиков NaiveAI, предназначенная для программирования и исследований в области ИИ. Карточка описывает продолжение обучения на базе MiMo-V2.5 с архитектурными изменениями; модель обучалась на 3,25 трлн токенов, включая адаптацию к разреженному вниманию. В README указаны 309 млрд параметров всего и 15,5 млрд активных, тогда как метаданные Hugging Face сообщают 12 млрд параметров; эти сведения расходятся. Архитектура внимания сочетает Sliding-Window Attention с окном 128 токенов и DeepSeek Sparse Attention, выбирающим до 2048 токенов. Заявлено нативное контекстное окно в 1 048 576 токенов. Модель принимает текст и генерирует текст, в том числе код; для инференса README указывает поддержку FP8 и необходимость совместимого оборудования NVIDIA. Модель подходит для задач разработки программного обеспечения, агентных сценариев и исследований ИИ. В README заявлены оптимизации скорости в системе NaiveRT, но их показатели относятся к этой системе инференса. Веса и код выпущены под лицензией MIT.

NinjaDolphin-7B — объединённая модель на основе Mistral, созданная FelixChao с помощью метода dare_ties. Она сочетает FelixChao/WizardDolphin-7B и две модели, ориентированные на программирование: beowolx/CodeNinja-1.0-OpenChat-7B и beowolx/MistralHermes-CodePro-7B-v1. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и кода, включая дополнение кода и решение задач по программированию. В README приведён результат 52,44 на HumanEval для генерации Python-кода без инструкций и постобработки. Файлы опубликованы в формате safetensors. Лицензия — Apache-2.0.

Ornith-1.5 Cyclos 1M Uncensored GGUF — это квантованная Q4_K_M-версия LoRA-файнтюна модели Ornith-1.5-35B-A3B. Репозиторий abhaymin содержит изменения файнтюна, расширение контекста и квантование; базовая архитектура, постобучение, визуальный модуль и основные возможности разработаны командой Ornith. Модель основана на семействе Qwen3.5 и использует архитектуру Mixture-of-Experts с заявленным размером 35B-A3B. Для работы с изображениями и видео требуется отдельный vision projector в формате F16. Модель предназначена для программирования, агентских сценариев, анализа рынков и трейдинга, классификации контента, вызова инструментов и работы с изображениями и видео. Файнтюн ориентирован на coding, market/trading analysis, content classification и tool/function calling. Контекст расширен с 262 144 до 1 048 576 токенов с помощью YaRN, однако длина в 1M токенов является экстраполяцией и не прошла валидацию: качество может снижаться за пределами исходного окна. Поддержка аудио отсутствует; для аудиодиалогов требуется внешний ASR, например Whisper. Модель распространяется под лицензией Apache-2.0. GGUF-файлы протестированы с llama.cpp, Ollama и LM Studio; для изображений и видео необходимы оба GGUF-файла — модели и vision projector. vLLM с GGUF в указанной конфигурации не работает из-за отсутствия адаптера для гибридной архитектуры, хотя BF16-версия поддерживается с выгрузкой части весов в оперативную память. Ограничения также включают потери качества из-за квантования Q4_K_M, отсутствие заявленных бенчмарков для этой сборки и унаследованное от базовой модели снижение отказов, которое не гарантирует выполнение любого запроса.

Qwen2-2B-RepleteCoder-DHM — объединённая языковая модель на архитектуре Qwen2, созданная сообществом mergekit-community методом Model Stock с помощью mergekit. В основу слияния вошла Qwen2-2B-RepleteCoder-Upscaled; также объединены варианты Dolphin, RepleteCoder и Hercules, а также Qwen2-Math-2B-Instruct. Модель содержит 1,9 млрд параметров и рассчитана на генерацию текста в диалоговом формате, помощь с программированием и математические запросы. Модель принимает текст и генерирует текст. Для запуска используются библиотека Transformers и файлы Safetensors; заявленная длина контекста — до 131 072 токенов. Карточка не уточняет языковую специализацию. Лицензия в предоставленных данных не указана. Качество и поведение объединённой модели могут зависеть от задачи; карточка не приводит результатов оценки.

thirdeyeai/Qwen2.5-Coder-7B-Instruct-Uncensored — разговорная модель для генерации текста, разработанная thirdeyeai. По названию она относится к семейству Qwen2.5-Coder и предназначена для инструкционного диалога, в том числе с запросами по программированию; карточка описывает её как uncensored. Архитектура — плотная причинная языковая модель Qwen2 с классом Qwen2ForCausalLM, объёмом 7,1 млрд параметров и контекстом до 32 768 токенов. Модель принимает текст и выдаёт текст. Репозиторий содержит веса в формате safetensors; модель также доступна через Ollama. README не сообщает лицензию и не описывает конкретные оценки качества или ограничения. Разработчик снимает с себя ответственность за действия пользователей модели.

RedHatAI/Qwen3-14B-NVFP4 — квантизированная версия языковой модели Qwen3-14B, разработанная RedHatAI на базе Qwen/Qwen3-14B. Модель принимает текст и генерирует текст, предназначена для задач text generation и развёртывания в среде vLLM версии 0.9.1 и выше. В модели применена FP4-квантизация весов и активаций линейных операторов в блоках Transformer. По сравнению с представлением FP16 это сокращает число битов на параметр с 16 до 4, а размер на диске и требования к памяти GPU примерно на 75%. Квантизация выполнена с использованием LLM Compressor, с калибровкой на данных UltraChat; параметры включают групповой размер 16. Модель имеет размерность 14B, работает с текстовой модальностью, однако размер контекста в представленном README не указан. В метаданных заявлены языки English, German, French, Italian, Portuguese, Hindi, Spanish и Thai, при этом отдельно указано ограничение на использование в языках, отличных от английского. Основное преимущество модели — снижение требований к дисковой и GPU-памяти при сохранении совместимости с эффективным инференсом через vLLM и OpenAI-compatible serving. Ограничения включают возможное снижение качества из-за квантизации, зависимость от подходящей аппаратной и программной поддержки FP4, а также языковое ограничение на использование только английского языка согласно README. Модель распространяется по лицензии Apache-2.0; также указано ограничение на использование с нарушением применимых законов и нормативных требований.

Qwen3-32B-AWorld — плотная языковая модель на 29,7 млрд параметров, дообученная InclusionAI на базе Qwen/Qwen3-32B. Она предназначена для агентных сценариев: ведения диалога, решения сложных задач с помощью внешних инструментов и точного формирования вызовов инструментов. В README заявлены высокие результаты на бенчмарке GAIA, включая pass@1 выше GPT-4o и сопоставимый с DeepSeek-V3; это утверждение разработчика, а подробности оценки не приведены. Модель принимает текст и выдаёт текст, включая вызовы инструментов в совместимом с OpenAI API формате. Используется архитектура Qwen3ForCausalLM, формат весов — safetensors, библиотека — Transformers; заявленная длина контекста составляет 131 072 токена. Для работы с инструментами при запросе нужно передавать описания доступных инструментов. Модель распространяется по лицензии Apache-2.0.

YOYO-O1-14B-V2 — языковая модель, созданная YOYO-AI слиянием нескольких моделей Qwen2 с помощью метода SCE. В слияние вошли модели для программирования, логических задач, творческого письма и диалогового общения; базовой моделью служила arcee-ai/Virtuoso-Small-v2. Модель содержит 14 млрд параметров, использует архитектуру Qwen2ForCausalLM и поддерживает контекст до 131 072 токенов. Модель предназначена для генерации текста в диалоге, помощи с программированием, решения логических и STEM-задач, а также творческого письма. Карточка указывает интерфейс вызова инструментов. В метаданных заявлены английский и китайский языки. Репозиторий использует формат safetensors, лицензия — Apache-2.0. Сравнительных оценок качества и подробных результатов тестирования в карточке нет.

DeepSeek-V4-Flash-0731-MLX-Serve-mixed-2-3-8bit — это квантованная MLX-конверсия модели DeepSeek-V4-Flash-0731, опубликованная ddalcu и предназначенная для запуска через mlx-serve на Apple Silicon. Модель рассчитана на генерацию текста, включая диалоги, программирование, задачи coding agent и сценарии с вызовом инструментов. Она совместима с OpenAI, Anthropic и Ollama HTTP API, поэтому может использоваться с существующими клиентами и интерфейсами. В основе лежит полная модель размером 284B параметров с конфигурацией A13B. Сборка занимает 115,4 ГБ и использует смешанную точность: основные routed experts в слоях 0–38 имеют 2- и 3-битное квантование с калибровкой по матрице важности, последние четыре слоя — 4-битное, а attention, shared experts, embeddings, LM head и ряд чувствительных компонентов — 8-битную или более высокую точность. Архитектура включает MQA, сжатую историю внимания, hash-routed MoE, Sinkhorn hyper-connections, DSML-формат вызова инструментов и DSpark speculative decoding. Поддерживаются текстовые входы и выходы; в README не указаны дополнительные модальности и языковой охват. Для работы требуется Mac на Apple Silicon с не менее чем 128 ГБ unified memory, macOS 26.2 или новее и mlx-serve. Ожидаемый объём занятой памяти составляет около 98 ГБ, либо примерно 109 ГБ при использовании DSpark; заявлена скорость около 53 токенов в секунду на M-series Mac с 128 ГБ памяти и включённым DSpark. Сильными сторонами являются запуск полной 284B-A13B модели на одном совместимом Mac, native MLX-реализация без Python и калиброванное квантование, направленное на сохранение качества в агентских сценариях. Ограничениями остаются очень высокие требования к памяти и совместимость только с Apple Silicon и mlx-serve. Лицензия — MIT.

Devstral-Small-2507-GGUF — квантованная версия Devstral Small 1.1 (2507), разработанная Mistral AI совместно с All Hands AI и преобразованная в формат GGUF пользователем brittlewis12. Модель предназначена для задач программной инженерии и создания агентных систем: она умеет работать с инструментами, исследовать кодовые базы и редактировать несколько файлов. Модель ориентирована прежде всего на генерацию и анализ текста и кода, а её исходная версия показывает результат 53,6% на SWE-bench Verified в связке с OpenHands Scaffold. Модель дообучена на базе Mistral-Small-3.1-24B-Base-2503 и имеет контекстное окно до 128 000 токенов. Это текстовая модель без поддержки изображений: перед дообучением визуальный энкодер был удалён. В README явно указан английский язык. Формат GGUF предназначен для локального запуска в совместимом программном обеспечении, включая llama.cpp. Ограничения включают текстовую модальность и зависимость производительности от выбранного квантования и аппаратной конфигурации; конкретный размер файлов и параметры квантования в предоставленных данных не указаны. Лицензия — Apache 2.0.

Dolphin 2.9.2 Phi 3 Medium (Abliterated) — разговорная языковая модель, подготовленная Eric Hartford, Lucas Atkins, Fernando Fernandes и сообществом Cognitive Computations; подавление отказов выполнено FailSpy. Модель дообучена методом qLoRA на базе unsloth/Phi-3-mini-4k-instruct, а затем изменена для снижения частоты отказов. В метаданных указаны плотная архитектура MistralForCausalLM, 13,8 млрд параметров и контекст 4096 токенов; модель распространяется в формате safetensors. Модель предназначена для диалогов и выполнения инструкций, в том числе задач программирования и математики. В README также заявлены начальные агентные возможности и поддержка вызова функций; используется шаблон ChatML. В карточке указаны английский язык и наборы данных для инструкций, диалогов, кода и математики. MIT-лицензия. Модель специально настроена на более высокую готовность отвечать и может давать нежелательные ответы; авторы рекомендуют добавить собственный слой выравнивания перед предоставлением модели как сервиса. README предупреждает, что после изменения модели часть отказов базовой модели могла сохраниться.

grug-9b — дообученная ProCreations версия dense-модели Ornith-1.0-9B семейства Qwen3.5 с 9 млрд параметров. Модель предназначена для генерации текста и кода, диалогов и сценариев с агентами и вызовами инструментов. Дообучение на датасете ProCreations/grug-think учит модель формулировать рассуждения кратко: по данным автора, медианная длина рассуждения в датасете составляет 11 слов, а в тестах модели сократилось число токенов рассуждения. В сравнительных тестах автора grug-9b быстрее исходной модели и показывает близкий результат на MBPP, но уступает на HumanEval; корректность формата вызовов инструментов в тесте снизилась с 100% до 88,9%. Заявлена поддержка обработки изображений благодаря сохранённой vision tower, однако метаданные относят модель к генерации текста, поэтому качество зрительных задач по этим сведениям оценить нельзя. Для запуска требуется Transformers версии 5.8 или новее. Лицензия — MIT.

LoopCoder-V2 — плотная инструкционная модель для программирования с 7,2 млрд параметров, разработанная Multilingual-Multimodal-NLP на архитектуре Parallel Loop Transformer (PLT). Модель обучена с нуля на смеси текста и кода, а затем настроена для следования инструкциям; опубликованный вариант использует два прохода общих блоков трансформера для дополнительного вычисления при генерации. Контекст модели составляет 131 072 токена. Модель предназначена для генерации и анализа кода, рассуждений о программном коде, помощи при работе с репозиториями, агентных сценариев разработки и использования инструментов. В README приведены результаты на тестах генерации кода и программной инженерии; вариант с двумя циклами улучшил результаты относительно однопроходного базового варианта, тогда как увеличение числа циклов может ухудшать качество. Модель принимает текстовые инструкции и выдаёт текст, включая код; обучающие данные включают более 100 языков программирования. Для загрузки требуется среда с поддержкой пользовательской архитектуры IQuestPLTCoderForCausalLM и конфигурации токенизатора из репозитория. Лицензия — Apache-2.0.

Mistral-Nemo-Instruct-2407-FP8 — инструкционная авторегрессионная плотная transformer-модель объёмом 12 млрд параметров, разработанная совместно Mistral AI и NVIDIA. Репозиторий Furiosa AI содержит вариант модели RedHatAI/Mistral-Nemo-Instruct-2407-FP8, подготовленный для запуска на аппаратной платформе FuriosaAI RNGD с использованием Furiosa-LLM. Модель принимает текст и генерирует текст, поддерживает диалоги с ролями system, user и assistant и предназначена для обычной, нерассуждающей генерации ответов в ассистентских сценариях. Линейные веса слоёв Transformer статически квантизованы в FP8, активации динамически квантизуются в FP8 для каждого токена во время инференса, а KV-кэш сохраняется в 16-битной точности. На RNGD используется tensor parallelism с размером 16 PE, что соответствует двум картам RNGD. Основной поддерживаемый стек в этом репозитории — Furiosa-LLM, однако исходная модель также может запускаться через vLLM, SGLang и Transformers. Указан английский язык; сведения о размере контекста и других языках отсутствуют. Модель подходит для чат-ботов, генерации текста и интеграции через OpenAI-совместимый API. К её сильным сторонам относятся инструкционная настройка, FP8-квантизация для эффективного инференса и поддержка специализированного ускорителя FuriosaAI RNGD. Ограничения включают нерassуждающий характер модели, зависимость данного варианта от Furiosa-LLM и оборудования RNGD, а также отсутствие в предоставленных данных подробных оценок качества. Лицензия — Apache-2.0.

RedHatAI/Mixtral-8x7B-Instruct-v0.1 — разговорная instruct-модель, опубликованная Red Hat AI на основе Mistral AI Mixtral-8x7B-Instruct-v0.1. Она предназначена для диалога и генерации текста по запросам, например для ответов на вопросы и объяснения понятий. Модель использует архитектуру Mixtral с разреженной экспертной маршрутизацией (MoE), содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель принимает текст и генерирует текст; в карточке заявлены английский, французский, итальянский, немецкий и испанский языки. README описывает развёртывание с vLLM, Red Hat Enterprise Linux AI и OpenShift AI. Модель распространяется по лицензии Apache-2.0. В README указано, что у неё нет встроенных механизмов модерации, поэтому сгенерированные ответы могут требовать отдельной фильтрации.

Muse Spark 1.3 — мультимодальная reasoning-модель от Meta, предназначенная для длительных агентных, многоагентных и связанных с программированием сценариев. По имеющимся сведениям, она рассчитана на отслеживание информации и выполнение многоэтапных задач. Метаданные каталога относят модель к задаче image-text-to-text, что указывает на обработку изображений и формирование текстового ответа. Данных о размере, архитектуре, длине контекста, поддерживаемых языках и лицензии в предоставленных источниках нет. Полная карточка обрывается, поэтому подробности о возможностях и ограничениях подтвердить нельзя.

OpenYourMind создала эту полноразмерную BF16-версию NVIDIA Nemotron-3-Ultra-550B-A55B с ослабленными отказами на типовых категориях запросов. По описанию автора, изменение выполнено офлайн-проекцией направления отказа на веса без дополнительного обучения и без изменения структуры базовой модели. Модель содержит 550 млрд параметров, из которых активно 55 млрд, и использует гибридную архитектуру Mamba-2, Attention и Latent-MoE; сохранены режим рассуждений enable_thinking и голова MTP для спекулятивного декодирования. Модель предназначена для диалоговой генерации текста, сложных рассуждений и технических или защитных запросов, на которые исходная модель могла отказывать. Контекст составляет 262 144 токена. Веса BF16 занимают около 1,1 ТБ и требуют мног GPU-развёртывания; автор указывает vLLM как вариант запуска. README заявляет сохранение связности, точности и многоязычной беглости, однако не приводит независимых оценок этих свойств. Лицензия — OpenMDW-1.1, унаследованная от базовой модели.

Prox-Llama-3-8B-abliterated — дообученная OpenVoid версия Meta-Llama-3-8B-Instruct, ориентированная на генерацию кода и задачи кибербезопасности. Это плотная авторегрессионная модель семейства Llama с 7,5 млрд параметров, предназначенная для диалогового взаимодействия и работы с текстом; заявленная длина контекста — 8192 токена. Модель подходит для написания и объяснения кода, подготовки документации, ответов на вопросы о методах взлома и кибербезопасности, а также анализа программных проектов. Карточка описывает её как uncensored-модель, поэтому ответы на темы атак и взлома требуют особенно внимательной проверки. Разработчик рекомендует проверять результаты и соблюдать применимые законы. Лицензия — Apache-2.0.