II.7DevOps, облако и эксплуатация IT-систем

Open-Instruct CoT 7B — языковая модель, разработанная Allen Institute for AI и дообученная на подмножестве CoT датасета Flan v2 в рамках исследования по настройке инструкций на открытых ресурсах. Это плотная авторегрессионная модель семейства LLaMA с 6,6 млрд параметров, принимающая текст и генерирующая текст; для качества ответов рекомендуется использовать заданный авторами формат инструкций. Контекст составляет 2048 токенов, основной язык в метаданных — английский. Модель предназначена для выполнения инструкций и ответов с пошаговыми рассуждениями, включая вопросы по знаниям, математические задачи и генерацию кода. В README приведены результаты на MMLU, GSM, BBH, TydiQA, Codex-Eval и AlpacaFarm. Это diff модели: для использования требуется исходная модель LLaMA в формате Hugging Face. Указаны лицензия AI model license и исходная лицензия LLaMA; применяются условия обеих лицензий.

Proximus-2x7B-v1 — языковая модель семейства Mixtral, созданная preemware с помощью LazyMergekit как смесь экспертов из beowolx/MistralHermes-CodePro-7B-v1 и preemware/Prox-MistralHermes-7B. В конфигурации указана базовая модель mlabonne/NeuralHermes-2.5-Mistral-7B; эксперты ориентированы на программирование и кибербезопасность. Модель предназначена для генерации текста и диалоговых сценариев, включая помощь с кодом и вопросы по информационной и сетевой безопасности. Архитектура — Mixtral MoE с классом MixtralForCausalLM; в репозитории доступны веса safetensors. Метаданные указывают 7,1 млрд параметров и контекст до 32 768 токенов. Модель распространяется по лицензии Apache-2.0. Карточка не приводит результаты оценки качества и не описывает конкретные меры безопасности; ответы по кибербезопасности и сгенерированный код требуют проверки.

RedHatAI/Qwen2.5-1.5B-quantized.w8a8 — квантизированная версия языковой модели Qwen2.5-1.5B, разработанная Neural Magic. Модель предназначена для генерации текста и ассистентских диалогов, включая коммерческое и исследовательское применение на нескольких языках. На вход принимает текст и возвращает текст; заявленный язык — английский. Архитектура — Qwen2, размер — 1,5 млрд параметров. Модель использует INT8-квантизацию весов и активаций, что примерно на 50% снижает требования к видеопамяти и размер диска, а также может примерно вдвое увеличить производительность матричных умножений. Квантизуются линейные операторы в трансформерных блоках: веса — статически по каналам, активации — динамически для каждого токена. Для эффективного развертывания рекомендуется vLLM; в README указан контекст до 8192 токенов. По среднему результату OpenLLM Leaderboard модель набрала 58,34 против 58,48 у неквантизированной версии, сохранив 99,8% исходного результата. Ограничениями являются снижение точности по отдельным задачам и отсутствие в предоставленных данных подробной информации о поддерживаемых языках, безопасности, специализированных доменах и качестве за пределами указанных бенчмарков. Модель распространяется по лицензии Apache-2.0; использование не должно нарушать применимое законодательство и нормативные требования.

AEON-7 выпустил раннюю BF16-версию Qwen3.8-27B, полученную аблитерацией базовой модели Qwen/Qwen3.8-27B для более прямых ответов и ослабления отказов. Это плотная мультимодальная модель с архитектурой семейства Qwen3.5 и примерно 27 млрд параметров; текстовая генерация — основная задача, также заявлена поддержка изображений. Карточка описывает запуск через Transformers и проверку сервинга через vLLM на NVIDIA H200; указанное в примере ограничение контекста — 16 384 токена, а для подходящего оборудования README упоминает исходное окно до 262 000 токенов. Модель предназначена для диалогов, следования инструкциям, программирования, многошаговых рассуждений и вызова инструментов. Ослабление отказов делает ответы более прямыми, но авторы предупреждают, что это ранний выпуск, а на очень длинных запросах возможны повторы и потеря связности. Визуальная башня и голова MTP оставлены без изменений относительно базы. Лицензия — Apache-2.0; веса доступны в формате safetensors, BF16.

Qwen3.8-Flash-Next-MLX-4bit — это сборка модели Qwen3.8-Flash-Next, адаптированная проектом PipeNetwork для запуска через MLX на компьютерах с Apple Silicon. Модель предназначена прежде всего для генерации текста и программного кода в локальном окружении с поддержкой mlx-lm. В состав репозитория входит собственный runtime для экспериментальной архитектуры qwen4_exp, поэтому для загрузки требуется trust_remote_code=True. Базовая модель имеет гибридную архитектуру Gated-DeltaNet и sparse attention с разреженной Mixture-of-Experts на 125 млрд параметров, из которых около 6 млрд активируются для одного токена, а также использует 51 млрд параметров hashed n-gram embedding. В этой версии веса преобразованы в формат MLX и преимущественно квантизированы до 4 бит: размер сборки составляет 103,8 ГБ против 360 ГБ у исходной версии в bfloat16. Часть параметров, включая маршрутизатор MoE и отдельные управляющие компоненты, сохранена в bfloat16. Vision tower также присутствует в bfloat16, но данный runtime работает только с текстом. Мультитокеновая prediction head размером 4 млрд параметров исключена. Языки и точное максимальное окно контекста в README не указаны. Сильной стороной сборки является существенное уменьшение занимаемого объёма при сохранении работоспособной генерации; runtime содержит исправления, обеспечивающие соответствие эталонной реализации на тестовой конфигурации. Однако равномерное 4-битное квантование заметно ухудшает качество: на тесте wikitext-2 perplexity составила 5,3914 против 4,4708 у bfloat16. В README рекомендуется смешанная сборка с 4- и 8-битным квантованием, которая занимает 106,2 ГБ и показывает значительно меньшую потерю качества. Модель распространяется по Qwen Community License 1.0.

Qwen3.8-Flash-Next-MLX-8bit — это 8-битная сборка модели Qwen3.8-Flash-Next, разработанная PipeNetwork для работы через MLX на компьютерах с Apple Silicon. Модель предназначена прежде всего для генерации текста, включая программирование, ответы на запросы и другие сценарии текстового вывода. В текущем runtime поддерживается только текстовый режим, хотя в составе checkpoint присутствует vision tower. Модель использует гибридную архитектуру Gated-DeltaNet и sparse attention с разреженной Mixture-of-Experts-структурой: всего около 125 млрд параметров, из которых примерно 6 млрд активируются на токен (125B-A6B). Также используется hashed n-gram embedding объёмом около 51 млрд параметров. Контекст и поддерживаемые языки в README не указаны. Модель преобразована в формат MLX и занимает около 192,2 ГБ на диске; большая часть весов квантована в 8 бит, отдельные управляющие компоненты и vision tower сохранены в bfloat16. 4B multi-token-prediction head не включён. По данным README, 8-битная версия сохраняет качество, статистически неотличимое от исходной bfloat16-модели на тесте wikitext-2, при существенно меньшем размере. Ограничения включают очень высокие требования к памяти, необходимость собственного runtime с поддержкой удалённого кода и привязку к экосистеме Apple Silicon и MLX. Лицензия — Qwen Community License 1.0.

Qybera2.5-0 — компактный диалоговый ассистент Stackpulse Cloud на базе причинной языковой модели Qwen2, дообученной следовать инструкциям. Модель содержит 494 млн параметров, принимает текст и выдаёт текст; контекст — до 32 768 токенов. В репозитории указаны веса Safetensors и библиотека Transformers. Модель предназначена для общего чата, выполнения инструкций, суммаризации, объяснения кода, локального запуска на маломощных устройствах и недорогой маршрутизации API. В карточке заявлена многоязычная поддержка с сильными сторонами в английском и китайском языках. Лицензия — Apache 2.0. Компактный размер подходит для сценариев с ограниченными ресурсами, однако модель может ошибаться и воспроизводить смещения данных обучения. Карточка не рекомендует полагаться на неё в сложных многошаговых математических задачах, продвинутых агентных сценариях и создании длинной художественной прозы без дополнительного руководства; важные ответы следует проверять.

Tiiny/SmallThinker-4BA0.6B-Instruct-GGUF — GGUF-квантизированная версия SmallThinker-4BA0.6B-Instruct, семейства нативных для устройств языковых моделей с архитектурой Mixture-of-Experts. Модель разработана совместно IPADS и School of AI Шанхайского университета Цзяотун при участии Zenergize AI и предназначена для локального запуска на устройствах с ограниченными ресурсами, обеспечивая приватность и низкую задержку без обращения к облачным сервисам. Модель рассчитана на генерацию текста и работу в инструкционном режиме: ответы на вопросы, рассуждения, решение математических задач, следование инструкциям и генерацию кода. Она обучалась преимущественно на английском языке, поэтому качество для других языков не заявлено. Контекстное окно составляет 32K токенов. Архитектура включает 4B общих параметров и 0,6B активируемых параметров, 32 слоя, 12 attention heads, механизм GQA, активацию ReGLU, 32 эксперта MoE и выбор 4 экспертов на токен. К сильным сторонам относятся высокая эффективность для компактной модели, возможность локального развертывания, поддержка llama.cpp для обычных GGUF-файлов и PowerInfer для файлов с суффиксом .powerinfer.gguf, использующих разреженные операторы. Ограничения включают преимущественно англоязычное обучение, возможные фактические ошибки, предвзятость и устаревание ответов, а также зависимость специальных .powerinfer.gguf-файлов от фреймворка PowerInfer. Модель распространяется по лицензии Apache-2.0.

Star Supernova — англоязычная модель генерации текста monkiey/StarSupernova, созданная на базе Gemma-4 и дообученная с дистилляцией интеллектуальных и аналитических возможностей модели stepfun-ai/Step-3.7-Flash. Она предназначена для многошагового рассуждения, решения математических задач, академического и профессионального анализа, работы с вопросами из MMLU-Pro, программированием, системной инженерией и многоходовыми диалогами разработчика с инструментами. Модель использует разреженную архитектуру Mixture-of-Experts с 12 экспертами, Top-4-маршрутизацией для каждого токена и общей плотной MLP-сетью. Общий объём составляет около 13,47 млрд параметров, из них активно используется около 5,54 млрд на токен. Архитектура основана на Gemma-4 с 35 слоями и размерностью скрытого состояния 1536, контекст — до 131 072 токенов. Веса квантизованы до 4 бит, проекции маршрутизатора — до 8 бит; заявленный объём памяти составляет около 8,7 ГБ VRAM. Сильные стороны модели — высокая ёмкость при разреженной активации, специализированные навыки рассуждения, пошаговые математические выводы, устранение отвлекающих вариантов в тестах и эффективный запуск на компьютерах Apple Silicon через MLX и Metal GPU. Ограничение — модель обучалась только на английском языке и рассчитана прежде всего на англоязычные сценарии. Для работы требуется MLX/Apple Silicon; README указывает лицензию Apache-2.0.

Карточка модели CollectionStudio/Trinity-Nano-Preview на Hugging Face совпадает с карточкой arcee-ai/Trinity-Nano-Preview, поэтому описание составлено по ней. Trinity Nano Preview — экспериментальная чат-модель семейства Trinity от Arcee AI, созданная дообучением Trinity-Nano-Base. В README она описана как разреженная MoE-модель с архитектурой AfmoeForCausalLM, 6 млрд параметров и примерно 1 млрд активных параметров; метаданные указывают 880,3 млн параметров. Поддерживает контекст до 131 072 токенов и работает с текстом на нескольких языках. Модель предназначена для диалогов и генерации текста. Разработчики описывают её как открытую по весам модель для предприятий и энтузиастов, обученную на 10 трлн токенов с дополнительным акцентом на математике и коде. README предупреждает, что в этой предварительной экспериментальной версии возможна нестабильность в отдельных сценариях. Указанная в README лицензия — OpenMDW-1.1; метаданные Hugging Face обозначают её как other.

Trismal-HyperAmocles-7B-Base-Ties — объединённая модель на базе Mistral, созданная JoPmt методом TIES с помощью LazyMergekit из JoPmt/Trismal-Amocles-7B-Base-Ties и Locutusque/Hyperion-2.0-Mistral-7B. Модель содержит 7,1 млрд параметров и предназначена для генерации текста.

Cerebrum-1.0-8x7b — языковая модель AetherResearch для генерации текста и решения задач, требующих рассуждений. Это дообученная версия Mixtral 8x7B с архитектурой sparse Mixture of Experts (MoE); модель обучали на небольшом наборе примеров с цепочками рассуждений и дополнительно выравнивали с помощью targeted RLHF. В метаданных указано 7,1 млрд параметров и контекст до 32 768 токенов. Модель предназначена для ответов на вопросы, математических и логических задач, программирования, творческой работы и мозгового штурма. Карточка сообщает о конкурентных результатах на отдельных тестах относительно Gemini 1.0 Pro и GPT-3.5 Turbo, однако оценки получены в разных режимах и условиях. Для диалога рекомендуется шаблон Alpaca с запросом описать ход решения. Модель работает с текстом и рассчитана на английский язык; лицензия — Apache 2.0. Результаты могут зависеть от формулировки запроса и выбранного шаблона.

WaveCut подготовил квантованную сборку DeepSeek-V4-Flash-0731-REAM96-111B в формате GGUF. Это чат-модель с архитектурой mixture-of-experts: в сборке оставлено 96 из исходных 256 экспертов на слой. Экспертов квантовали до 2 бит, внимание — до 8 бит; для квантования использована importance matrix. Файл ream96.gguf занимает 36,4 ГБ, сборка рассчитана на конфигурации с 48 ГиБ памяти. Модель предназначена для многоязычного диалога, рассуждений, ответов на вопросы о коде и продолжительных бесед. В README отмечено, что многоязычный чат, рассуждения и длинные диалоги показывают стабильные результаты, однако 2-битная квантизация особенно ухудшает агентное поведение. В отдельных прогонах наблюдались сбои в русской игре слов, переключении с английского на русский, вызове инструментов и удержании фокуса в длинном диалоге. Для запуска требуется специализированная ветка DS4 с поддержкой переменного числа экспертов; обычный llama.cpp этот файл не загрузит. Лицензия — MIT. Для конфигураций запуска в README приведён контекст 8192 токена.

GoedelMachines разработала DiffusionGemma-26B-A4B W4A16 — 4-битную версию модели Google DiffusionGemma-26B-A4B-it с оптимизированными Triton-ядрами для ускорения генерации. Это языковая модель с блочной диффузионной архитектурой: она уточняет токены на холсте из 256 позиций до 48 шагов, а не генерирует их последовательно. В модели 26 млрд параметров, из которых активно используются 4 млрд; MoE-маршрутизация выбирает 8 из 128 экспертов для каждого токена. Модель предназначена для диалогов и генерации текста, в том числе для математических задач и генерации кода. В README заявлено ускорение в 2,3–2,7 раза относительно bf16-базы на GB10 при близких результатах в GSM8K, HumanEval и MATH. Экспериментальные замеры также показывают работу на RTX 5090; для весов требуется около 18 ГБ видеопамяти и до 20 ГБ в пике. Репозиторий содержит safetensors-веса и ядра Triton; загрузчику Transformers требуется trust_remote_code=True. Модель основана на google/diffusiongemma-26B-A4B-it и распространяется по лицензии Gemma. README описывает только текстовую генерацию; мультимодальные пути не проверялись. Точность оценивалась на ограниченных выборках, использована квантизация round-to-nearest min/max без калибровки, а конфигурации для GPU, отличных от GB10 и RTX 5090, не проверены сквозным тестированием.

EvaByte-Phase1 — базовая авторегрессионная языковая модель на 6,5 млрд параметров от команды авторов EvaByte. Она использует байтовое представление текста, улучшенную архитектуру с предсказанием нескольких байтов и эффективный механизм внимания EVA. Модель предварительно обучена на 1,2 трлн байтов данных; в обучающий корпус входили естественные языки, математика и код. Модель предназначена для генерации продолжений текста, ответов в диалоге и задач с кодом. Она поддерживает контекст до 32 768 токенов и может генерировать по одному байту или использовать режим многобайтовой генерации. По данным карточки, EvaByte показывает результаты, сопоставимые с открытыми токенизаторными языковыми моделями при меньшем объёме обучающих данных и обеспечивает более быстрое декодирование. Лицензия — Apache-2.0. Это чекпойнт первой фазы обучения: последующие версии EvaByte прошли дополнительные этапы дообучения и объединения, поэтому возможности финальной версии не следует автоматически приписывать Phase1.

Gemma-2-2b-All-in-One — объединённая разговорная языковая модель семейства Gemma 2, созданная bunnycore с помощью mergekit и метода Model Stock. В основе объединения лежит IlyaGusev/gemma-2-2b-it-abliterated; также включены модели и адаптеры для смешанных задач, кода и диалогов. Модель содержит 2,7 млрд параметров, использует плотную архитектуру Gemma2ForCausalLM и работает с контекстом до 8192 токенов. Модель предназначена для генерации текста в диалоге, ответов на вопросы и помощи с кодом. В метаданных указана поддержка чата и текстовой генерации; дополнительных входных модальностей не заявлено. Карточка не перечисляет языки, поэтому нельзя определить приоритетный язык. Веса опубликованы в формате safetensors и имеют тип bfloat16. Результат слияния объединяет несколько моделей с разными настройками и возможностями, поэтому качество может различаться в зависимости от задачи. Лицензия в предоставленных данных не указана.

urs-rs/gemma-4-26B-A4B-it-FP8-DYNAMIC — это производственная FP8-квантизованная версия инструкционной модели google/gemma-4-26B-A4B-it, разработанная на базе Gemma 4 от Google DeepMind. Квантование выполнено с помощью llm-compressor методом oneshot() с паттерном load_context(), который корректно обрабатывает объединённую структуру MoE-экспертов Gemma 4. Модель предназначена для развёртывания через vLLM, в том числе для многоходовых диалогов и голосовых AI-сценариев. Модель имеет архитектуру Mixture-of-Experts; в идентификаторе указаны конфигурация 26B и A4B, однако подробности об архитектуре, языках, модальностях и исходном размере контекста в README не приведены. Линейные слои квантизованы в FP8 по схеме W8A8: веса используют 8-битное поканальное симметричное представление, а активации — 8-битное динамическое токен-ориентированное представление. Веса маршрутизатора, нормализационные слои и lm_head сохранены в BF16 для стабильности выбора экспертов и генерации. Размер чекпойнта составляет около 13,3 GiB, что на 47% меньше версии BF16. По заявленным результатам, потери на MMLU-Pro составляют 0,26 процентного пункта относительно BF16, а заметного ухудшения качества многоходовых диалогов не обнаружено. На H100 NVL при контексте 16K заявлена максимальная конкурентность 21,3 запроса и примерно на 80% больше параллельных вызовов при сопоставимой задержке по сравнению с BF16. Ограничения включают зависимость от совместимого окружения vLLM 0.20.2rc1+ и CUDA 12.9, а также высокие требования к оборудованию: рекомендуется NVIDIA A100 40 GB или H100 80 GB. Чекпойнт распространяется по Gemma Community License, то есть на условиях лицензии базовой модели google/gemma-4-26B-A4B-it.

LeoScorpius-7B-Chat-DPO-Mistral-7B-Instruct-v0.1 — чат-модель, созданная MaziyarPanahi слиянием Mistral-7B-Instruct-v0.1 и LeoScorpius-7B-Chat-DPO методом SLERP. Она предназначена для генерации ответов на инструкции и ведения диалогов. Модель использует плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель принимает текст и генерирует текстовые ответы. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0. Метаданные не указывают языковую специализацию модели.

KoarAI/LFM2.5-350M-Thinking-0004 — компактная языковая модель для диалоговой генерации текста и пошаговых рассуждений. По карточке, модель разработана KoarAI на архитектуре LiquidAI LFM2.5 и дообучена методом двухэтапной дистилляции с несколькими учителями. В метаданных указаны плотная архитектура LFM2, около 443,4 млн параметров и контекст до 128 000 токенов. Модель предназначена для ответов на вопросы, многошаговых математических рассуждений, генерации кода и работы на маломощных устройствах. Карточка заявляет хорошее владение русским языком и генерацию структурированных рассуждений; метаданные также отмечают английский. Указана лицензия Apache-2.0. Результаты скорости и бенчмарков приведены авторами модели и не являются независимой оценкой.

Llama-3-Smaug-8B — языковая модель Abacus.AI для диалогов и генерации текста. Она создана дообучением meta-llama/Meta-Llama-3-8B-Instruct по рецепту Smaug, ориентированному на повышение качества многоходовых разговоров в практических сценариях. Модель использует плотную архитектуру Llama, содержит 7,5 млрд параметров и рассчитана на контекст до 8192 токенов; веса доступны в формате safetensors для Transformers. Модель подходит для диалоговых помощников и задач генерации текста. В карточке приведено сравнение на MT-Bench: средняя оценка Smaug-8B составила 8,33 против 8,10 у исходной Meta-Llama-3-8B-Instruct. В данных также указаны обучающие наборы для математических задач, кода и диалогов. Метаданные указывают лицензию llama2; перед использованием следует учитывать условия лицензии Meta Llama 2.

Это объединённая языковая модель на архитектуре Llama 3.2, созданная с помощью mergekit методом TIES. В качестве базовой модели указана meta-llama/Llama-3.2-1B; размер модели — 1,2 млрд параметров, длина контекста — до 131 072 токенов. Репозиторий создан в ноябре 2024 года, веса представлены в формате safetensors. Модель объединяет инструкционные и специализированные варианты Llama для ответов на вопросы, математических рассуждений, медицинских вопросов, работы с SQL и генерации кода. Она предназначена для текстового ввода и генерации текста; карточка не описывает результаты оценки качества или гарантии выполнения всех перечисленных навыков. Для использования действует лицензия базовой модели Meta-Llama; конкретные условия лицензирования объединённых весов следует сверить с карточками исходных моделей.

MiroThinker-v1.5-30B-GGUF — это открытая агентная модель для поиска, ответов на вопросы и глубокого многошагового исследования с использованием внешних инструментов. Модель разработана командой MiroMind AI и основана на Qwen3-30B-A3B-Thinking-2507; представленная версия распространяется в формате GGUF и создана с использованием llama.cpp. Модель предназначена для задач tool-augmented reasoning, информационного поиска и долгосрочного анализа. Она поддерживает контекст до 256K токенов и рассчитана максимум на 400 вызовов инструментов в рамках одной задачи, что позволяет выполнять сложные исследовательские сценарии с многочисленными взаимодействиями со средой. В карточке указано, что модель поддерживает английский язык. Архитектура исходной модели относится к классу Mixture of Experts, однако точные параметры представленной GGUF-квантизации не указаны. К сильным сторонам относятся способность корректировать ход рассуждений на основе обратной связи среды, получать внешнюю информацию и выполнять глубокие многошаговые траектории. Для GGUF-версий применяется дополнительное повышение точности отдельных важных слоёв при квантизации, что должно улучшать точность на заданном уровне битности, но увеличивает размер файла. Ограничения включают зависимость качества от доступных инструментов, вычислительных ресурсов и выбранного варианта квантизации; сведения о мультимодальности и конкретных требованиях к оборудованию отсутствуют. Лицензия — MIT.

OpenAi-GPT-oss-36B-BrainStorm20x-uncensored — текстовая генеративная модель DavidAU на базе huizimao/gpt-oss-20b-uncensored-bf16 с добавленным адаптером Brainstorm 20x. Автор заявляет улучшения в общих ответах, нестандартном рассуждении и программировании. Архитектура — GPT-OSS с механизмом Mixture of Experts; карточка указывает 36 млрд параметров после добавления адаптера, тогда как метаданные каталога приводят 2,5 млрд параметров. Модель работает с контекстом до 131 072 токенов и рассчитана на генерацию текста, диалог, решение задач, мозговой штурм и написание кода. Модель ориентирована на пользователей, которым нужны свободная генерация и ответы с меньшим числом отказов, включая творческие и взрослые сценарии. По описанию автора, для получения желаемого уровня откровенности иногда требуются подробные инструкции; качество генерации может быть неровным, а повторные запуски и настройка параметров влияют на результат. Указана лицензия Apache-2.0.

Pretergeek создал OpenChat-3.5-0106_9.86B_44Layers-Appended на основе диалоговой модели OpenChat 3.5 0106. Это плотная причинная языковая модель семейства Mistral с 9,7 млрд параметров, предназначенная для генерации текста и общения в формате чата. Она принимает текст и выдаёт текст; заявленная длина контекста — 8192 токена. Модель получена расширением исходной сети дополнительными слоями в конце: автор применил вариант метода расширения блоков, описанного в работе LLaMA Pro. По README, после такого расширения модель ещё не проходила дополнительное обучение и должна вести себя близко к исходной. Её можно использовать для диалога, ответов на общие вопросы, программирования и математических рассуждений, но ожидаемые улучшения от новых слоёв пока не подтверждены обучением. Модель распространяется по лицензии Apache-2.0. Результаты в таблице README включают средний показатель 22,55, IFEval — 59,61 и BBH — 24,06; полный контекст оценки в доступной карточке не приведён.

Карточка модели OpenYourMind/OpenYourMind-NVIDIA-Nemotron-3-Ultra-550B-A55B-abliterated-uncensored на Hugging Face совпадает с карточкой Laerins/OpenYourMind-NVIDIA-Nemotron-3-Ultra-550B-A55B-abliterated-uncensored, поэтому описание составлено по ней. OpenYourMind создала эту полноразмерную BF16-версию NVIDIA Nemotron-3-Ultra-550B-A55B с ослабленными отказами на типовых категориях запросов. По описанию автора, изменение выполнено офлайн-проекцией направления отказа на веса без дополнительного обучения и без изменения структуры базовой модели. Модель содержит 550 млрд параметров, из которых активно 55 млрд, и использует гибридную архитектуру Mamba-2, Attention и Latent-MoE; сохранены режим рассуждений enable_thinking и голова MTP для спекулятивного декодирования. Модель предназначена для диалоговой генерации текста, сложных рассуждений и технических или защитных запросов, на которые исходная модель могла отказывать. Контекст составляет 262 144 токена. Веса BF16 занимают около 1,1 ТБ и требуют мног GPU-развёртывания; автор указывает vLLM как вариант запуска. README заявляет сохранение связности, точности и многоязычной беглости, однако не приводит независимых оценок этих свойств. Лицензия — OpenMDW-1.1, унаследованная от базовой модели.

Это квантизированная в формате GGUF BF16 версия модели Qwen3.8-27B-Brainwaves-WFH-BF16 от nightmedia, подготовленная mradermacher. Репозиторий содержит взвешенные imatrix-кванты, включая варианты для разных требований к размеру и качеству; README также приводит вариант IQ1_S размером 7,2 ГБ и IQ1_M размером 7,7 ГБ. Модель предназначена для генерации текста в диалоговом и инструкционном режиме. Метаданные указывают на применение в программировании, математике, рассуждениях и творческом письме; заявлены английский, китайский, японский и испанский языки. Для использования требуются совместимый с GGUF движок и выбранный файл квантизации. Лицензия — Apache-2.0.

StrangeMerges_51-7B-dare_ties — текстовая генеративная модель, созданная Gille объединением пяти моделей с помощью LazyMergekit: WizardMath-7B-V1.1, NeuralCoder-7b, Einstein-v4-7B, Matter-0.1-Slim-7B-C-DPO и StrangeMerges_42-7B-dare_ties. Это плотная модель семейства Mistral с 7,1 млрд параметров; доступна в формате safetensors и имеет контекст до 32 768 токенов. Модель предназначена для генерации текста и может быть полезна для диалогов и инструкций, математических рассуждений и задач по программированию — эти направления представлены среди объединённых моделей. В README приведены результаты Open LLM Leaderboard, включая средний балл 71,73, однако без полной таблицы и описания методики эти показатели не позволяют оценить качество на конкретных пользовательских задачах. Модель распространяется по лицензии Apache-2.0. В карточке нет сведений о целевых языках и специальных мерах безопасности; фактическое качество объединения на конкретных задачах следует проверять отдельно.

Tulu V2.5 PPO 13B — англоязычная диалоговая модель-помощник, разработанная AllenAI. Это плотная авторегрессионная модель семейства Llama с 12,9 млрд параметров, дообученная на основе Tulu 2 с применением PPO и данных предпочтений UltraFeedback; для обучения использовалась reward-модель на 70 млрд параметров и смесь промптов. Контекст модели — до 4096 токенов. Модель предназначена для генерации текста и ответов на инструкции в диалоговом формате: её можно применять для вопросов и ответов, помощи с кодом и математическими задачами. В карточке указан шаблон чата с сообщением пользователя между маркерами начала и конца, а токенизатор содержит соответствующий chat template. Модель поддерживает английский язык и распространяется по лицензии Apache 2.0. В карточке отмечено, что модель не обучали выдавать безопасные ответы на этапе RLHF и не снабдили фильтрацией ответов во время работы, поэтому она может генерировать проблемный контент, особенно при соответствующих запросах.

Alpha-Orionis-v0.1 — экспериментальная текстовая генеративная модель из серии Orion, разработанной автором fearlessdots. Она представляет собой плотную причинно-языковую модель семейства Mistral примерно на 7,1 млрд параметров с контекстом до 32 768 токенов и предназначена для диалога и генерации текста. Автор ориентирует серию на STEM, информатику и программирование, социальные науки, рассуждения, логическую дедукцию, критический анализ и общие знания; в метаданных указан обучающий набор ToxicQAFinal. В карточке указано, что модель дообучалась с применением LoRA и 4-битной конфигурации обучения, а затем адаптер был объединён с базовой моделью. Идентификатор базы не заполнен; среди благодарностей упомянута команда Wizard, но точная исходная модель не названа. Модель описана как намеренно малоцензурированная и экспериментальная, поэтому качество ответов может быть непостоянным, а результаты требуют проверки. Лицензия репозитория — Apache-2.0.

Cotype-Nano — компактная языковая модель MTSAIR на 1,5 млрд параметров с архитектурой Qwen2. Она предназначена для диалогового взаимодействия и генерации текста при ограниченных вычислительных ресурсах; в карточке приведён пример ответа с объяснением и кодом для простого сервера FastAPI. Модель обучали в два этапа: сначала MLP-слои на математических и программных данных, затем всю модель на внутренних и открытых синтетических инструкционных наборах. Поддерживаются русский и английский языки, а длина контекста составляет 32 768 токенов. В метаданных также указана возможность интерфейса вызова инструментов. В README приведён локальный результат 30,2 в ru-llm-arena; это измерение авторов карточки, а не независимая гарантия качества. Модель распространяется в формате safetensors, для запуска в README предлагается vLLM. Лицензия обозначена как other, поэтому условия использования следует уточнить в репозитории.