II.7DevOps, облако и эксплуатация IT-систем

GALPACA 6.7B — языковая модель на архитектуре OPT, созданная дообучением GALACTICA 6.7B на 52 тысячах пар инструкций и ответов из набора Alpaca. Модель разработана для ответов на запросы в формате инструкций и ориентирована на научные и технические задачи; её базовая модель обучалась на крупном корпусе научных текстов и данных. Размер модели по метаданным — 8,8 млрд параметров, максимальный контекст — 2048 токенов. Модель принимает текст и генерирует текст. Качественные оценки указывают на сильные стороны в технических знаниях и программировании по сравнению с некоторыми моделями Alpaca на базе LLaMA, но на обычной генерации прозы она уступает им. Ответы могут быть неточными, поэтому для практического применения нужны проверки и меры предосторожности. Лицензия — CC BY-NC 4.0; использование также связано с условиями OpenAI, поскольку набор Alpaca был создан с помощью text-davinci-003.

Hercules-1.0-Mistral-7B — диалоговая языковая модель на основе Mistral-7B, дообученная Locutusque на наборах Hercules и OpenOrca. Она предназначена для генерации ответов в диалоге и других текстовых задач; метаданные также отмечают поддержку сценариев с кодом. Модель содержит 7,1 млрд параметров, использует плотную архитектуру Mistral и поддерживает контекст до 32 768 токенов. Автор позиционирует её как улучшенную версию OpenHermes-7B и сообщает о сопоставимом качестве с OpenHermes 2; приведены результаты сравнения и тестовая потеря, но подробности протокола оценки в карточке не раскрыты. Модель распространяется в формате safetensors по лицензии Apache-2.0.

MiMo-V2.6-Distill-Qwen-9B — плотная мультимодальная модель на 9 млрд параметров, разработанная Xiaomi MiMo посредством supervised fine-tuning Qwen3.5-9B на данных, созданных MiMo. Модель предназначена для диалогов и агентных сценариев, включая программирование, визуальное программирование и задачи кибербезопасности; также поддерживает обработку изображений. Карточка публикует результаты SFT-чекпойнта на бенчмарках по программированию. Это контрольная точка для дальнейших исследований в области агентного обучения с подкреплением. Для запуска README рекомендует свежую сборку SGLang с поддержкой Qwen3.5; модель включает токенизатор и шаблон чата MiMo v2.6. Репозиторий содержит веса safetensors. Лицензия — MIT. README не описывает конкретные ограничения качества или безопасности модели.

Locutusque/NeuralHyperion-2.0-Mistral-7B — языковая модель на архитектуре Mistral, дообученная разработчиком Locutusque на Hyperion-v2.0 и дополнительно с помощью DPO на предпочтениях Capybara. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для ответов на сложные вопросы, диалогов и рассуждений в научно-технических областях, генерации кода, математических задач и понимания медицинских текстов. В README заявлена поддержка английского языка; метаданные также отмечают задачи, связанные с кодом и химией. Качество ответов может быть непоследовательным из-за различий в форматировании и качестве разметки обучающих данных; результаты оценки в карточке пока не приведены. Модель распространяется по лицензии Apache-2.0.

Olmo-3-1025-7B — базовая авторегрессионная языковая модель семейства OLMo 3, разработанная Allen Institute for AI (Ai2). Она предназначена для генерации текста и служит основой для дальнейшей настройки под диалоговые и специализированные задачи. Модель имеет плотную Transformer-архитектуру для причинного языкового моделирования, около 6,9 млрд параметров и контекстное окно 65 536 токенов. Она обучена преимущественно на английском языке на данных Dolma 3; обучение включало текст, код, математику, вопросы и ответы, инструкции и PDF-документы. Репозиторий содержит веса в формате safetensors и поддерживается библиотекой Transformers версии 4.57.0 и выше. Длинный контекст и широкая обучающая выборка подходят для генерации продолжений, черновиков и кода, а также для адаптации модели к прикладным сценариям. Это базовая модель, поэтому её ответы не обязательно следуют инструкциям как у чат-модели; возможны фактические ошибки, предвзятые или вредоносные ответы без дополнительной настройки и фильтрации. Лицензия модели и кода — Apache 2.0.

Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX-MTP-GGUF — модель на базе Qwen 3.8 27B, дообученная и объединённая в рамках многоэтапного пайплайна Fable Fusion и COLD FUSION с использованием Unsloth. Разработчик позиционирует её как открытую модель для потребительского оборудования. Доступны обычные и MTP GGUF-квантизации, включая варианты с точностью 4 и 8 бит. В README заявлены поддержка английского и китайского языков, а также image-text-to-text как тип задачи, однако подробности мультимодальной архитектуры не указаны. Модель предназначена для общего решения задач, рассуждений, программирования, творческого письма, создания художественных текстов, ролевых сценариев и других текстовых применений. Основной акцент сделан на сокращении объёма «размышлений» и ускорении генерации при сохранении детализации и качества ответов. Также заявлена ориентация на MTP и высокую производительность в задачах кодирования. По утверждению автора, модель превосходит базовые Qwen 3.8 27B и ряд других моделей в семи ключевых бенчмарках, включая ARC-C и ARC-E; независимое подтверждение этих результатов в предоставленных данных отсутствует. К сильным сторонам относятся сравнительно компактный размер для заявленного уровня возможностей, поддержка GGUF, наличие 4- и 8-битных вариантов, сниженное чрезмерное рассуждение и специализация на коде и творческой генерации. Ограничениями являются отсутствие точных данных о размере контекстного окна, параметрах мультимодальности, системных требованиях и реальной производительности на разных устройствах. Модель описывается как uncensored и abliterated, поэтому её поведение в вопросах безопасности может отличаться от исходной модели. Лицензия — Apache-2.0.

Solstice-AI/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-NEO-CODER-mlx-oQ4e-1M — релиз модели на базе Qwen3.8-27B TURBO Fable Cold Fusion, разработанной DavidAU, с последующей квантизацией, масштабированием контекста и упаковкой от Solstice-AI. Модель предназначена для программирования, рассуждений, агентной разработки, отладки репозиториев и работы с длинными документами и проектами. В README также указана совместимость с задачами image-text-to-text, однако подробности о поддерживаемых визуальных входах не приведены. Модель содержит 27 млрд параметров и поставляется в формате Apple MLX oQ4e mixed precision с размером около 17,02 ГБ. Заявлены гибридная архитектура с блоками Gated Delta Recurrent Network и Grouped-Query Attention, механизм Multi-Token Prediction для ускорения генерации, а также YaRN-масштабирование RoPE до 1 048 576 токенов. Указаны языки English и Chinese. Основная среда применения — компьютеры Apple Silicon с unified memory, включая MacBook с 16 или 24 ГБ памяти, через Anvil и MLX-LM. Сильными сторонами заявлены высокая эффективность на Apple Silicon, большой контекст, поддержка задач кодирования и рассуждений, а также хорошие результаты на SWE-bench Pro, LiveCodeBench, QwenSWEBench, OSWorld, AndroidWorld, IFBench, CoWorkBench и ARC. Эти показатели приведены в README и не подтверждены независимой проверкой. Ограничениями являются зависимость от MLX и Apple Metal, требования к объёму unified memory, возможные потери качества из-за 4-битной квантизации и неполная информация о фактической мультимодальности и поведении на длинном контексте. Лицензия — Apache 2.0.

Qwen3-Coder-30B-A3B-Instruct-GGUF — это квантованная версия языковой модели для генерации текста, созданная сообществом LM Studio на основе Qwen3-Coder-30B-A3B-Instruct от разработчика Qwen. GGUF-квантизацию выполнил bartowski с использованием llama.cpp, релиз b6014. LM Studio не является создателем или владельцем модели. Модель предназначена прежде всего для задач, связанных с программированием и генерацией текста, однако README не содержит подробностей о поддерживаемых языках программирования, естественных языках, размере контекста, конкретной архитектуре или доступных модальностях. Формат GGUF и использование llama.cpp указывают на возможность запуска в совместимой локальной инфраструктуре, но точные требования к ресурсам и параметры квантизации не указаны. Лицензия в README не указана. Модель может генерировать неточный, вредный или нежелательный контент, поэтому результаты требуют проверки, особенно при использовании в программном коде и автоматизированных сценариях.

Карточка модели roskosmos19/Rhea-4B-Coding-max на Hugging Face совпадает с карточкой roskosmos19/Orca-2-4B-Coding-max, поэтому описание составлено по ней. Rhea-4B-Coding — дообученная Roskosmos19 модель для программирования на базе Aquiles-ai/Athenea-4B-Coding. Это плотная авторегрессионная модель семейства Qwen3 с 3,7 млрд параметров; она работает через Transformers, принимает текст и генерирует текст. В карточке заявлено контекстное окно до 262 144 токенов. Модель предназначена для рассуждений о коде, его написания и дополнения, отладки, проектирования алгоритмов и понимания программ. Она обучена на программных данных с трассами рассуждений и ориентирована на многошаговый цикл: первоначальная реализация, самопроверка на ошибки и улучшение итогового решения. Также заявлена поддержка сценариев с агентными инструментами. Модель рассчитана на задачи разработки с несколькими языками программирования; метаданные указывают английский язык. Карточка описывает её как uncensored и предназначенную для исследований и экспериментов. Лицензия — Apache-2.0. Качество рассуждений и работы с инструментами зависит от запроса и настроек инференса; отдельные результаты оценки в карточке не приведены.

Bonsai-27B-antidoom-1bit-DSpark — текстовая генеративная модель, разработанная на базе Bonsai-27B от prism-ml с применением метода antidoom от Liquid4All и ускорения DSpark от PrismML. Модель предназначена для генерации текста, включая программный код, а также поддерживает работу с изображениями через поставляемый vision projector. Указанный язык — английский. Это гибридная attention-модель Qwen3.5 с 27 млрд параметров, квантованная в 1-битный формат GGUF Q1_0 с показателем 1,125 бит на вес при группировке g128. В комплект входят основная модель размером около 4,5 ГБ, DSpark-драфтер в формате Q4_1 и vision projector в формате Q8_0. Для запуска требуется форк llama.cpp от PrismML с CUDA и поддержкой специальных Q1_0-ядер гибридного внимания; протестированная конфигурация использует одну RTX 5090 с 32 ГБ памяти. Контекст в приведённой конфигурации составляет 16 384 токена. Antidoom — это FTPO-настройка, направленная на снижение зацикливания и повторов: модель обучалась предпочитать связное продолжение вместо продолжения повторяющегося цикла. При этом агрессивное 1-битное квантование частично ослабляет эффект LoRA, поэтому он сильнее проявляется при более высокой точности. DSpark ускоряет генерацию на задачах с высокой долей принятых черновых токенов, однако на обычной прозе с низкой долей принятия может работать медленнее нативного режима. Лицензия модели — Apache-2.0.

winglian/llama-3-8b-256k-PoSE — производная модель семейства Llama 3, опубликованная пользователем winglian на основе Meta Llama 3. Это плотная авторегрессионная трансформерная языковая модель примерно с 7,5 млрд параметров; репозиторий содержит веса Safetensors. В названии заявлено расширение контекста методом PoSE, а метаданные указывают нативную длину контекста 524 288 токенов. Модель принимает текст и генерирует текст, включая код. Она подходит для продолжения текста, генерации кода и других сценариев генерации на английском языке; базовая карточка Llama 3 также описывает диалоговые сценарии для инструктивно настроенных вариантов. Для этой конкретной модели README повторяет общую карточку Llama 3 и не подтверждает отдельные результаты или качество настройки PoSE. Использование регулируется пользовательской коммерческой лицензией Llama 3 и связанными правилами допустимого использования; базовая карточка ориентирует применение на английский язык.

OpenCerebrum-2.0-7B-GGUF — это квантизированная версия языковой модели Locutusque/OpenCerebrum-2.0-7B, подготовленная mradermacher в формате GGUF. Модель предназначена для генерации текста и ответов на вопросы, включая задачи по программированию, математике, химии и биологии. Заявлен английский язык. Модель содержит 7 млрд параметров и распространяется в нескольких вариантах квантизации объёмом примерно от 2,8 до 7,8 ГБ: Q2_K, Q3, IQ3, IQ4, Q4, Q5, Q6 и Q8. Более компактные варианты требуют меньше памяти, но могут уступать по качеству; в README отдельно отмечены Q4_K_S и Q4_K_M как быстрые и рекомендуемые, а Q8_0 — как вариант с наилучшим качеством. Сведения об архитектуре, размере контекста, поддерживаемых модальностях помимо текста и результатах тестирования не указаны. Это open-source модель, опубликованная с лицензией Apache-2.0. README описывает статические квантизации; взвешенные или imatrix-варианты на момент публикации не предоставлялись. Для запуска GGUF-файлов требуется совместимое программное обеспечение, однако конкретные средства инференса не указаны.

SC117 выпустил Ornith-1.0-35B-Heretic-MTP как экспериментальную производную модели Ornith-1.0-35B от DeepReinforce AI. Это разговорная модель для генерации текста, в том числе для агентного программирования; архитектура относится к семейству Qwen3.5 MoE. В релиз вошли слитые с весами BF16 параметры адаптера Heretic Trial 63, совместимая голова MTP и визуальный проектор BF16. README также описывает варианты APEX GGUF со смешанной точностью, но метаданные этого репозитория указывают формат safetensors. Модель принимает текст и может работать с изображениями через визуальный проектор; основной выход — текст. В README приведена команда запуска с контекстом 131072 токена. Лицензия — MIT. Изменение поведения отказов относительно исходной модели требует отдельной оценки перед развёртыванием.

Ornith-1.5-35B-A3B-NVFP4-W4A16 — это независимый community-артефакт, созданный r0b0tlab на основе модели Ornith-1.5-35B-A3B от Ornith AI. Модель предназначена для мультимодальных сценариев image-text-to-text, включая генерацию текста, программирование, математические задачи, выполнение инструкций и агентское кодирование. Артефакт не связан с NVIDIA или Ornith AI и не является их официальным продуктом. Модель использует архитектуру Qwen3_5MoeForConditionalGeneration с 35,1 млрд параметров, гибридным механизмом GDN linear attention и softmax attention, а также Mixture-of-Experts. Это квантизованная версия с NVFP4 W4A16 weight-only: веса Linear-слоёв представлены в 4-битном формате, активации используют BF16, KV-кэш — FP8-E4M3. Размер на диске составляет около 23 ГБ вместо 67 ГБ у BF16-версии, что даёт сжатие примерно в 2,9 раза. Заявлен контекст до 32 768 токенов, однако сведения о поддерживаемых языках в README отсутствуют. По внутреннему набору из 200 вопросов модель показала сопоставимое с BF16-базой качество на GSM8K, HumanEval и IFEval, а с MTP и спекулятивным декодированием — улучшенные результаты в отдельных тестах. Поддерживается SGLang с EAGLE/nextn speculative decoding; целевой сценарий эксплуатации — Blackwell-класс GPU NVIDIA, в частности DGX Spark GB10/SM121. Ограничения включают узкую и внутреннюю систему оценки, отсутствие проверки на других Blackwell-устройствах, возможную чувствительность к данным вне распределения и необходимость корректной настройки SGLang, включая backend marlin, прогрев JIT-кэша FlashInfer и FP8 KV-кэш. Модель распространяется по лицензии MIT.

Qwen3.8-27B-OBLITERATED — производная текстовая генеративная модель, опубликованная пользователем bniler2 на базе Qwen/Qwen3.8-27B. Она относится к семейству Qwen3 и предназначена для генерации текста, программного кода и ответов на запросы, включая запросы, на которые исходная модель могла отвечать отказом или отвлечёнными предупреждениями. Модель ориентирована на исследовательские, red-team- и агентные сценарии, а также на локальный запуск в форматах GGUF, SafeTensors и MLX. Заявлены размер 27 млрд параметров и совместимость с режимом рассуждений Qwen3. В README рекомендуются температура 0, repetition_penalty 1.15 и не менее 2048 новых токенов; для агентных сценариев предлагаются более короткие ответы и периодическое суммирование контекста. Размер контекстного окна и перечень поддерживаемых языков не указаны. Для V3 заявлены показатель MMLU 82,3% в тесте lm-eval 0-shot, близкая к исходной модели производительность и полноценные ответы на тестовые задачи генерации кода, однако эти результаты приведены автором модели и не подтверждены независимой проверкой. Главная особенность модели — удаление или ослабление отказов и защитных ответов методом abliteration с последующей итеративной доработкой и смешиванием вариантов. Это может повысить полезность в задачах анализа безопасности и генерации кода, но одновременно снижает встроенные механизмы безопасного поведения и может привести к выдаче рискованного или вредоносного содержания. По сравнению с исходной моделью заявлено снижение MMLU на 2,1 процентного пункта. Модель распространяется по лицензии Apache-2.0.

Qwopus3.8-27B-Flash-V2 — экспериментальная мультимодальная модель на архитектуре Qwen3.5, разработанная Jackrong. Это обновлённый пост-тренировочный вариант Qwopus3.8-27B-Flash, который, согласно карточке, основан на Qwen3.8-27B. Модель принимает текст и изображения и предназначена для диалогов, следования инструкциям, рассуждений, работы с инструментами и генерации кода. Вторая версия прошла дополнительное пост-обучение с изменёнными функциями вознаграждения и методами обучения с подкреплением. Разработчик делает упор на эффективность вывода и длительные агентные сценарии с повторяющимися вызовами инструментов. Указаны поддержка спекулятивного декодирования MTP и улучшения форматирования Python; приведённые в README результаты относятся к описанным там тестам и не гарантируют аналогичное качество на других задачах. Ограничения включают возможный дрейф рассуждений и неэффективные траектории, а качество работы с инструментами зависит от промпта, среды и оркестрации. Разработчик отмечает, что модель не проходила широкую оценку безопасности и надёжности агентов. Лицензия — Apache-2.0.

Карточка модели Ishowbackup/Gemma-4-E4B-it-qat-MXFP4-CRACK на Hugging Face совпадает с карточкой dealignai/Gemma-4-E4B-it-qat-MXFP4-CRACK, поэтому описание составлено по ней. Gemma 4 E4B-it QAT MXFP4 CRACK — мультимодальная модель семейства Gemma 4 от dealignai, созданная на основе google/gemma-4-e4b-it. Это плотная модель с гибридным скользящим и глобальным вниманием, дообученная с удалением отказов и квантизированная до 4-битного формата MXFP4. Она принимает текстовые запросы, изображения и аудио, а также предназначена для диалога, ответов на вопросы, многошаговых рассуждений и генерации кода; в метаданных также заявлен интерфейс вызова инструментов. В README автор сообщает о сохранении визуальных и аудиовходов, проверке генерации кода и снижении результата MMLU на 3,9 процентного пункта относительно базовой модели. Удаление отказов означает, что модель может выполнять вредоносные запросы; заявленные результаты HarmBench приведены автором и не являются независимой оценкой. Для запуска требуется Apple Silicon с достаточной объединённой памятью и vMLX с поддержкой Gemma 4. Лицензия — Gemma; автор публикует модель для исследовательских целей.

DuoNeural/LFM2.5-8B-A1B-Hermes-Agentic-Coder-Abliterated-v3-GGUF — модель для генерации кода и автономных агентских сценариев, разработанная DuoNeural. Она создана на основе DuoNeural/LFM2.5-8B-A1B-Abliterated и ориентирована на многошаговое планирование, вызов функций и инструментов, отладку, решение алгоритмических задач и программирование, включая низкоуровневый C, управление памятью, бинарный анализ и тестирование на проникновение. Модель использует гибридную архитектуру state-space и mixture-of-experts: при общем размере около 8,3 млрд параметров на каждый токен активируется 1,5 млрд. Заявлены контекст до 3072 токенов, поддержка двух режимов вывода — быстрого прямого ответа и режима System 2 с цепочками рассуждений в тегах <thought> — и формат GGUF для локального запуска. README не указывает полный список поддерживаемых языков, но описывает обучение на данных по вызову функций, рассуждениям, генерации и исправлению кода, а также многошаговым инструкциям. К сильным сторонам относятся высокая скорость инференса, специализация на коде и агентских задачах, а также заявленные результаты EvalPlus: 56,1% на HumanEval, 50,0% на HumanEval+, 60,8% на MBPP и 49,7% на MBPP+. Ограничениями являются относительно небольшое контекстное окно в 3072 токена и отсутствие в README подробных сведений о качестве на других языках, мультимодальности и практической надежности заявленных показателей. Модель распространяется по Liquid Foundation Model Community License; точные условия следует уточнять по указанной лицензии.

GnLOLot/MiniCPM5-1B-Claude-Opus-Fable5-V2-Thinking-GGUF — это набор GGUF-квантизаций языковой модели MiniCPM5-1B-Claude-Opus-Fable5-V2-Thinking, разработанной на базе openbmb/MiniCPM5-1B и дообученной на данных Fable 5. Репозиторий подготовлен для локального запуска через llama.cpp, Ollama, LM Studio, jan, KoboldCpp и другие совместимые среды. Модель предназначена для генерации текста, диалогов, следования инструкциям, программирования, отладки и рабочих процессов с инструментами и вызовами функций. Модель имеет размер 1B параметров, работает с текстом и поддерживает английский и китайский языки. Заявлена длина контекста до 128K токенов, однако фактический доступный размер зависит от используемого GGUF-рантайма и оборудования. В V2 улучшена поддержка tool calling и function calling по сравнению с предыдущей версией; также предусмотрен режим рассуждений, при котором модель может выдавать блоки рассуждений перед итоговым ответом. Шаблон чата MiniCPM5 встроен в метаданные GGUF-файлов. Доступны варианты Q8_0 размером около 1,1 ГБ и F16 размером около 2,1 ГБ; Q8_0 рекомендован как стандартный вариант. К сильным сторонам относятся компактность, возможность локального развертывания, поддержка длинного контекста, программирования и вызова инструментов. Ограничение — небольшой масштаб 1B параметров, поэтому модель не относится к моделям передового уровня и может уступать более крупным системам в сложных задачах. Лицензия — Apache-2.0.

MiniMax-M2.5-bf16 — текстовая MoE-модель для диалогов и выполнения задач с помощью агентных сценариев. Модель разработана MiniMax и обучалась с подкреплением на сложных задачах из реальных сред. В карточке указаны сильные результаты в программировании, поиске, вызове инструментов и офисной работе, включая подготовку материалов для Word, PowerPoint и Excel. Модель предназначена для планирования и разработки программных систем, исправления и проверки кода, многошагового поиска информации, работы с инструментами и создания офисных материалов. README сообщает об обучении на более чем десяти языках программирования; это не устанавливает поддержку конкретных естественных языков. Метаданные указывают 2,9 млрд параметров, контекст до 196 608 токенов, библиотеку Transformers и формат safetensors. Доступна версия MiniMax-M2.5 в формате bf16. Лицензия указана в README как Modified-MIT, а в метаданных — как other; перед использованием следует свериться с условиями лицензии в репозитории. Результаты бенчмарков приведены разработчиком и не гарантируют аналогичного качества в конкретном приложении. Модель описана как чат-модель; README рекомендует SGLang для локального развёртывания.

Muse-Glimmer-30B-Fable-Distill — мультимодальная модель Meta, дообученная armand0e на диалогах и агентных трассах программирования, дистиллированных из Claude Fable 5. Это плотная модель семейства Muse Glimmer с текстовым декодером и визуальным энкодером; дообучалась только языковая часть, а веса объединены с базовой моделью в формате bf16. Она принимает текст и изображения и предназначена для диалогов, агентного программирования и работы с инструментами. Карточка описывает многоязычные данные на английском, испанском, французском, немецком, португальском, японском и китайском языках; доля неанглийских токенов при обучении составляла около 10%. Лицензия — Apache-2.0. Модель сохраняет архитектуру, токенизатор, шаблон диалога и обработчик изображений базовой Muse-Glimmer-30B. Для подачи изображений используется AutoProcessor; модель поддерживает формат Onyx ATEM с каналами рассуждений и вызовами инструментов. Для работы указаны Transformers версии не ниже 5.15; стандартные парсеры рассуждений и вызовов инструментов vLLM несовместимы с этим форматом и могут неверно разбирать сообщения. Обучение проводилось на 651 примере; модель не сравнивалась с вариантом, обученным только на ответах, а объединённые bf16-веса не полностью совпадают с NF4-весами, на которых шло обучение.

Mythos-9B-Unhinged — языковая модель примерно на 9 млрд параметров, разработанная King3Djbl. Данный репозиторий содержит её квантизированные версии в формате GGUF, подготовленные mradermacher с использованием imatrix-квантования. Модель ориентирована на англоязычную генерацию текста, ролевые сценарии, программирование, работу с агентами, вызов функций и инструментов, а также взаимодействие с shell-командами. В описании также заявлены режимы без отказов и использование в FableForge, LM Studio, llama.cpp и Ollama, однако подробности обучения и результаты тестирования не приведены. Архитектура, точное число параметров, поддерживаемый размер контекста и дополнительные модальности в README не указаны; по имеющимся данным это текстовая модель без заявленной поддержки изображений или аудио. Доступны варианты GGUF с разными уровнями квантования и размером примерно от 2,2 до 6,8 ГБ. Более компактные варианты требуют меньших ресурсов, но могут заметно терять в качестве; автор рекомендует i1-Q4_K_M как быстрый вариант, а i1-Q4_K_S характеризует как оптимальный баланс размера, скорости и качества. Модель подходит для локального запуска и задач, где важны ролевое взаимодействие, генерация кода и использование инструментов. Ограничения включают неизвестные параметры контекста, отсутствие опубликованных бенчмарков и вероятное ухудшение качества у низкобитных квантов. Указанная лицензия — Apache-2.0.

Это GGUF-квантизированная версия языковой модели AceReason-Nemotron-7B, разработанной NVIDIA и подготовленной квантизатором bartowski на базе llama.cpp. Модель предназначена для генерации текста с акцентом на рассуждения, математические задачи и программирование; заявленный язык — английский. Формат GGUF позволяет запускать её локально через llama.cpp, LM Studio и другие совместимые проекты. Модель относится к классу примерно 7-миллиардных текстовых моделей, однако точные сведения об архитектуре, размере контекста и поддерживаемых модальностях в README не указаны. Доступны варианты от BF16 до различных уровней квантования, включая рекомендуемые Q4_K_M, Q5 и Q6, что позволяет выбирать между качеством и требованиями к памяти. Более сильные варианты сохраняют качество ближе к исходной модели, а компактные подходят для систем с ограниченными ресурсами, но могут заметнее терять в качестве. Использование регулируется NVIDIA Open Model License; для конкретных условий следует ознакомиться с текстом лицензии NVIDIA.

Ornith-1.0-9B-CoreAI — конверсия модели Ornith-1.0-9B от DeepReinforce-ai для запуска на устройствах Apple через on-device runtime Core AI. Это текстовая decoder-модель, ориентированная на агентное программирование: она обучалась одновременно решать задачи разработки и формировать управляющую оркестрационную схему для их выполнения. Конверсия опубликована в общественном Core AI model zoo. Модель построена на гибридной архитектуре Qwen3.5 с 32 слоями, чередующими GatedDeltaNet linear-attention mixers и gated full attention; используется нетипизированная vocabulary head размером 248 320 токенов. Поддерживается контекст до 8192 токенов, встроены токенизатор и chat template. Модель предназначена для локального текстового общения и генерации кода, включая сценарии агентного программирования на Apple silicon GPU или Neural Engine. Доступны варианты quantization int8 размером 9,8 ГБ и int4 размером 7,5 ГБ; на M4 Max заявлена скорость декодирования 48,3 и 58,9 токена в секунду соответственно. На iPhone 17 Pro int8-вариант пока не помещается в доступный лимит памяти. Лицензия MIT согласно карточке исходной модели.

Карточка модели willhx/Qwen3-8B-Base-SeaSFT-Search на Hugging Face совпадает с карточкой Qwen/Qwen3-8B-Base, поэтому описание составлено по ней. Qwen3-8B-Base — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Это базовая модель на этапе предобучения, рассчитанная на дальнейшую адаптацию и генерацию текста. В карточке указаны 36 слоёв, 32 головы внимания для Q и 8 для KV; метаданные каталога оценивают размер в 7,6 млрд параметров, а README приводит 8,2 млрд параметров всего и 6,95 млрд без эмбеддингов. Контекст — 32 768 токенов. Модель предназначена для продолжения текста и служит основой для создания специализированных моделей и диалоговых систем. Семейство Qwen3 обучалось на корпусе из 36 трлн токенов на 119 языках; README отмечает отдельное внимание к программированию, STEM, рассуждениям, книгам и многоязычным данным. Модель использует архитектуру Qwen3 для причинного моделирования языка и распространяется в формате safetensors для Transformers. Лицензия — Apache-2.0. Карточка советует использовать актуальную версию Transformers: версии ниже 4.51.0 не распознают архитектуру qwen3. Поскольку это базовая, а не инструктивно настроенная версия, для диалогового применения и следования инструкциям может понадобиться дополнительная настройка.

DeepSeek V4 Flash 0731 for one DGX Spark — это квантованная сборка модели DeepSeek-V4-Flash-0731, разработанной командой DeepSeek и упакованная пользователем 0xSero. Модель предназначена для генерации текста и программного кода, структурированного вывода и работы через OpenAI-совместимый API. В README указана архитектура mixture-of-experts; сборка использует REAP pruning, формат EXL3/Trellis и точность около 3,0 bpw. Модель рассчитана на развёртывание на одном NVIDIA DGX Spark с GPU GB10/SM121 и 128 ГБ унифицированной памяти. Заявленный предел контекста составляет 262 144 токена. Для запуска требуется специализированный ARM64-совместимый runtime SparkInfer и опубликованный Docker-образ; стандартные vLLM, ExLlamaV3 и простой запуск с tensor parallelism 1 не поддерживаются для этого rank-sliced артефакта. Поставляемый runtime выполняет преобразование TP4-чекпойнта в TP1 и поддерживает CUDA Graphs и speculative decoding. К сильным сторонам относятся возможность локального запуска крупной MoE-модели на одном DGX Spark, проверенная генерация текста и кода, поддержка строгих JSON-схем и длинного контекста. Ограничения — жёсткая зависимость от конкретного оборудования и закреплённого runtime, значительный объём загрузки и дискового пространства, а также не полностью достигнутый целевой порог стабильной скорости декодирования: в одном из пяти измерений получено 34,30 токена в секунду. Лицензия модели указана как MIT.

GPT-5.3-Codex — агентная модель OpenAI для программирования. В карточке она описана как сочетание возможностей GPT-5.2-Codex в разработке ПО с более широкими способностями к рассуждению и профессиональными знаниями GPT-5.2. Модель предназначена для задач разработки программного обеспечения и сценариев, где агент должен применять рассуждение при работе с кодом. README заявляет передовые результаты, но не приводит в предоставленном фрагменте конкретных оценок или технических характеристик. Сведения о лицензии, размерах модели, длине контекста и ограничениях применения в доступных материалах отсутствуют.

Spicyneuron/Kimi-K2.7-Code-MLX-3.6bit — квантованная версия модели Kimi-K2.7-Code, разработанной MoonshotAI. Модель предназначена для генерации текста и, судя по названию базовой модели, прежде всего для задач, связанных с программированием. Она оптимизирована для локального запуска на Mac Studio с чипом M3 Ultra через MLX и MLX-LM, в том числе в формате сервера, совместимого с API chat completions. Это разреженная MoE-модель с 3-битным базовым квантованием и повышенной точностью для чувствительных компонентов, включая маршрутизацию MoE, механизмы внимания и выходные эмбеддинги. Используется смешанная точность с показателем 3,578 бит на вес. Для работы требуется примерно 428 ГБ базовой памяти и до 460 ГБ в пиковом режиме, поэтому модель рассчитана на мощные устройства с большим объёмом объединённой памяти. В README не указаны точный размер модели, длина контекста, поддерживаемые языки и мультимодальные возможности. К сильным сторонам относятся баланс скорости, потребления памяти и качества, а также возможность оставить память для небольшой вспомогательной модели. Заявленная скорость составляет около 219 токенов в секунду при обработке prompt размером 1024 токена и около 21 токена в секунду при генерации последовательности длиной 512 токенов. Ограничения связаны с высокими требованиями к памяти, потерями качества, неизбежными для агрессивного квантования, и узкой оптимизацией под экосистему Apple MLX. Квантование выполнено с использованием форка MLX-LM от spicyneuron. Лицензия в README не указана.

dealignai выпустила Laguna-XS-2.1-JANG_4M-CRACK — текстовую MoE-модель для диалогов и агентного программирования, полученную дообучением Poolside Laguna-XS-2.1, удалением отказов на уровне весов и смешанной квантизацией JANG для MLX. В README указаны 33 млрд параметров всего и около 3 млрд активных; метаданные каталога указывают 2,6 млрд параметров. Модель предназначена для работы на Apple Silicon через vMLX или совместимую среду MLX и поддерживает вызов инструментов. Модель принимает текст, выдаёт текст, поддерживает английский язык и контекст до 262 144 токенов. В README заявлены режимы рассуждения и прямых ответов, а также результаты оценок MMLU и HarmBench; это результаты, сообщённые автором. Для генерации автор рекомендует явно задавать temperature=1.0, top_p=1.0 и top_k=20, поскольку некоторые среды не учитывают параметры из конфигурационных файлов. Удаление отказов означает, что модель может выполнять запросы без стандартного поведения отказа. Лицензия обозначена как other, поэтому конкретные условия использования следует проверять в репозитории модели.

dealignai выпустила MiniCPM5-2B-CRACK-JANG_8M — дообученную версию openbmb/MiniCPM5-2B в формате MLX для запуска на Apple Silicon через vMLX. Это плотная Llama-совместимая языковая модель с 2,2 млрд параметров и контекстом до 131 072 токенов; модель принимает и генерирует текст, поддерживает английский и китайский языки, режим рассуждения с включением и выключением, а также вызов инструментов через XML. Модель предназначена для диалогов, программирования, рассуждений и тестирования поведения при удалённом отказе от ответов: README сообщает, что механизм отказов удалён на уровне весов. В карточке приведены результаты MMLU и HarmBench для этой сборки. Модель поставляется в 8-битном MLX-бандле JANG8M и заявлена как бесплатная для macOS; лицензия — Apache-2.0. Это текстовая модель без поддержки изображений. Поскольку поведение отказов удалено, модель может выдавать ответы на опасные запросы; применяйте её с учётом этого ограничения.