II.7DevOps, облако и эксплуатация IT-систем

WhiteRabbitNeo-2.5-Qwen-2.5-Coder-12.3B — языковая модель семейства Qwen2 для генерации текста, представленная как слияние моделей с помощью mergekit и метода passthrough. В состав слияния вошла WhiteRabbitNeo/WhiteRabbitNeo-2.5-Qwen-2.5-Coder-7B; метаданные также указывают её как базовую дообученную модель. Модель содержит 11,7 млрд параметров, использует плотную архитектуру Qwen2ForCausalLM и поддерживает контекст до 32 768 токенов. Модель предназначена для диалогового использования и унаследовала специализацию базовой модели на генерации кода и помощи в задачах кибербезопасности. Она принимает текст и генерирует текст. В репозитории указаны веса Safetensors и библиотека Transformers. Сведения о лицензии в предоставленных данных отсутствуют.

Zephyr ORPO 141B-A35B v0.1 — разговорная языковая модель, совместно обученная Argilla, KAIST и Hugging Face. Это дообученная с помощью Odds Ratio Preference Optimization (ORPO) модель mistral-community/Mixtral-8x22B-v0.1 с архитектурой Mixture of Experts (MoE): в карточке указаны 141 млрд параметров всего и 39 млрд активных, тогда как метаданные каталога указывают 22 млрд параметров. Для каталога также заявлен контекст до 65 536 токенов. Модель предназначена для диалогового ассистирования и общих задач с текстом, включая код, математику и рассуждения. В обучении использован датасет argilla/distilabel-capybara-dpo-7k-binarized с синтетическими многоходовыми предпочтениями. README сообщает о сильных результатах на MT Bench и IFEval, но обучение описано как проверка ORPO в большом масштабе, а не как выпуск универсальной системы с гарантированным качеством. Основной язык — английский. Модель принимает текст и генерирует текст; метаданные отмечают поддержку чата. Лицензия — Apache 2.0. В README предупреждается, что модель не проходила этап RLHF для выравнивания по человеческим предпочтениям в области безопасности и может выдавать проблемные ответы, особенно при соответствующих запросах.

ATX-Swift-Qwen3.8-27B-Uncensored-IQ4_XS-M-GGUF — это квантизированная GGUF-модель, разработанная JakeATX на основе d0xin/Swift-Qwen3.8-27B-Uncensored-BF16. Исходная модель является uncensored, abliterated-производной Swift-Qwen3.8-27B от UkisAI: из неё намеренно удалено исходное поведение отказа от ответов. Модель предназначена для генерации текста, включая программирование, агентские сценарии, работу с длинным контекстом и локальный запуск через llama.cpp. Модель содержит около 27,32 млрд параметров, 866 текстовых и MTP-тензоров и поддерживает только текстовую модальность, без vision tower. Используется смешанная квантизация ATX-IQ4_XS-M: основная часть весов представлена в IQ4_XS, отдельные важные тензоры повышены до Q5_0, Q6_K или Q8_0. Размер файла — около 14,5 GiB, эффективная точность — 4,56 бит на вес. Включена MTP speculative head, рассчитанная на спекулятивное декодирование. Рецепт ориентирован на видеокарты RTX 3090/3090 Ti с 24 ГБ памяти и позволяет работать с контекстом до 200 тыс. токенов при 8-битном key cache, однако точный лимит зависит от runtime и конфигурации. Сильными сторонами являются высокая эффективность по памяти, оптимизация под SM86 и длинный контекст, а также заявленный результат pass@1 89,25 на выбранной 100-задачной подвыборке LiveCodeBench v6. Модель не имеет встроенных ограничений на отказ и может генерировать контент, который исходная версия отклоняла, поэтому её ответы требуют проверки. В README не указаны точные языки и полный набор оценок качества. Для запуска рекомендуется llamAmpere; модель также совместима со stock TurboQuant+ и основной веткой llama.cpp, но с меньшим запасом по контексту. Лицензия указана как swift-open-license-1.0.

BigBang-Aquila-35B-Merged — мультимодальная модель на базе Qwen/Qwen3.6-35B-A3B, созданная объединением DARE-TIES двух специализированных моделей: BigBang-v1 для формальных рассуждений, математики, программирования и исследований, и XYZ-Aquila-mini для веб-поиска, сбора данных и вызова инструментов. Веса объединены с коэффициентами 0,55 и 0,45 соответственно; доступны файлы BF16 Safetensors и GGUF. Модель предназначена для диалогов с изображениями и агентных сценариев, сочетающих рассуждения, код, веб-поиск и инструменты. Карточка сообщает об успешном прохождении 3 из 3 сложных тестов по математике и коду, 1 из 3 по веб-сценариям и 2 из 3 в смешанных задачах; это небольшая оценка и она не гарантирует качество в других условиях. Для запуска требуются Transformers версии не ниже 5.12, а также flash-linear-attention и causal_conv1d. В чекпойнт не включена исходная MTP-голова. Лицензия — Apache-2.0.

Dans-PersonalityEngine-V1.3.0-24b — языковая модель PocketDoc, дообученная на базе mistralai/Mistral-Small-3.1-24B-Base-2503. Это плотная авторегрессионная модель семейства Mistral с 23,4 млрд параметров, рассчитанная на генерацию текста и диалог в формате DanChat-2. Контекстное окно составляет 131 072 токена; автор указывает, что при длине свыше 32 768 токенов качество извлечения информации снижается. Модель предназначена для ролевых диалогов, совместного написания прозы и историй, генерации кода, вызова инструментов и решения сложных задач. Она дообучалась на более чем 50 специализированных наборах данных; основной язык — английский, также заявлена поддержка арабского, китайского, французского, немецкого, хинди, японского, корейского, португальского и испанского. В метаданных среди возможностей отмечены чат и код. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Автор сообщает о тренировке с помощью Axolotl на восьми GPU H100 в течение 50 часов. Качество ожидается наивысшим для английского языка; для контекста длиннее 32 768 токенов автор предупреждает о снижении точности извлечения информации.

Это канал-квантизованная версия DeepSeek-R1, подготовленная Meituan: веса BF16 преобразованы в INT8 с поканальными масштабами. Модель предназначена для генерации текста в диалоге и решения задач, требующих рассуждений, включая математику, программирование и ответы на сложные вопросы. В метаданных архитектура указана как DeepSeek V3 с плотной causal language model; размер — 37,6 млрд параметров, нативный контекст — 163 840 токенов. Репозиторий содержит веса Safetensors и интерфейс вызова инструментов. В README сообщается о сохранении точности на GSM8K и MMLU и ускорении до 50% в указанном бенчмарке на нескольких A100; эти результаты относятся к описанной конфигурации и не гарантируют такого ускорения на другом оборудовании. Для запуска может потребоваться поддержка поканальной INT8-квантизации в используемом inference-движке. Лицензия модели — MIT.

unsloth/DeepSeek-R1-Distill-Qwen-14B-unsloth-bnb-4bit — 4-битная динамически квантизированная версия языковой модели DeepSeek-R1-Distill-Qwen-14B. Базовую модель разработала команда DeepSeek, а вариант с квантизацией подготовлен Unsloth. Модель относится к плотным LLM на архитектурной основе Qwen и содержит около 14 млрд параметров. Модель предназначена прежде всего для задач рассуждения, включая решение математических задач, программирование и общий анализ текста. DeepSeek-R1-Distill-Qwen-14B создана методом дистилляции из DeepSeek-R1, поэтому ориентирована на генерацию развернутых рассуждений и решение сложных задач. В README явно указан английский язык; сведения о других языках, мультимодальности и размере контекстного окна не приведены. Ключевое преимущество этой версии — динамическая 4-битная квантизация Unsloth, при которой отдельные параметры выборочно не квантизуются для сохранения большей точности по сравнению со стандартной 4-битной квантизацией. Это может снизить требования к памяти и упростить локальный запуск, однако квантизация потенциально ограничивает точность по сравнению с исходной полноразмерной моделью. Модель распространяется по лицензии Apache-2.0.

DeepSeek V4 Flash REAP K128 — это экспериментальная структурно прореженная версия DeepSeek V4 Flash, подготовленная sleepyeldrazi. Метод REAP от Cerebras Research удаляет 50% маршрутизируемых экспертов в слоях Mixture-of-Experts, сохраняя внимание, эмбеддинги, общих экспертов, маршрутизатор и компоненты MTP. Это GGUF-модель смешанной точности: в слоях 37–42 используются эксперты Q4_K, в остальных — IQ2_XXS/Q2_K. Для запуска требуется среда ds4, поддерживающая выбор типа квантования по слоям. Модель предназначена для генерации текста и диалогов, в том числе для задач программирования, вызова инструментов и поиска знаний. Для калибровки использованы 8 000 промптов на 5 млн токенов; автор сообщает о прореживании без дообучения и без изменения весов сохранённых экспертов. Модель распространяется по лицензии MIT. Для запуска требуется совместимый runtime; README предупреждает о несовместимости с некоторыми средами, ожидающими тензоры экспертов IQ2_XXS.

DeepSeek V4 Flash REAP K150 Mixed NVFP4 — производная версия DeepSeek V4 Flash, подготовленная sleepyeldrazi на основе официального чекпойнта deepseek-ai/DeepSeek-V4-Flash. Это текстовая MoE-модель для генерации текста и диалогов. REAP удаляет наименее активные эксперты: в слоях 3–42 оставлено по 150 маршрутизируемых экспертов из исходного набора, что соответствует сокращению примерно на 41%; первые три слоя сохранены без такого сокращения. Дообучения не проводилось. Веса упакованы в смешанном формате: NVFP4 для gate/up проекций маршрутизируемых экспертов, Q2_K для down проекций, Q8_0 для внимания, общих экспертов и выходной головы; эмбеддинги сохранены в F16. Конверсия MXFP4 в NVFP4 описана как преобразование формата шкал без изменения значений весовых нибблов. Репозиторий содержит GGUF, однако для запуска требуется специальный движок ds4 с пользовательскими CUDA-ядрами; стандартные сборки llama.cpp и другие обычные GGUF-рантаймы модель не загружают. Калибровка ориентирована на код, вызов инструментов, исследования и поиск знаний. Карточка приводит бюджет памяти для DGX Spark, включая запуск с контекстом до 1 млн токенов при использовании FP8 KV-кэша, но точная длина контекста в метаданных не указана. Лицензия — MIT.

Dolphin 3.0 Qwen 2.5 3B — инструктивно настроенная языковая модель от Eric Hartford, Ben Gitter, BlouseJury и Cognitive Computations, созданная на базе Qwen/Qwen2.5-3B. Это плотная авторегрессионная модель с 3,1 млрд параметров, контекстом до 32 768 токенов и шаблоном диалога ChatML. Репозиторий содержит веса в формате safetensors. Модель предназначена для локального применения в качестве универсального помощника: она генерирует текст, помогает с программированием и математикой, поддерживает сценарии работы с агентами и вызова функций. Поведение можно настраивать системным промптом, включая тон и правила ответа. В обучающих данных использованы наборы для программирования, математики, инструкций, диалогов и вызова функций; в метаданных указан английский язык. Модель рассчитана на владельцев приложений, которым нужны локальный запуск и контроль над системным промптом и данными. Для запуска можно использовать Transformers, Ollama, LM Studio, vLLM, SGLang или TGI. Лицензия обозначена в метаданных как other; конкретные условия следует проверять на странице модели. Карточка не содержит результатов оценивания качества, поэтому пригодность для конкретных задач нужно проверять отдельно.

Dolphin-4B — языковая модель, выпущенная roskosmos19 и дообученная на базе XHToken/Spark-X2.5-4B-Base. Она предназначена для диалогов, генерации текста, программирования, рассуждений и агентных сценариев с вызовом инструментов. Модель использует плотную архитектуру Spark2_5ForCausalLM и формат safetensors; размер по метаданным — 3,8 млрд параметров, а заявленная длина контекста составляет 1 048 576 токенов. Для работы доступны шаблон чата с поддержкой нескольких ролей, режима рассуждений и вызова инструментов; модель рассчитана на использование через Transformers и совместимые стеки инференса. В карточке заявлены сильные стороны в следовании инструкциям, программировании и многошаговых задачах. Эти характеристики представлены как утверждения автора и не сопровождаются в карточке результатами оценки. Язык модели явно не обозначен. Лицензия — Apache-2.0.

insraq/G9v3-3B-heretic — созданная командой AI9Stars версия G9v3-3B, обработанная инструментом Heretic v1.4.0 для снижения числа отказов. Это плотная авторегрессионная языковая модель с архитектурой LlamaForCausalLM и примерно 2,7 млрд параметров, предназначенная для локального запуска и сценариев с ограниченными ресурсами. Модель поддерживает генерацию текста и диалоговое использование, включая повседневные запросы, программирование, рассуждения и взаимодействие с инструментами. Контекстное окно составляет 131 072 токена; в карточке указаны английский и китайский языки. В сравнении с исходной G9v3-3B модель показала 9 отказов из 100 тестовых запросов против 100 из 100 у оригинала; указанная дивергенция KL — 0,0410. Снижение числа отказов не гарантирует точности или безопасности: ответы могут быть ошибочными, предвзятыми или небезопасными, поэтому их следует проверять, особенно в важных сценариях. Весовые файлы представлены в формате safetensors. Лицензия — Apache-2.0.

Gemma4-12B-QAT-Uncensored-HauhauCS-Balanced — мультимодальная языковая модель в формате GGUF, созданная HauhauCS на основе Gemma 4 12B от Google DeepMind. Это вариант с удалёнными ограничениями на отказы, предназначенный для агентного программирования, рассуждений, творческого письма, ролевого общения и диалоговых задач, где важны следование инструкциям и надёжность ответов. Модель имеет плотную архитектуру размером 12B параметров и поддерживает контекст до 256K токенов. Основной файл использует 4-битную QAT-квантизацию Q4_K_M и занимает около 6,9 ГБ; для обработки изображений требуется отдельный mmproj-файл размером 168 МБ. Заявлена поддержка английского языка, а визуальный ввод реализуется через компонент mmproj. Для ускорения генерации доступен MTP-модуль спекулятивного декодирования, который, по данным автора, даёт примерно 60% прироста скорости при использовании llama.cpp без изменения результата. Сильные стороны модели — большой контекст, поддержка изображений, ориентация на кодирование и рассуждения, а также совместимость с llama.cpp, LM Studio, Jan, koboldcpp и другими GGUF-совместимыми средами. Заявление об отсутствии отказов основано на тестах автора и не является абсолютным: для некоторых пограничных запросов возможны отказы с первой попытки. Модель рекомендована для запуска на одной GPU; автор отмечает возможные сбои Gemma 4 в LM Studio при режиме tensor-split. Распространяется по лицензии Gemma.

GigaChat 3.5 Reasoning — текстовая модель компании-разработчика GigaChat, представленная в репозитории ai-sage как дообучение базовой модели GigaChat3.5-432B-A28B-base. Это модель Mixture-of-Experts с 432 млрд параметров и 28 млрд активных параметров; репозиторий содержит веса BF16 для дообучения и собственной квантизации. Архитектура сочетает Multi-head Latent Attention и линейные слои GatedDeltaNet, а три MTP-головы поддерживают спекулятивное декодирование. Контекст — до 262 144 токенов. Модель предназначена для диалогов и выполнения инструкций с усиленными возможностями рассуждения: особенно в математике, программировании, следовании инструкциям и структурированном выводе. Обучение включает онлайн RL на доменных экспертах и их объединение с помощью on-policy distillation. Поддерживаются русский и английский языки, а также вызов функций. Для запуска в README описана интеграция с SGLang. Лицензия — MIT. Репозиторий содержит веса BF16, предназначенные для дообучения и квантизации; для инференса README указывает отдельную модель GigaChat3.5-432B-A28B-Reasoning. Это крупная модель, для запуска которой нужна соответствующая вычислительная инфраструктура. Приведённые в карточке результаты бенчмарков зависят от указанных протоколов оценки.

RadicalNotionAI/GLM-4.7-heretic — текстовая разговорная модель на архитектуре GLM-4 MoE с 23,4 млрд параметров. Это производная GLM-4.7 от zai-org, созданная методом abliteration: в карточке приведены параметры этой обработки и сравнение отказов с исходной моделью. Модель предназначена для диалога, программирования, рассуждений, работы с инструментами и агентных сценариев; метаданные указывают интерфейс вызова инструментов. Поддерживаются английский и китайский языки, контекст составляет 202 752 токена. Модель распространяется в формате Safetensors по лицензии MIT. В README для этой версии сообщается о 0 отказах из 100 проверок против 99 из 100 у исходной GLM-4.7. Это указывает на существенно ослабленное поведение отказа, но не подтверждает общую точность или безопасность ответов. Доступны инструкции по локальному запуску через Transformers, vLLM и SGLang; для агентных задач README рекомендует режим Preserved Thinking.

RedHatAI/GLM-5.2-NVFP4-FP8 — квантизированная версия модели zai-org/GLM-5.2, разработанная RedHatAI. Это текстовая авторегрессионная модель для генерации текста, построенная на архитектуре GlmMoeDsaForCausalLM. Она принимает текст и возвращает текст, поддерживает английский и китайский языки и предназначена прежде всего для высокопроизводительного инференса и развёртывания через vLLM, включая сценарии с рассуждениями и вызовом инструментов. Модель использует смешанную точность: веса и активации механизмов внимания представлены в FP8 с блочным масштабированием, а эксперты MoE — в FP4 (NVFP4). Такая оптимизация снижает среднее число битов на параметр примерно с 16 до 4–5, уменьшая размер на диске и потребность в GPU-памяти примерно на 70–75% по сравнению с исходной версией BF16. Контекстная длина в README не указана; для конфигураций с контекстом до 1M токенов предлагается обращаться к рецепту vLLM для GLM-5.2. Главное преимущество модели — существенное сокращение требований к памяти при сохранении большей части качества исходной модели: на GPQA Diamond она набрала 89,1 против 91,2 у незаквантизированной версии, что соответствует восстановлению 97,7% результата. Ограничения включают небольшое снижение точности, зависимость от совместимой версии vLLM и необходимость исправления из pull request #47780. Модель распространяется по лицензии MIT.

Mungert/gpt-oss-20b-heretic-GGUF — это GGUF-версия декензурированной модели OpenAI gpt-oss-20b, созданная пользователем Mungert с применением Heretic v1.0.0 и преобразованная с помощью llama.cpp. Модель предназначена для генерации текста, локального запуска и специализированных сценариев, включая задачи рассуждения, разработку и агентские приложения, поддерживаемые исходной моделью. Для корректной работы требуется формат ответов Harmony. Исходная gpt-oss-20b имеет архитектуру Mixture of Experts: около 21 млрд параметров, из которых примерно 3,6 млрд активны при обработке запроса. Модель выпускается в формате GGUF; автор также применяет специальное повышение точности отдельных слоёв при квантовании, что может улучшать качество при увеличении размера файла. Доступны настраиваемые уровни усилий рассуждения, а исходная модель поддерживает вызов функций, веб-навигацию, выполнение Python-кода и структурированные ответы. Языки и размер контекста в предоставленных данных не указаны. Главная особенность этой версии — снижение склонности к отказам: в приведённом сравнении модель отказалась в 58 из 100 случаев против 100 из 100 у исходной модели, однако это сопровождается отличием от оригинала, измеренным KL-дивергенцией 0,96. Лицензия Apache 2.0 допускает свободное использование, модификацию и коммерческое развёртывание. Показатели качества, безопасность декензурированной версии и совместимость конкретных квантов зависят от выбранного GGUF-файла и требуют самостоятельной проверки.

GRM-3.2-Sky-ONYX-GGUF — это квантованная GGUF-версия модели OrionLLM/GRM-3.2-Sky, подготовленная разработчиком el4. Модель предназначена для текстовой генерации, рассуждений, программирования и агентских сценариев с использованием llama.cpp или Ollama. В README она описывается как MoE-модель примерно на 35 млрд параметров, ориентированная на запуск на потребительском GPU; размер варианта ONYX-mini составляет около 11 ГБ. Ключевая особенность ONYX — адаптивное квантование с динамическим выявлением чувствительных слоёв и использованием Router-Weighted Imatrix, учитывающего вероятности маршрутизации экспертов MoE. Подход должен помогать сохранять качество наиболее важных экспертов и слоёв при сильном уменьшении размера модели. Заявлены возможности генерации кода, многошагового рассуждения и работы с несколькими языками, включая японский, испанский и египетский арабский, однако точный набор поддерживаемых языков и размер контекста в README не указаны. В качестве сильных сторон заявляются компактность, пригодность для локального запуска и сохранение качества в задачах программирования, отладки и многоязычного переключения. При этом приведённые результаты основаны на демонстрационном стресс-тесте, поэтому они не заменяют независимое сравнение с исходной моделью. Степень потери качества из-за квантования, требования к памяти и производительность могут зависеть от конкретного варианта ONYX и оборудования. Лицензия в представленном README не указана.

Карточка модели gabriellarson/GroveMoE-Inst-GGUF на Hugging Face совпадает с карточкой inclusionAI/GroveMoE-Inst, поэтому описание составлено по ней. GroveMoE-Inst — инструктивная языковая модель компании InclusionAI на разреженной архитектуре GroveMoE с adjugate experts. По карточке, модель создана на основе Qwen3-30B-A3B-Base: после upcycling она прошла mid-training и дообучение SFT. В README указано 33 млрд параметров всего и 3,14–3,28 млрд активных на токен; метаданные каталога указывают 2,6 млрд параметров, поэтому размер репозитория и цифры в описании расходятся. Модель принимает текст и предназначена для диалогов, следования инструкциям, решения математических и научных задач, а также программирования; заявлен контекст 40 960 токенов и интерфейс вызова инструментов. Разреженная активация позволяет повторно использовать общие вычисления, а технический отчёт и таблица бенчмарков описывают её результаты на задачах знаний, математики и кода. Для общей работы авторы рекомендуют задавать длину генерации до 16 384 токенов и приводят параметры сэмплирования. Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0. В README нет сведений о поддерживаемых естественных языках.

Locutusque разработала Hyperion-3.0-Mistral-7B-alpha — языковую модель на архитектуре Mistral с 7,1 млрд параметров, дообученную на 200 тысячах примеров набора Hyperion-v3.0 на базе mistralai/Mistral-7B-v0.1. Модель генерирует текст и предназначена для диалогов, ответов на сложные вопросы и рассуждений в научных и технических областях. Её можно применять для генерации и анализа кода, математических и логических задач, обучения по естественным наукам и медицине, а также для понимания медицинских текстов. Карточка указывает английский язык; максимальная длина контекста составляет 32 768 токенов. Модель распространяется по лицензии Apache-2.0. Качество ответов может быть непоследовательным из-за различий в форматировании и качестве разметки обучающих данных. Модель склонна выполнять любые запросы; для корпоративного применения автор рекомендует дополнительное обучение с DPO.

Locutusque разработала Hyperion-3.0-Mistral-7B-DPO — языковую модель на базе Mistral-7B-v0.1, дообученную методом Direct Preference Optimization на предпочтениях для диалогов и решения задач. Модель имеет плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста на английском языке: она может отвечать на вопросы, вести диалоги, помогать с кодом, математическими и логическими задачами, а также работать с медицинскими текстами. Среди возможных сценариев — техническая поддержка, обучающие приложения и помощь в разработке программного обеспечения. Карточка приводит результаты оценки на наборе MMLU и предупреждает о возможных несогласованностях и смещениях в данных. Модель склонна отвечать на большинство запросов, поэтому её результаты, особенно в медицинских сценариях, следует проверять. Распространяется по лицензии Apache-2.0.

JetMoE-8B-Chat — разговорная языковая модель семейства JetMoE, созданная авторами проекта JetMoE. Это дообученная версия JetMoE-8B для диалоговой генерации текста. Архитектура включает 24 блока с разреженными слоями Mixture of Attention heads и Mixture of Experts: в каждом слое из восьми экспертов для токена активируются два. Всего модель содержит 8 млрд параметров, из которых при инференсе активны 2,2 млрд; базовая JetMoE-8B обучалась на 1,25 трлн токенов из открытых наборов данных. Модель предназначена для диалогов, ответов на вопросы, написания кода и решения математических задач. README сообщает о сравнительных результатах на языковых и кодовых бенчмарках, однако приведённые таблицы неполны, поэтому эти заявления нельзя независимо оценить по карточке. Контекст составляет 4096 токенов. Модель принимает и генерирует текст; в метаданных заявлена возможность чата, но конкретный список поддерживаемых естественных языков не приведён. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Карточка описывает её как открытую и допускающую дообучение при ограниченных вычислительных ресурсах; практическое качество зависит от запроса и сценария применения.

Baekpica подготовил смешанно-квантованную версию GGUF модели IFM/K2-Horizon-375B-A23B для запуска крупной разреженной языковой модели на системах с ограниченной памятью. Репозиторий содержит веса в четырёх частях объёмом около 86,7 ГиБ; применены несколько типов квантования, включая Q8_0, IQ1_S, IQ1_M, IQ2_XXS и IQ2_XS. По карточке базовая модель имеет архитектуру MoE и контекст до 524 288 токенов. Модель предназначена для диалоговой генерации текста и сценариев с длинными запросами, рассуждениями, кодом и использованием инструментов. README описывает калибровку на данных для программирования, математики, науки и общих рассуждений, а также оптимизации инференса и проверки совместимости с llama.cpp. Указанные в README показатели скорости относятся к конкретной тестовой конфигурации и не гарантируют такую же производительность на другом оборудовании. Модель преобразована из BF16-чекпойнта, а не повторно квантована из FP8. Лицензия репозитория — Apache-2.0. Автор отмечает, что для производственного обслуживания ещё требуются проверки на DGX Spark GB10 и устранение проблемы согласования управления памятью; описана проверка на H200.

Sorawiz/KunouSky-32B — объединённая модель генерации текста на базе архитектуры Qwen2, собранная с помощью mergekit и метода TIES. В объединение вошли NovaSky-AI/Sky-T1-32B-Preview и pipihand01/QwQ-32B-Preview-abliterated-lora-rank32; базовой моделью при слиянии служила Sao10K/32B-Qwen2.5-Kunou-v1. Модель содержит 32 млрд параметров, принимает диалоговые запросы в формате ChatML и рассчитана на генерацию ответов в чат-сценариях. Базовая модель NovaSky описана как ориентированная на задачи математики, программирования и науки; карточка также указывает интерфейс вызова инструментов. Длина контекста составляет 32 768 токенов. Репозиторий использует Transformers и содержит веса Safetensors. README не сообщает конкретных результатов оценки качества или ограничений применимости. Лицензия в предоставленных данных не указана.

Модель aifeifei798/Meta-Llama-3-8B-Instruct — чат-ориентированная большая языковая модель семейства Llama 3, разработанного Meta. Это авторегрессионный трансформер с плотной архитектурой, примерно 7,5 млрд параметров, обученный следовать инструкциям с помощью контролируемого дообучения и обучения с обратной связью от людей. Репозиторий содержит веса в формате safetensors; контекст модели — до 8192 токенов. Модель принимает текст и генерирует текст, включая код. Она предназначена для диалоговых сценариев и использования в качестве ассистента; карточка заявляет английский как основной язык и ограничивает применение другими языками. Модель может быть полезна для ответов на вопросы, написания и объяснения кода, составления текстов и ведения диалога. В README указана пользовательская коммерческая лицензия Meta Llama 3 с условиями Community License и Acceptable Use Policy. Модель статична и обучена на офлайн-данных; ответы могут содержать ошибки, а заявленные меры безопасности не исключают вредных или нежелательных результатов, поэтому для приложений нужны подходящие проверки и защитные механизмы.

FredyRivera-dev/MiniCPM5-1B — подготовленная версия MiniCPM5-1B от команды FredyRivera-dev на основе openbmb/MiniCPM5-1B. Веса не изменялись и дообучение не проводилось: в токенизаторе переименован зарезервированный токен, а шаблон чата адаптирован для блоков текста и изображений. При этом модель не поддерживает зрение: у неё нет визуального энкодера или проектора, а добавленный токен изображения не обучен. Это компактная причинная языковая модель с плотной архитектурой LlamaForCausalLM и 837,6 млн параметров по метаданным. Она принимает текст и генерирует текст, поддерживает контекст до 131 072 токенов и режимы быстрого ответа и пошагового рассуждения. Модель предназначена для локальных помощников, генерации кода, использования инструментов и рассуждений на устройствах с ограниченными ресурсами; карточка указывает поддержку английского и китайского языков. К заявленным преимуществам относятся длинный контекст и пригодность для локального развёртывания. Ответы могут быть неточными, предвзятыми или небезопасными, поэтому их следует проверять, особенно в важных сценариях. Лицензия — Apache-2.0.

NeoHorse-1-4B-Max-Heretic-Uncensored-TURBO — разговорная текстовая модель от prithivMLmods на базе TokenRhythm/NeoHorse-1-4B, дообученной на Qwen3.5-4B. Вариант обработан инструментом Heretic для снижения числа отказов; модель рассчитана на диалоги, выполнение инструкций, использование инструментов, программирование и рассуждения. Модель имеет плотную архитектуру Qwen3.5 и около 3,4 млрд параметров, поддерживает контекст до 262 144 токенов и английский язык. В репозитории доступны веса Safetensors и сборки GGUF разных уровней квантования для запуска через Transformers или llama.cpp. Лицензия — Apache 2.0. Карточка помечает модель как экспериментальную: возможны артефакты, поэтому ответы следует проверять. Снижение числа отказов также означает, что модель может отвечать на запросы, которые обычно отклоняются.

NeoHorse-1-9B-GGUF — текстовая причинно-следственная языковая модель примерно на 9 млрд параметров, разработанная TokenRhythm и дообученная на базе Qwen3.5-9B. Модель позиционируется как прототип в направлении рекурсивного самоулучшения и ориентирована на агентные сценарии, использование инструментов, программирование, рассуждения и следование инструкциям. Репозиторий содержит веса в формате GGUF для локального запуска с llama.cpp, Ollama и LM Studio. Доступны варианты BF16, а также 8-, 5- и 4-битные квантизации, позволяющие уменьшить требования к дисковому пространству и оперативной памяти. Модель работает только с текстом; сведения о поддерживаемых языках и размере контекстного окна в предоставленных данных не указаны. Сильными сторонами заявлены улучшения по сравнению с базовой Qwen3.5-9B на наборе из десяти бенчмарков, а также специализация на агентных рабочих процессах и tool use. При этом NeoHorse описана как первоначальный прототип, поэтому заявленные возможности рекурсивного самоулучшения относятся к исследовательскому framework и не означают полностью автономное самообучение модели. Модель распространяется по лицензии Apache-2.0.

OpenCerebrum-1.0-7B-DPO — открытая языковая модель Locutusque, дообученная методом DPO на базе alpindale/Mistral-7B-v0.2-hf. Это плотная Mistral-модель с 7,1 млрд параметров и контекстом до 32 768 токенов; для обучения использовался формат ChatML. Модель предназначена для генерации текста, ответов на вопросы и следования инструкциям, в том числе для задач программирования, математики, естественных наук и рассуждений. Обучение примерно на 21 тысяче примеров из шести публичных наборов данных было направлено на воспроизведение возможностей Cerebrum; модель работает на английском языке. Модель распространяется по лицензии Apache 2.0. Авторы предупреждают, что она может уступать оригинальной Cerebrum, отражать смещения обучающих данных и требовать заметных вычислительных ресурсов из-за размера 7B.

OpenCerebrum-1.0-7B-SFT — языковая модель Locutusque, дообученная на базе alpindale/Mistral-7B-v0.2-hf. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов; веса опубликованы в формате Safetensors. Модель предназначена для генерации текста и ответов на вопросы, включая задачи программирования, математики, естественных наук, рассуждений и общего следования инструкциям. Для дообучения использована смесь примерно из 1,2 млн примеров из 14 открытых наборов данных; заявленный основной язык — английский. Модель задумана как открытая реплика возможностей Cerebrum, но её качество может уступать оригиналу. Ответы могут наследовать предвзятость и ограничения обучающих данных, а размер 7B требует учитывать доступные вычислительные ресурсы. Лицензия — Apache 2.0.