II.7DevOps, облако и эксплуатация IT-систем

mergekit-community/qwenben — языковая модель на архитектуре Qwen2, созданная сообществом методом SLERP с помощью mergekit. В слиянии участвовали Qwen/Qwen2.5-Coder-1.5B-Instruct и deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B. Модель содержит 1,5 млрд параметров, работает через Transformers и рассчитана на контекст до 131 072 токенов. Модель предназначена для генерации текста в диалоговом формате и может быть полезна для задач программирования и рассуждений, унаследованных от объединённых моделей. Метаданные также отмечают интерфейс вызова инструментов. Карточка не приводит результатов сравнительных оценок качества, поэтому пригодность для конкретных задач следует проверять на собственных примерах. Репозиторий содержит веса safetensors; сведения о лицензии в предоставленных источниках отсутствуют.

Speechless Instruct Mistral 7B v0.2 — дообученная на инструкционных данных языковая модель на архитектуре Mistral, опубликованная uukuguy. Веса содержат 7,1 млрд параметров; модель принимает текст и имеет контекстное окно до 32 768 токенов. Для инструкций используется формат Alpaca. Модель предназначена для ответов на инструкции, рассуждений и планирования, а также для задач программирования, включая генерацию и объяснение кода на Python и работу с SQL. В обучающую выборку вошли примеры из Airoboros, OpenOrca, Open-Platypus, WizardLM, Python Eval Instruct и Spider; карточка сообщает о 201 981 примере. Указаны результаты отдельных тестов, но значение HumanEval в карточке отсутствует. Модель распространяется по лицензии Apache-2.0. Карточка описывает её как средство для улучшения рассуждений и планирования базовой Mistral, однако подробностей об оценке этих возможностей и ограничениях качества не приводит.

speechless-starcoder2-7b — дообученная языковая модель для генерации кода и выполнения инструкций, созданная на основе bigcode/starcoder2-7b. В README указано, что обучение направлено на улучшение способностей к рассуждению и планированию; использовано около 986 тысяч примеров из OpenHermes-2.5, Python Eval Instruct, Spider и Evol-Instruct. Модель принимает инструкции в формате Alpaca. Это плотная авторегрессионная архитектура StarCoder2 с 9,9 млрд параметров и контекстом до 16 384 токенов. Карточка указывает английский язык, поддержку генерации текста и лицензию Apache-2.0. Модель подходит для генерации и объяснения кода, а также для ответов на инструкции, связанные с программированием и структурированными данными. Численные результаты HumanEval и оценок lm-evaluation-harness в карточке не заполнены, поэтому качество по этим тестам оценить нельзя.

Speechless-Thoughts-Mistral-7B-v1.0 — дообученная авторами проекта Speechless базовая модель для экспериментов с Speechless-Sparsetral-16x7B-MoE. Это плотная авторегрессионная модель Mistral с 7,1 млрд параметров, рассчитанная на генерацию текста; для работы с Transformers доступны веса Safetensors, а контекст модели составляет до 32 768 токенов. Модель обучена на наборе Speechless-Thoughts-252K, включающем примеры программирования, рассуждений, планирования и инструкций. В README она описана как базовая модель для сравнения с MoE-моделью; также приведены результаты отдельных оценок, но значение HumanEval не заполнено. Метаданные указывают поддержку английского языка и возможность генерации кода. Лицензия — Llama 2 Community License. Модель подходит для экспериментов и прикладной генерации текста и кода, однако качество конкретных ответов и программ следует проверять; приведённые в карточке оценки не гарантируют результат на пользовательских задачах.

AREX-2 — мультимодальная модель на 27 млрд параметров, разработанная Пекинской академией искусственного интеллекта (BAAI) на основе Qwen/Qwen3.8-27B. Это плотная архитектура, совместимая с Qwen3.8; модель принимает текст и изображения и рассчитана на контекст до 262 144 токенов. Она предназначена для длительного итеративного решения задач: предлагает решение, анализирует оценки, логи, ошибки и время выполнения, а затем пересматривает результат. Обучение охватывает задачи машинного обучения и алгоритмического программирования с проверяемой обратной связью, а также данные для глубоких исследований; заявлен перенос навыка самоулучшения на сценарии deep research. Модель применима для программирования, инженерии машинного обучения, многошаговых рассуждений и агентных сценариев с инструментами. Лицензия — Apache 2.0. Карточка предназначает модель для исследований и не приводит количественных результатов оценки в доступном тексте; для работы требуется актуальная версия Transformers с поддержкой Qwen3.8.

Athena-codegemma-2-9b-v1-GGUF — это набор квантованных версий языковой модели Athena-codegemma-2-9b-v1, разработанной EpistemeAI. Квантование выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста, включая сценарии локального запуска через совместимые приложения, например LM Studio. Модель относится к семейству codegemma2 и имеет размер около 9 миллиардов параметров. Она работает с текстом и, согласно карточке, ориентирована на английский язык. Доступны варианты от F16 до низкобитных Q2 и IQ2, различающиеся размером файлов, требованиями к памяти и качеством: версии Q5–Q6 отмечены как высококачественные, а Q3 и ниже экономят память ценой заметного снижения качества. Максимальная длина контекста и точный формат промпта в карточке не указаны. Преимущество набора — широкий выбор квантований для подбора баланса между качеством и ресурсами, а также возможность локального использования в формате GGUF. Ограничения связаны с потерями качества при низкой разрядности и отсутствием подробных сведений о результатах тестирования, поддерживаемых языках помимо английского и рекомендованном формате взаимодействия. Указана лицензия Apache-2.0.

Beyonder-4x7B-v2 — языковая модель в архитектуре Mixture of Experts (MoE), созданная mlabonne с помощью mergekit на основе четырёх моделей: OpenChat 3.5, CodeNinja, PiVoT и WizardMath. Она предназначена для диалогов и генерации текста, включая задачи программирования и математики. В модели около 7,1 млрд параметров, рекомендуемая длина контекста — 8 тысяч токенов; репозиторий содержит веса в формате safetensors. Автор сообщает, что модель показывает результаты, сопоставимые с Mixtral-8x7B-Instruct-v0.1 и сильными дообученными моделями большего размера на ряде бенчмарков. Эти оценки не гарантируют качество на конкретных пользовательских задачах. В метаданных указана лицензия other; точные условия использования следует проверять в карточке модели и лицензиях базовых моделей.

MaziyarPanahi/calme-2.3-phi3-4b — диалоговая языковая модель, созданная Maziyar Panahi путём дообучения с DPO модели microsoft/Phi-3-mini-4k-instruct. Она использует плотную архитектуру Phi-3 и содержит 3,7 млрд параметров; для общения применяется шаблон ChatML, а максимальный контекст составляет 4096 токенов. Модель предназначена для генерации текста в диалоге, ответов на запросы и задач программирования. В README приведены результаты оценивания на Open LLM Leaderboard, где модель сравнивается с другими вариантами Phi-3-mini-4k; эти результаты относятся к указанной в карточке версии и условиям тестирования. Репозиторий содержит веса safetensors и может использоваться через библиотеку Transformers. Карточка указывает лицензию MIT. Основной язык в метаданных — английский. Это компактная модель, поэтому её возможности и качество могут уступать более крупным моделям; доступные сведения не устанавливают точность для конкретных прикладных сценариев.

JANGQ-AI выпустила NVFP4-квантизированную версию dots-studio/dots3-note-prev для видеокарт NVIDIA Blackwell, включая RTX 50 и DGX Spark. Модель семейства dots3-note использует архитектуру MoE: в README указаны 280 млрд общих и 16 млрд активных параметров, 256 маршрутизируемых экспертов и один общий эксперт. Метаданные Hugging Face указывают 15,4 млрд параметров; размер модели поэтому приводится по README, а значение из метаданных не совпадает с ним. Модель предназначена для диалогов, программирования, рассуждений и агентных сценариев с вызовом инструментов. Она принимает текст, изображения, видео и аудио; видео обрабатывается вместе с аудиодорожкой. Контекст по метаданным — до 524 288 токенов. Квантизация затрагивает экспертные слои, тогда как компоненты внимания, общие эксперты, мультимодальные энкодеры и ряд других слоёв оставлены в BF16. README сообщает о проверенном vLLM-рантайме для двух узлов DGX Spark с tensor parallelism 2. Модель распространяется с открытыми весами по лицензии Apache-2.0. Её применение рассчитано на совместимое оборудование NVIDIA Blackwell и требует ресурсоёмкой конфигурации: README указывает около 174 ГБ на диске и запуск на двух узлах DGX Spark. Характеристики и ограничения качества независимыми оценками в предоставленных материалах не подтверждены.

Zynerji/Ektome-Qwen3.8-27B-PristinelyUncensored-GPTQ-MTP — это 4-битная GPTQ-модель для генерации текста, созданная Ektomē на базе Qwen/Qwen3.8-27B. По заявлению автора, модель подверглась «weight surgery»: из языкового декодера удалено направление, связанное с отказами, без дополнительного обучения или fine-tuning. Веса упакованы в формат GPTQ с оптимизациями Marlin; 407 из 503 декодерных Linear-слоёв квантизованы, а исключённые модули оставлены в bfloat16. MTP-голова и vision tower сохранены, однако MTP-голова не квантизована и отключена по умолчанию. Модель предназначена для локального inference и сценариев генерации текста, включая программирование и другие задачи, где полезно speculative decoding с multi-token prediction. Автор сообщает о приросте скорости при включении MTP до 35% на коротких запросах, 30% при batch 8 и 63% на глубоком кодировании, но результаты получены на RTX PRO 6000 Blackwell и не гарантируют аналогичную производительность на другом оборудовании. Размер весов составляет около 17,7 GiB, поэтому модель рассчитана на видеокарты с 24 ГБ памяти с доступным пространством для KV-cache. Для загрузки требуется vLLM или SGLang; стандартный transformers эту конфигурацию не поддерживает. На Python 3.11 может потребоваться удалить flashinfer-python либо использовать Python 3.12. Максимальный контекст именно этой сборки в README не указан. Измерения на тестах автора показывают сохранение базовых возможностей после редактирования, но не подтверждают улучшение качества; speculative decoding также дал не полностью идентичные результаты в одном из тестов. Лицензия — Apache-2.0.

Gemini 3.6 Flash — высокоэффективная модель Google для программирования, агентных сценариев, а также разработки веб-приложений и приложений. Карточка описывает её как инструмент для создания качественных результатов с меньшим числом лишних правок. Метаданные каталога классифицируют модель как image-text-to-text. В доступных материалах не приведены сведения об архитектуре, размере, языках, контекстном окне и лицензии, поэтому их нельзя уточнить. Карточка также не описывает ограничения модели.

Granite-20B-Code-Base-8K — авторегрессионная decoder-only языковая модель для генерации и анализа кода, разработанная IBM Research и обученная с нуля. Модель содержит 20 млрд параметров, использует архитектуру GPTBigCode и принимает контекст до 8192 токенов. Модель предназначена для генерации, объяснения и исправления кода, написания модульных тестов и документации, поиска уязвимостей и перевода кода. Она обучалась на коде 116 языков программирования, а второй этап обучения включал также отобранные данные на естественном языке и математике. Это базовая модель без выравнивания для диалогового следования инструкциям. IBM не рекомендует применять её в новых проектах и предоставляет для исторических и научных целей; для новых приложений предлагаются более поздние модели Granite. Генерируемый код может быть ошибочным или содержать проблемные результаты, поэтому его нужно проверять. Лицензия — Apache 2.0.

mLateOn — многоязычная модель поиска LightOn на архитектуре ColBERT с поздним взаимодействием и многовекторными представлениями. Она построена на mmBERT-base, содержит около 307 млн параметров и обучена с помощью PyLate; для запросов и документов поддерживает контекст до 8 192 токенов, формирует векторы размерности 128 и оценивает совпадение методом MaxSim. Модель предназначена для семантического поиска по многоязычным коллекциям, длинным документам и коду. Обучение проводилось на английском, французском, немецком, итальянском, испанском, португальском, шведском, норвежском и арабском языках. По данным карточки, модель также переносит качество на языки и письменности, не включённые в обучение поиска, например кириллицу и японский. Модель может быть полезна для поиска по документам и кода, когда инфраструктура поддерживает многовекторное хранение и позднее взаимодействие. В карточке приведены высокие результаты на бенчмарках BEIR, MIRACL, MLDR и MTEB Code. Для использования доступны веса Safetensors и ONNX. Лицензия — Apache 2.0.

RoroMachine14/nanbeige-4.1-3b-deepseek-distilled — дообученная версия Nanbeige4.1-3B, созданная автором RoroMachine14 на датасете sequelbox/Tachibana4-DeepSeek-V4-Pro. Модель относится к классу text-generation и предназначена для генерации текста, структурированного рассуждения, решения математических задач, включая суммирование и интегрирование, а также написания кода с пошаговым объяснением. Модель содержит около 3 млрд параметров и наследует встроенную способность Nanbeige4.1 к reasoning/thinking, усиленную трассами рассуждений DeepSeek-V4-Pro в задачах программирования и математики. Заявлена поддержка английского и китайского языков. Модель может запускаться на пользовательском оборудовании через transformers или llama.cpp, что делает её пригодной для локального использования при ограниченных аппаратных ресурсах. Данные о размере контекста, поддерживаемых модальностях, конкретных ограничениях качества и дополнительных требованиях отсутствуют. Распространяется по лицензии Apache-2.0.

Neural-Chat-v1-1 — языковая чат-модель, дообученная Intel и командой NeuralChat на базе mosaicml/mpt-7b. Это плотная авторегрессионная модель MPTForCausalLM с 7 млрд параметров; максимальная длина последовательности — 2048 токенов. Модель предназначена для генерации текста и ответов на инструкции, а также может применяться для задач вроде генерации кода. Для дообучения использован набор Intel/neural-chat-dataset-v1-1, содержащий около 1,1 млн инструкционных примеров; метаданные также указывают набор allenai/real-toxicity-prompts. Карточка приводит результаты оценки на наборах задач языкового моделирования и проверку токсичности, но они не гарантируют качество в конкретном применении. Основной язык карточки — английский; в обучающих данных есть также примеры на китайском. Модель может выдавать фактически неверные ответы, а также предвзятый, оскорбительный или иной нежелательный текст. Перед внедрением требуется проверка безопасности и качества для целевого сценария. Репозиторий распространяется по лицензии Apache-2.0.

NeuralMonarchCoderPearlBeagle — объединённая авторская модель на базе Mistral, созданная с помощью LazyMergekit методом TIES из abideen/MonarchCoder-7B и eldogbbhed/NeuralPearlBeagle. По описанию автора, эксперимент проверяет, можно ли усилить навыки программирования и математики модели NeuralBeagle14-7B, сохранив её способности к диалогу. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации кода и текста, диалогов, математических задач и рассуждений. Автор характеризует слияние как экспериментальное и несколько хаотичное, поэтому качество на конкретных задачах может быть нестабильным. Репозиторий распространяется в формате safetensors по лицензии CC BY-NC 4.0, которая не разрешает коммерческое использование.

failspy/Phi-3-medium-4k-instruct-abliterated-v3 — доработанная модель Microsoft Phi-3 Medium Instruct, созданная автором failspy. Веса bfloat16 обработаны ортогонализацией, чтобы ослабить склонность модели отказываться отвечать на запросы. Это плотная авторегрессионная языковая модель на 13,8 млрд параметров с контекстом 4096 токенов; репозиторий содержит веса Safetensors. Модель предназначена для диалоговой генерации текста и кода, в том числе для запросов, на которые исходная модель могла бы отказать. Автор сообщает, что сохранены остальные свойства исходной модели, однако результат может зависеть от запроса и не гарантирует отсутствия отказов. Модель в целом стабильна по оценке автора, но склонна к галлюцинациям сильнее оригинала; методика также может иметь побочные эффекты. Лицензия — MIT. Автор указывает, что модель проверялась на галлюцинации, но не приводит результаты количественной оценки. В карточке языки обозначены только как multilingual, поэтому конкретные поддерживаемые языки и основной язык не уточняются.

Prox-Llama-3-8B-abliterated-orpo — языковая модель OpenVoid на архитектуре Llama 3 с 7,5 млрд параметров. Это дообученная версия Meta-Llama-3-8B-Instruct, рассчитанная на генерацию и объяснение кода, а также вопросы по кибербезопасности и техникам взлома. Модель поддерживает диалог и работу с кодом, принимает текст и генерирует текст; для английского указана поддержка в карточке. Контекст составляет 8192 токена. В README приведены результаты HumanEval v1.0 pass@1 0,537 и EvalPlus v1.1 pass@1 0,482. Модель описана как uncensored; ответы могут быть предвзятыми или непоследовательными, поэтому их следует проверять, особенно в критически важных сценариях. Доступна по лицензии Apache-2.0.

Qwen2.5-Coder-1.5B — базовая авторегрессионная языковая модель для программирования, разработанная командой Qwen. Она предназначена для генерации и анализа кода, исправления ошибок и задач заполнения пропусков в коде; модель может служить основой для кодовых агентов после дополнительной настройки. Это предобученная модель, а не готовый разговорный ассистент. Модель использует архитектуру Qwen2 с 1,5 млрд параметров, 28 слоями, RoPE, SwiGLU, RMSNorm и групповым запросным вниманием; контекст — до 32 768 токенов. Она обучалась на коде, текстово-кодовых связях и синтетических данных, сохраняя общие языковые и математические способности базовой серии Qwen2.5. В репозитории представлены веса Safetensors для Transformers. Лицензия Apache 2.0 допускает использование и модификацию на её условиях. Модель сравнительно компактна, однако качество может уступать более крупным моделям; для диалога и практического использования рекомендуется постобучение или адаптация под целевой сценарий.

RAS-LAB разработала эту модель как сжатую версию инструктивной Qwen3-Coder-30B-A3B-Instruct для генерации текста, программирования и диалоговых сценариев, включая ответы на корейском языке. Модель использует архитектуру Qwen3 MoE: по README, после удаления экспертов в каждом слое осталось 112 из 128, а число активных экспертов top-8 не изменилось. В карточке указано около 27 млрд параметров, из которых активно примерно 3,3 млрд; метаданные каталога приводят значение 2,6 млрд параметров. Поддерживаются MLX и safetensors, веса также загружаются через Transformers; контекст — до 262 144 токенов. Метод K-REAP защищает путь корейских экспертов при однократном прореживании без последующего дообучения. По приведённым в README результатам, на корейских бенчмарках потери относительно исходной модели невелики; результаты на английских задачах, математике и коде смешанные. Это сравнительные оценки из карточки, а не гарантия качества для конкретных запросов. Лицензия — Apache-2.0.

Surge-V1.1-2x0.8B — компактная разреженная модель класса Mixture-of-Experts от Junhauwong, представленная как модель для локального инференса. По карточке она использует два специализированных экспертных пути по 0,8 млрд параметров; метаданные указывают семейство Qwen3.5 MoE и архитектуру для генерации текста. Модель поддерживает диалоговый режим и предназначена для рассуждений, программирования, математических задач и сценариев с подключёнными инструментами. Её можно применять для пошаговых объяснений, планирования, написания и отладки кода, решения арифметических и алгебраических задач, а также автоматизации через внешние API и другие инструменты. В карточке приведён пример запуска через Transformers; лицензия в метаданных — Apache-2.0. Автор отмечает компактность модели и возможность локального запуска, но не приводит подтверждённых результатов бенчмарков.

UltiMerge — текстовая причинно-следственная MoE-модель, созданная OliviaRossi геометрическим слиянием четырёх чекпойнтов на архитектуре Qwen 3.6. Среди исходных моделей указаны Qwen-AgentWorld-35B-A3B, KAT-Coder-V2.5-Dev, Qwopus3.6-35B-A3B-Coder и Ornith-1.5-35B-A3B. Модель предназначена для агентного программирования, инженерии программных репозиториев, рассуждений, планирования и работы с инструментами. Архитектура сочетает MoE с 256 маршрутизируемыми экспертами, из которых активны восемь, и одним общим экспертом; в README также описаны 30 слоёв Gated DeltaNet и 10 слоёв GQA. Всего модель содержит около 34,8 млрд параметров, из них примерно 3,1 млрд активны на токен. Карточка указывает контекст до 262 144 токенов. Мультимодальные веса зрения и головы предсказания нескольких токенов удалены; модель работает с текстом, включая код, и заявлена поддержка английского и китайского языков. Слияние объединяет способности к использованию инструментов, работе с кодом и репозиториями, рассуждениям и самокоррекции. Для запуска README описывает варианты Transformers, vLLM, SGLang и llama.cpp; метаданные указывают формат safetensors. Модель распространяется по лицензии Apache-2.0. Указанные в README характеристики и качество объединения основаны на описании автора; независимые результаты оценки не приведены.

VibeThinker-3B-heretic — текстовая генеративная модель, разработанная пользователем saidutta69. Это вариант WeiboAI/VibeThinker-3B без встроенного поведения отказа, полученный из Qwen/Qwen2.5-Coder-3B с помощью Heretic v1.4.0 методом направленной абляции весов. Модель предназначена для локального использования на компьютерах с ограниченными ресурсами, агентских систем и периферийных устройств, а также для задач программирования, рассуждений, математики, диалогов и генерации текста с режимом явного пошагового мышления VibeThinker. Модель имеет архитектуру Qwen2.5-Coder и размер около 3,1 млрд параметров. Поддерживает текстовую модальность и заявлена для английского языка. Доступны версии GGUF, включая F16 и различные варианты квантования, совместимые с llama.cpp, Ollama, LM Studio и Jan; объём весов в зависимости от варианта составляет примерно от 1,19 до 5,75 ГБ, без учёта дополнительной памяти под контекст. Контекстное окно в README не указано. К сильным сторонам относятся малый размер, возможность запуска на CPU и видеокартах с небольшим объёмом памяти, сохранение заявленных способностей базовой модели к рассуждениям, программированию и следованию инструкциям, а также отсутствие защитных отказов. При этом удаление отказов снижает встроенные ограничения безопасности: модель может генерировать контент, от которого базовая версия отказалась, поэтому требуется ответственное и законное использование. Производитель не заявляет улучшения возможностей по сравнению с VibeThinker-3B. Лицензия — MIT.

Schneewolf Labs B0-27B — внутренняя 27-миллиардная модель семейства Familiar, разработанная Schneewolf Labs на основе Hemlock-Qwen3.8-27B. Это плотная мультимодальная модель Qwen3.5 для диалогов, выполнения инженерных задач и работы с инструментами; она принимает текст и изображения и генерирует текст. В README описаны два этапа обучения: объединение базовой модели с адаптером для программирования, затем ORPO-обучение на смеси предпочтений, включая данные, пересобранные на основе объединённой модели. Веса распространяются в формате Safetensors, лицензия — Apache-2.0. Модель предназначена для локального использования в роли оператора, который выполняет инженерные задачи сквозным образом, в том числе через агентскую связку с Codex. По внутренним оценкам авторов, она выполнила 6 из 6 задач kirabench и показала более быстрое выполнение одной задачи с исправлением тестов по сравнению с базовой моделью. README также сообщает о сохранении башни зрения и тензоров MTP базовой модели; включён mmproj для GGUF-репозитория. Результаты основаны на внутренних тестах и ограниченной выборке: на egirl operator bench модель набрала 42/47 против 47/47 у базы, с пятью отмеченными авторами ошибками при выборе одиночных вызовов инструментов. Описанные возможности и оценки не являются независимой проверкой. Размер контекста и список поддерживаемых языков в предоставленных данных не указаны; метаданные карточки отмечают английский язык.

Grok 4.20 Multi-Agent — вариант модели Grok 4.20 от SpaceXAI для совместных сценариев с несколькими агентами. Несколько агентов работают параллельно, проводят углублённое исследование, координируют использование инструментов и объединяют полученные сведения. Данных о размере, архитектуре, модальностях, языках, длине контекста и лицензии в предоставленных источниках нет.

Grug 67B A2B Datakit SFT 262K — чекпойнт Grug MoE, дообученный методом supervised fine-tuning на смеси данных для агентных сценариев и рассуждений. Разработчик — open-athena. Архитектура GrugMoeForCausalLM использует 256 маршрутизируемых экспертов с выбором top-4 и общий эксперт; всего около 67 млрд параметров, примерно 2 млрд активных параметров на токен. Модель принимает текст и генерирует текст, поддерживает чат и интерфейс вызова инструментов. В конфигурации задан контекст до 262 144 токенов, но работа на длинном контексте не проверена. Обучающие источники включают OpenThoughts code, SWE-ZERO, Penfever traces, NuminaMath и данные GLM для следования формату и сжатия контекста. Модель может быть полезна для агентных задач, рассуждений, работы с кодом и математикой, однако качество генерации, безопасность и численная эквивалентность исходному чекпойнту не оценены. Для запуска требуется среда с поддержкой Grug MoE; эта версия ещё не проверена в ранее использованной сборке vLLM, а загрузка через стандартный Transformers не подтверждена. Лицензия — OpenMDW-1.1.

InstructYi-6BDolly15K — авторегрессионная языковая модель на 5,8 млрд параметров, дообученная HenryJJ на базе Yi-6B с помощью LoRA. В обучении использовались наборы Databricks Dolly 15K и CodeAlpaca 20K; модель обучалась следовать инструкциям и лучше справляться с задачами программирования. Для запросов применяется шаблон [INST] с инструкцией и, при необходимости, контекстом. Модель предназначена для генерации ответов на инструкции и помощи с кодом на английском языке. Репозиторий содержит веса Safetensors; контекст модели по метаданным составляет 4096 токенов. README сообщает о тренировке на окне 2048 токенов. Модель распространяется по лицензии Apache-2.0.

Laguna-S-2.1-JANG_2L-CRACK — текстовая MoE-модель, выпущенная dealignai на основе poolside/Laguna-S-2.1. Она предназначена прежде всего для агентной разработки ПО, рассуждений и вызова инструментов. По карточке, базовая модель имеет 118 млрд параметров, 48 слоёв и контекст до 262 тыс. токенов; в метаданных указаны 6,8 млрд параметров и контекст до 1 048 576 токенов, поэтому сведения о размере и контексте расходятся. Модель подвергнута удалению отказов на уровне весов и квантована в смешанном формате JANG_2L для MLX и Apple Silicon; заявленный размер набора весов — около 41 ГБ. Поддерживаются режимы рассуждения и прямых ответов, а также интерфейс вызова инструментов. В README приведены результаты MMLU 73,7% и HarmBench 98,8% соответствия запросам; это результаты оценки автора через vMLX, а не независимая гарантия качества. README указывает лицензию как бесплатную для macOS, а метаданные обозначают её как other без конкретных условий. Карточка сообщает, что модель рассчитана на исследовательские цели и авторизованное тестирование безопасности; после удаления отказов она может выполнять широкий спектр запросов без отказа.

Llama3.1-8B-Enigma-GGUF — это квантизированная версия языковой модели Llama3.1-8B-Enigma от ValiantLabs, подготовленная и опубликованная bartowski в формате GGUF для llama.cpp. Модель основана на архитектуре Llama и предназначена для генерации текста, диалогового взаимодействия, выполнения инструкций и задач, связанных с программированием, в частности с Python. Заявленный язык — английский. Доступны варианты с разной степенью квантизации: от полноразмерной F32-версии около 32,13 ГБ до компактных IQ2_M и Q2_K. Наиболее качественными и рекомендуемыми в README названы варианты Q6_K_L, Q6_K, Q5_K_L, Q5_K_M, Q5_K_S, Q4_K_L, Q4_K_M, Q4_K_S и IQ4_XS; более компактные варианты требуют меньше оперативной памяти, но заметнее снижают качество. Квантизация выполнена с использованием imatrix и llama.cpp release b3583, запуск рекомендуется через LM Studio. Сильными сторонами являются выбор размеров файлов, возможность локального запуска и сохранение высокого качества у старших вариантов квантизации. Ограничения включают зависимость качества от выбранного варианта, преимущественную ориентацию на английский язык и отсутствие в README данных о размере контекста, производительности, мультимодальности и результатах тестирования. Модель распространяется по лицензии llama3.1.

Carsen Klock создал эту модель как дообученную версию Meta Llama 3.2 1B. Это плотная авторегрессионная языковая модель на 1,2 млрд параметров для генерации текста и диалогов; в метаданных указан контекст до 131 072 токенов. Модель дообучена на объединённых наборах инструкций, математических задач и примеров работы с кодом, а также настроена на ответы без фильтрации тем. Модель подходит для решения математических задач, генерации и анализа кода, выполнения инструкций и диалогового общения. Доступны веса в safetensors, а в README также перечислены объединённая 16-битная версия и варианты GGUF. Заявленный основной язык — английский. Используется лицензия Llama 3.2; её условия следует учитывать при распространении и применении модели.