II.7DevOps, облако и эксплуатация IT-систем

Macaron-V1-Coding-Venti — кодовая модель MindLab Research из семейства Macaron-V1. Это объединённый чекпойнт: специалист по программированию Macaron-V1-Venti L2 Coding слит с базовыми весами GLM-5.2 BF16. Модель предназначена для понимания кода, работы с репозиториями, терминалом и сценариев программного агента; её можно запускать как обычную причинную языковую модель без подключения LoRA-адаптера или маршрутизатора. В метаданных указаны архитектура GLM MoE DSA, 30,4 млрд параметров, контекст до 1 048 576 токенов, библиотека Transformers и поддержка английского и китайского языков. Чекпойнт распространяется под лицензией MIT. Отдельной оценки этого объединённого варианта нет: приведённые в README результаты относятся к маршрутизированной родительской системе Macaron-V1-Venti и не измеряют качество данной модели. Модель специализируется на программировании и не включает другие специализации родительской системы; README также отмечает слабые места в зависимых вызовах инструментов и отсутствие отдельной оценки безопасности. Не рекомендуется использовать её как автономного помощника в медицинских, юридических, финансовых и других высокорисковых задачах.

Moe-2x7b-QA-Code — языковая модель команды nextai-team для ответов на вопросы и работы с запросами по программированию. Она использует архитектуру Mixture of Experts семейства Mixtral; в метаданных указан размер 7,1 млрд параметров и контекст до 32 768 токенов. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Модель предназначена для разработчиков, специалистов по данным и исследователей. Её можно использовать для генерации и объяснения кода, помощи при разборе технической документации, ответов в службе поддержки, обучения программированию и поддержки код-ревью. В карточке указано обучение на технической документации, публикациях Stack Overflow и репозиториях GitHub; заявлена поддержка английского языка. Карточка заявляет улучшение ответов на сложные вопросы о коде, но не приводит численных результатов бенчмарков. Ответы могут быть предвзятыми или неточными, особенно за пределами обучающих данных, поэтому их следует проверять перед использованием в критически важных сценариях.

Nemotron 3.5 Lightning 30B-A3B REAP-20B — экспериментальная производная модель sleepyeldrazi на основе NVIDIA Nemotron 3.5 Lightning 30B-A3B. Это гибридная архитектура Mamba-2, MoE и attention для генерации текста и диалога. Метод REAP сократил число маршрутизируемых экспертов с 128 до 77 в каждом из 23 MoE-слоёв; по README, размер модели уменьшен с 31,58 до 19,87 млрд параметров, при этом активными остаются около 3 млрд. Метаданные каталога указывают 1,9 млрд параметров, поэтому точный размер в источниках расходится. Модель предназначена как базовая точка для последующего дообучения LoRA и для общих текстовых задач с небольшим уклоном в программирование: ответов на вопросы, рассуждений, математических задач и работы с кодом. Калибровка выполнена на смеси инструкций, примеров кода и математики; заявленный нативный контекст в метаданных — 262 144 токена. README описывает ограниченную проверку генерации, но не приводит результатов полных бенчмарков. Это ранняя альфа-версия, поэтому качество следует проверять на целевых задачах; для специализированных сценариев автор рекомендует калибровку на собственных данных. Модель распространяется по лицензии OpenMDW-1.1.

Replete-Coder-Qwen2-1.5B-GGUF — квантованная GGUF-версия модели Replete-Coder-Qwen-1.5b, разработанной Replete-AI на базе Qwen/Qwen2-1.5B. Квантование выполнил bartowski с использованием llama.cpp и метода imatrix; доступны варианты с различными уровнями квантования, включая Q8_0, Q6_K и Q5_K_M. Модель предназначена для генерации текста и решения задач программирования: написания и объяснения кода, следования инструкциям, работы с математическими задачами, вызова функций и ответов в формате диалога. Обучение проводилось на наборах данных с примерами кода, инструкций, математических задач, диалогов, function calling и анализа уязвимостей. Поддерживается специальный шаблон prompt в формате ChatML. Точная длина контекста и перечень языков программирования в README не указаны. Ключевое преимущество модели — небольшой размер около 1,5 млрд параметров и возможность локального запуска через llama.cpp в разных вариантах квантования. Более высокие разрядности ориентированы на максимальное сохранение качества, а Q6_K и Q5_K_M отмечены как рекомендуемые. Ограничениями являются небольшой размер по сравнению с крупными кодовыми моделями, отсутствие опубликованных численных результатов тестирования и неполные сведения о поддерживаемых языках и контексте. Модель распространяется по лицензии Apache-2.0.

rombodawg/rombos_Llama3-8B-Instruct-Replete-Adapted — экспериментальная чат-модель на архитектуре Llama 3, созданная Rombodawg. В README сказано, что к Meta-Llama-3-8B-Instruct применён адаптер Replete-AI/Replete-Coder-Llama3-8B; метаданные указывают 7,5 млрд параметров, формат PyTorch и контекст 8192 токена. Для модели заявлены генерация и объяснение кода, перевод между языками программирования, помощь с математикой, вопросы безопасности кода, вызов функций и общие диалоговые задачи. README описывает исходный обучающий набор как примерно на 75% состоящий из инструкций по программированию и на 25% — из общих инструкций; в метаданных перечислены соответствующие датасеты для кода, математики и диалогов. Модель предназначена для диалогового использования и генерации текста, включая код. Карточка характеризует её как эксперимент и не приводит сравнительных оценок качества. Указанный контекст — 8192 токена; автор предупреждает, что качество за его пределами не гарантируется. Лицензия в метаданных обозначена как other, поэтому конкретные условия использования следует проверять в репозитории модели.

uukuguy представил дообученную на инструктивных данных модель для генерации кода на основе StarCoder2-15B. Для настройки использовано 986 тысяч примеров из OpenHermes-2.5, наборов инструкций по Python, Spider и Evol-instruction; модель принимает запросы в формате Alpaca и рассчитана на задачи рассуждения, планирования и написания кода. Базовая архитектура — декодерный Transformer StarCoder2 с Grouped Query Attention и скользящим вниманием; контекст составляет 16 384 токена. В метаданных указано 21,7 млрд параметров и формат safetensors. Модель подходит для генерации и дополнения кода по инструкциям и контексту. Исходная StarCoder2 обучалась на коде более чем на 600 языках программирования, однако основной язык исходных данных — английский; README отмечает, что сгенерированный код может содержать ошибки, уязвимости или быть неэффективным. Обучение включало данные с permissive-лицензиями и код без лицензии, но результаты могут воспроизводить фрагменты исходного кода, поэтому следует проверять требования к атрибуции. Лицензия репозитория — BigCode OpenRAIL-M.

MaziyarPanahi/codegemma-7b-it-GGUF — это набор файлов модели в формате GGUF для оригинальной модели google/codegemma-7b-it, разработанной Google и преобразованной в GGUF пользователем MaziyarPanahi. Модель предназначена для генерации текста и диалоговых сценариев, а также может применяться в локальных приложениях и инструментах, совместимых с GGUF, включая llama.cpp, LM Studio, GPT4All и llama-cpp-python. В репозитории представлены варианты квантизации с разрядностью 2, 3, 4, 5, 6 и 8 бит, что позволяет выбирать компромисс между размером файла, требованиями к памяти и качеством генерации. Указан размер базовой модели — 7B параметров; формат GGUF ориентирован на эффективный запуск, в том числе с аппаратным ускорением. README не содержит сведений о поддерживаемых языках, длине контекста, точной архитектуре или специализированных возможностях CodeGemma, поэтому эти характеристики нельзя достоверно уточнить. Основные преимущества — наличие нескольких уровней квантизации и совместимость с широким набором локальных клиентов и библиотек. Ограничения связаны с потенциальной потерей качества при использовании более агрессивной квантизации, а также с отсутствием в карточке подробных оценок и характеристик. В метаданных указана лицензия Gemma.

d3LLM-Dream — диффузионная языковая модель, разработанная командой d3LLM. Это дообученная версия Dream-org/Dream-v0-Instruct-7B с 7,1 млрд параметров, предназначенная для генерации текста и диалогов. Модель использует дистилляцию псевдотраекторий при обучении и энтропийное многоблочное декодирование при выводе, чтобы ускорить генерацию с параллельной обработкой токенов. Модель ориентирована на математические рассуждения и программирование. В README заявлена скорость до 235,34 токена/с на H100 на GSM8K-CoT; также сообщается об ускорении относительно авторегрессионной Qwen-2.5-7B в 4,5 раза на H100 и в 2,5 раза на A100. Метаданные указывают контекст до 131 072 токенов, поддержку чата и интерфейс для вызова инструментов. Модель распространяется в формате safetensors по лицензии Apache-2.0.

DeepSeek-V4.1-Flash-UNCENSORED-DwarfStar-Q2 — независимая общественная конверсия модели DeepSeek-V4.1-Flash, разработанной DeepSeek AI, и производного abliterated-чекпойнта dealignAI. Конверсию, упаковку и локальное тестирование выполнил pyrodog; обучение, дообучение, слияние моделей и дополнительная abliteration не проводились. Модель предназначена для генерации текста и программного кода, а также для сценариев с вызовом инструментов, что было проверено через OpenCode. Это текстовая модель с вводом и выводом в виде текста, представленная в специальном формате Q2 GGUF для inference engine DwarfStar. Файл занимает около 340,6 GiB; используются различные схемы квантования, включая IQ2_XXS, Q2_K, Q8_0, F16 и F32. Визионные веса и веса для speculative decoding DSpark удалены, поэтому данная сборка не поддерживает соответствующие возможности исходного чекпойнта. Языки, точный размер архитектуры и полный перечень параметров в карточке не указаны. В примерах запуска задан контекст до 262 144 токенов. Главные особенности — существенно меньший размер по сравнению с исходным чекпойнтом, возможность работы на Apple Silicon с SSD-streaming и поддержка инструментов через DwarfStar. Ограничения включают нестандартную раскладку тензоров: файл не предназначен для llama.cpp, Ollama, LM Studio и других обычных GGUF-рантаймов. Для работы требуются DwarfStar с поддержкой DeepSeek V4.1, быстрый локальный SSD и значительный объём дискового пространства; на тестовой системе Apple M5 Max с 128 GB unified memory основные веса превышали доступную оперативную память и загружались потоково. Качество не гарантируется эквивалентным опубликованной activation-calibrated Q2-сборке. Распространение указано под лицензией MIT.

Мультимодальная инструкционная модель Gemma 4 Unified, созданная tepirale слиянием через Task Arithmetic на базе google/gemma-4-12B-it и двух производных моделей, ориентированных на программирование и агентные сценарии. Репозиторий содержит веса Safetensors и предназначен для диалогового использования; модель принимает текст и изображения и генерирует текстовые ответы. Слияние объединяет возможности исходной модели Google с направлениями coder и agentic. По данным карточки, модель поддерживает зрительные входы и относится к задаче image-text-to-text; базовая Gemma 4 также описана как мультимодальная модель для диалога, анализа изображений, видео и аудио, а также генерации кода. README не приводит отдельной оценки качества или подробностей об используемых сценариях. Лицензия, размер параметров, поддерживаемые языки и длина контекста в предоставленных данных не указаны. Практические ограничения и качество объединённых возможностей не описаны; сведения о лицензии исходной модели не позволяют установить условия лицензирования этого репозитория.

noctrex/GLM-4.7-Flash-i1-MXFP4_MOE_XL-exp-GGUF — экспериментальная GGUF-квантизация GLM-4.7-Flash, подготовленная автором noctrex. В ней применяется смешанная точность MXFP4_MOE: для тензоров с высокой оценкой важности используются BF16, со средней — Q8_0, с низкой — MXFP4; оценки важности рассчитаны с помощью imatrix. Автор ориентирует вариант на задачи программирования. Модель предназначена для генерации текста в диалоговом формате, включая помощь с кодом. В качестве основы указана zai-org/GLM-4.7-Flash — диалоговая MoE-модель Z.ai для генерации текста, рассуждений и программирования с длинным контекстом. В карточке этого варианта не приведены отдельные значения размера модели и длины контекста. Формат файлов — GGUF. Квантизация экспериментальная; автор не сообщал о проведённых бенчмарках, поэтому её преимущество перед основной версией MXFP4_MOE не подтверждено. Сведения о лицензии в предоставленных данных отсутствуют.

Huihui-Qwen3.5-122B-A10B-Abliterated-GGUF — это GGUF-квантизированная версия модели Qwen/Qwen3.5-122B-A10B, созданная разработчиком Huihui AI с применением abliteration — экспериментального метода снижения отказов модели. Модель предназначена для локального запуска через llama.cpp и ориентирована на задачи оркестрации, режимы Ask и Architect, а также другие сценарии, где требуется производительная генерация текста. Поддерживается обработка изображений через отдельный файл mmproj.gguf. Модель основана на Qwen3.5-122B-A10B; из идентификатора следует конфигурация с общим размером 122B и обозначением A10B, однако подробности архитектуры, языковой поддержки и максимального контекста в README не приведены. Доступны различные квантизации, включая Q6_K, Q4_K_M и MXFP4_MOE. В README указана скорость около 65 токенов в секунду для варианта MTP на нескольких RTX 3090; для ускорения рекомендуется использовать актуальную версию llama.cpp, speculative decoding с draft-MTP и при необходимости unified memory. Ключевая особенность модели — существенно сниженная фильтрация безопасности и отсутствие стандартных гарантий безопасного поведения. Это может быть полезно для исследований и контролируемого тестирования, но повышает риск чувствительных, спорных или неподходящих ответов и делает модель непригодной без дополнительного контроля для публичных и высокорисковых приложений. Рекомендуются мониторинг результатов и ручная проверка. В карточке указана лицензия Apache 2.0; конкретные условия для производного варианта следует сверять с лицензией базовой модели.

Spell Blade — дообученная на базе Llama 2 диалоговая модель от sequelbox, предназначенная для общения и задач общего назначения с усиленными техническими возможностями. Это плотная авторегрессионная модель семейства Llama с 68,7 млрд параметров; для диалогов обучалась преимущественно на данных в формате INST. Модель принимает текст и генерирует текст. Заявленный контекст — 4096 токенов. В репозитории представлены веса в формате Safetensors, лицензия — Apache 2.0. Автор описывает её как пригодную для использования без дополнительной настройки, но отмечает, что дальнейшее дообучение может улучшить пользовательский опыт. Модель обозначена как устаревшая и предложена главным образом для справки; для общего применения автор рекомендует Llama 3.

UCLA-EMC/Meta-Llama-3.1-8B-AWQ-INT4 — квантизированная версия базовой модели Meta-Llama-3.1-8B, разработанной Meta и подготовленной в формате AWQ сообществом UCLA-EMC. Это авторегрессионная текстовая генеративная модель: принимает текст и генерирует текст. Модель предназначена для локального запуска и задач общего текстового продолжения, включая генерацию кода и другой контент по заданному запросу. Версия является базовой, а не instruction-tuned, поэтому она не оптимизирована специально для диалогового следования инструкциям. Модель имеет размер 8B параметров и квантизацию INT4 с использованием AutoAWQ, GEMM-ядер, zero-point quantization и размером группы 128. Для загрузки контрольной точки требуется около 7,29 ГБ VRAM; модель тестировалась на GPU NVIDIA T4 и может запускаться на менее мощном оборудовании. В README указана поддержка английского языка; размер контекста для самой модели не указан, а параметр fuse_max_seq_len=512 приведён только в примере запуска. Для работы используются Transformers, Accelerate и AutoAWQ. Модель распространяется по лицензии CC BY-NC-4.0, поэтому её применение ограничено условиями этой лицензии, включая некоммерческий характер использования.

LLMWildling/NVIDIA-Nemotron-3-Super-135B-A13B-Coder-NVFP4 — созданная сообществом специализация NVIDIA Nemotron 3 Super 120B-A12B NVFP4 для программирования; это не официальный выпуск NVIDIA. Модель использует архитектуру семейства Nemotron с разреженной активацией: при общем размере 135,21 млрд параметров активны 13,22 млрд параметров на токен. Веса представлены в смешанном формате NVFP4; модель загружается через Transformers и предназначена для диалогового взаимодействия. Модель рассчитана на генерацию кода, анализ репозиториев, работу в программных агентах и сценарии с использованием инструментов. В карточке приведён пример создания работающей SVG-игры Flappy Bird менее чем за 60 тысяч токенов, но это результат внутренней оценки, а не независимая гарантия качества. Для базовой модели каталог указывает поддержку длинного контекста и рассуждений; конкретная длина контекста этой версии не приведена. Лицензия обозначена как other, поэтому условия использования следует сверить с карточкой репозитория. Автор README заявляет о готовности к производственному применению.

Prox-Llama-3-8B — дообученная OpenVoid модель на архитектуре Llama 3, основанная на Meta-Llama-3-8B-Instruct. Это плотная языковая модель примерно на 7,5 млрд параметров с контекстом 8192 токена, предназначенная для генерации кода и ответов на вопросы по кибербезопасности и техникам взлома. Модель подходит для написания, объяснения и документирования кода, анализа задач программных проектов и диалоговых консультаций по кибербезопасности. По заявлению автора, она обучена на проприетарном текстовом наборе OpenVoid и ориентирована на английский язык. В README приведены результаты оценки на HumanEval, EvalPlus и нескольких общих бенчмарках. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Автор рекомендует проверять результаты, поскольку они могут быть предвзятыми или непоследовательными; для критически важных применений нужна экспертная проверка.

Prox-Phi-3-mini-128k — языковая модель OpenVoid, дообученная на базе архитектуры Microsoft Phi-3-mini-128k для генерации кода и задач кибербезопасности. Это плотная авторегрессионная модель класса Phi3ForCausalLM примерно с 3,7 млрд параметров; репозиторий содержит веса в формате safetensors. Модель предназначена для генерации, объяснения и документирования кода, ответов на вопросы о кибербезопасности и техниках взлома, а также анализа уязвимостей и учебных симуляций. Карточка приводит результаты HumanEval, EvalPlus и MBPP, но они не гарантируют качество на практических задачах. Модель может выдавать ошибочные или непоследовательные ответы, поэтому результаты следует проверять, особенно в критичных сценариях. Метаданные указывают английский язык и контекст 4096 токенов; название модели и README заявляют 128k, что расходится с указанной длиной контекста. Лицензия — Apache-2.0.

PXA Coder 35B — кодовая мультимодальная модель от PXA Network. Это смесь экспертов на архитектуре Qwen MoE с гибридным вниманием: 34,7 млрд параметров и заявленный контекст 262 144 токена. Репозиторий содержит GGUF-веса PXQ4 и F16, а для обработки изображений — отдельный vision-проектор. Модель предназначена для генерации и изменения кода, отладки, рефакторинга, работы с несколькими файлами и крупными кодовыми базами, а также для многошаговых агентных сценариев с использованием инструментов. Она принимает текст и изображения и выдаёт текст; заявлены возможности чата, программирования и анализа изображений. В основе — объединение моделей Qwen 3.6 и Qwen 3.8 с последующим обучением под руководством более крупной модели. Для запуска требуется движок PXA; модель не работает со стандартными сборками llama.cpp, LM Studio, Ollama или text-generation-webui. В карточке отмечено, что поведение отказа намеренно ослаблено и на защитные ограничения модели нельзя полагаться. Лицензия — Apache-2.0.

sillykiwi опубликовал слитую с помощью merge-lora модель на основе RevEng-24-25/Qwen2.5-Coder-7B-Instruct-Ghidra-v2 и семейства Qwen2.5-Coder. Это причинная языковая модель с архитектурой Qwen2ForCausalLM, предназначенная для генерации кода и диалоговой работы с запросами о коде; README также указывает на возможности рассуждения и исправления ошибок в коде. Модель содержит около 7,1 млрд параметров по метаданным, использует формат safetensors и рассчитана на контекст 32 768 токенов. README описывает базовую серию Qwen2.5-Coder-7B-Instruct как модель с RoPE, SwiGLU, RMSNorm и групповым вниманием; для базовой модели приведена длина контекста 131 072 токена с настройкой YaRN для длинных входов. Эти характеристики относятся к описанию базовой модели и не подтверждают, что у данной публикации контекст превышает 32 768 токенов. Модель подходит для помощи при написании, анализе и отладке кода. Лицензия — Apache-2.0; README отмечает, что для базового семейства рекомендуются актуальные версии Transformers, а масштабирование контекста может ухудшить работу на коротких входах.

unsloth/Qwen3.6-27B-UD-MLX-NVFP4 — это MLX-версия открытой модели Qwen3.6-27B, подготовленная Unsloth на базе Qwen/Qwen3.6-27B. Модель ориентирована прежде всего на агентное программирование, работу с frontend-задачами, рассуждение на уровне репозитория и итеративную разработку с сохранением контекста рассуждений. Она поддерживает текстовые и визуальные входы благодаря архитектуре с vision encoder. Модель содержит около 27 млрд параметров и построена как causal language model с гибридной архитектурой Gated DeltaNet и Gated Attention: 64 слоя, скрытое измерение 5120 и многошаговое обучение MTP. Нативная длина контекста составляет 262 144 токена, с возможностью расширения до 1 010 000 токенов. Данный репозиторий представляет квантованный вариант Unsloth в формате MLX с обозначением NVFP4; README не указывает поддерживаемые языки и точные требования к оборудованию. Сильными сторонами являются специализация на coding-agent сценариях, обработка изображений и очень длинный контекст. К ограничениям относятся зависимость от MLX-совместимого программного окружения и возможные компромиссы квантования по сравнению с полной точностью; конкретные потери качества для этой версии в README не приведены. Модель распространяется по лицензии Apache-2.0.

RavenX-OpenFable-Coderagent-Gemma-4-12B-Coder-Fable5-Composer-Soulinfused-Remastered — плотная языковая модель на архитектуре Gemma 4 Unified с 12 млрд параметров, выпущенная Gabriel Garcia и RavenX LLC. Она объединяет базу Gemma-4-12B-Coder-Fable5-Composer2.5-v1 с настройками на код, поведение агента, идентичность OpenFable и отказы по безопасности; в метаданных происхождение указано как слияние моделей. Репозиторий содержит веса safetensors, лицензия — Apache-2.0. Модель предназначена для генерации и исправления кода, выполнения одношаговых агентных задач и ответов в диалоге. Карточка заявляет сохранение заданной идентичности без системного промпта и приводит внутренние результаты бенчмарков; эти заявления не являются независимой оценкой. В метаданных указан английский язык. Базовая Gemma 4 Unified мультимодальна, однако карточка этой модели описывает прежде всего кодовые и текстовые сценарии, поэтому дополнительные модальности здесь не заявлены. Автор называет модель экспериментальным исследовательским proof of concept и предоставляет её «как есть» для образовательного и исследовательского использования. Упоминаются версии GGUF Q4_K_M и Q8_0 и запуск на системах с 8 ГБ RAM, но в метаданных репозитория формат указан как safetensors; доступность квантованных файлов в этом репозитории из предоставленных сведений не следует. Заявленные результаты могут зависеть от промпта, среды и выбранной версии весов.

Sparse-Llama-3.1-8B-2of4 — разреженная версия Llama-3.1-8B, разработанная Neural Magic. Это авторегрессионная языковая модель с 2:4 структурированной разреженностью: в каждой группе из четырёх весов сохраняются два. Линейные операторы в блоках трансформера были прорежены с помощью SparseGPT, затем модель дообучали с дистилляцией знаний на 13 млрд токенов, чтобы восстановить качество. Размер модели — 7,5 млрд параметров, контекст — до 131 072 токенов; она принимает и генерирует текст. Модель предназначена для генерации текста и развёртывания языковых моделей с более эффективным использованием вычислений и памяти. README сообщает о результатах на OpenLLM и Mosaic Eval Gauntlet, близких к плотной версии Llama-3.1-8B, и описывает развёртывание через vLLM. Базовая модель поддерживает восемь языков, однако карточка не перечисляет их по отдельности. Лицензия — llama3.1; применение должно соответствовать её условиям.

Trinity-2-Codestral-22B-GGUF — это набор GGUF-квантизаций базовой текстогенеративной модели Trinity-2-Codestral-22B, разработанной migtissera и квантизированной bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и, судя по названию Codestral, ориентирована прежде всего на задачи, связанные с программным кодом, однако подробные сведения о специализации, обучении и результатах тестирования в README отсутствуют. Доступны варианты от полного F32 размером 88,99 ГБ до низкобитных IQ2_M размером 7,62 ГБ. Наиболее качественными и рекомендуемыми названы варианты Q6_K_L, Q6_K, Q5_K_L, Q5_K_M, Q5_K_S и Q4_K; некоторые версии используют Q8_0 для embedding- и output-весов. Модель работает в формате GGUF через llama.cpp и может запускаться, в частности, в LM Studio. Указан шаблон prompt с ролями system, user и assistant. Данные о поддерживаемых языках, размере контекста, архитектуре, модальностях и конкретных сильных сторонах не приведены. Лицензия обозначена как other, без дополнительных условий в README.

Darkfibre публикует VibeThinker-3B-Ablated — производную компактной плотной языковой модели VibeThinker-3B на базе Qwen2.5-Coder-3B. По карточке, в модели проекцией удалено направление отказа на 11-м слое; заявленная цель изменения — ослабить автоматические отказы в ответах. Модель предназначена для диалогов, рассуждений, математики и программирования. Модель построена на архитектуре Qwen2, содержит 3,1 млрд параметров и поддерживает контекст до 131 072 токенов. Карточка заявляет высокие результаты на тестах по математике и программированию, однако это утверждения автора; независимая проверка в предоставленных данных не описана. Доступны веса в формате Safetensors, запуск предусмотрен через Transformers. Лицензия — Apache-2.0.

airoboros-33b-gpt4-1.3 — плотная авторегрессионная модель семейства LLaMA на 32,3 млрд параметров, разработанная Jon Durbin и дообученная методом QLoRA на синтетических данных, созданных GPT-4. Она предназначена для генерации текста в формате диалога и выполнения инструкций, включая задачи на рассуждение и программирование. В обучающий набор вошли инструкции в стиле Orca с рассуждением перед ответом, варианты запросов на программирование в формате PLAINFORMAT и экспериментальные многоходовые взаимодействия с действиями и репликами персонажей. Модель использует шаблон диалога на основе Vicuna; в карточке указан контекст длиной 2048 токенов. Доступны веса PyTorch. Автор предупреждает, что в версии есть проблемы и рекомендует использовать её на свой риск либо дождаться версии 1.4. Модель лицензирована по CC BY-NC 4.0, которая ограничивает коммерческое использование.

Это пакет слоёв GGUF-модели DeepSeek-V3.2-UD-Q4_K_XL, подготовленный Mesh LLM для распределённого запуска. Он основан на unsloth/DeepSeek-V3.2-GGUF и сохраняет её веса в отдельных артефактах по слоям; вариант квантования — UD-Q4_K_XL. Пакет предназначен для локального и приватного чат-инференса, в том числе на нескольких машинах, когда полная модель не помещается на одном узле. Через Mesh LLM он поддерживает подачу запросов на генерацию текста и совместимый с OpenAI интерфейс chat completions. В метаданных указана библиотека mesh-llm; исходная карточка модели содержит дополнительные сведения об архитектуре и условиях лицензии, которых в предоставленных данных нет.

Это дообученная модель Gemma 4 E2B IT, созданная armand0e на базе unsloth/gemma-4-E2B-it с помощью Unsloth и библиотеки TRL. Она предназначена для диалогового взаимодействия и представлена как дистилляция рассуждений Claude Opus; README сообщает об ускоренном обучении, но не описывает обучающие данные или методику дистилляции. Модель относится к семейству Gemma 4, имеет плотную архитектуру условной генерации и опубликована в формате safetensors. Метаданные указывают на интерфейс для чата и вызова инструментов, а также на задачу any-to-any. Лицензия — Apache-2.0. Подробности о размере, контексте и поддерживаемых языках в предоставленных данных отсутствуют.

Jan-v2-VL-high — мультимодальная vision-language модель, разработанная Jan (JanHq) на базе Menlo/Jan-v2-VL-high и связанная с Qwen-3-VL-8B-Thinking. Модель содержит около 8 млрд параметров и предназначена для многошаговых задач в реальных программных средах, включая браузеры и настольные приложения. Она сочетает обработку текста и изображений, поддерживает визуальное восприятие через скриншоты и интеграцию с инструментами, а заявленный язык — английский. Основной сценарий применения — агентная автоматизация и управление пользовательским интерфейсом, где требуется выполнять длинные последовательности действий, сохранять промежуточное состояние, следовать сложным инструкциям и восстанавливаться после небольших ошибок. Версия high ориентирована на более глубокое рассуждение и обеспечивает более длительное время обработки по сравнению с вариантами low и med. По данным README, модель сохраняет уровень базовой модели на стандартных текстовых и визуальных задачах и показывает более сильное выполнение длинных цепочек действий. К ограничениям относятся повышенная задержка и время рассуждения, характерные для версии high, а также отсутствие в README точного размера контекстного окна и подробных количественных результатов. Модель распространяется по лицензии Apache 2.0 и поддерживает локальный запуск через Jan App, vLLM и llama.cpp; для работы с изображениями в llama.cpp требуется отдельная vision-модель.

Agnuxo публикует эту инструктивную модель для генерации кода и локального использования. По метаданным это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM и примерно 7,5 млрд параметров; README называет её версией Meta Llama 3.1 8B Instruct и описывает запуск через Ollama или Transformers. Указан контекст до 131 072 токенов, а файлы представлены в формате safetensors. Модель предназначена для диалога о программировании и генерации кода: в README перечислены Python, JavaScript, TypeScript, Rust, Go и C++, а также научные вычисления с NumPy, SciPy и Pandas и машинное обучение с PyTorch, TensorFlow и JAX. Метаданные указывают английский и испанский языки, а также интерфейс для вызова инструментов. README заявляет о локальной работе и перенаправлении запросов на написание научных статей в экосистему P2PCLAW; такие заявления не подтверждены приведёнными метаданными. Лицензия — Apache-2.0.

NoemaAI-labs выпустила Noema 1.5 2B MLX BF16 — конвертированную для MLX версию модели Noema 1.5 2B. Это плотная причинно-языковая модель семейства Qwen3.5 с 1,7 млрд параметров, предназначенная для генерации текста, диалогов, следования инструкциям, рассуждений и коротких фрагментов кода. Версия сохраняет веса в BF16 без квантизации и поддерживает контекст до 262 144 токенов; пакет подготовлен для запуска через MLX-LM на совместимом оборудовании Apple. Модель подходит для локального ассистента, ответов на инструкции, многоходового общения и генерации кода, например функций на Python. В метаданных указан английский язык. Репозиторий предоставляет веса для скачивания, но не предоставляет открытую лицензию, поэтому условия использования следует уточнить у разработчика перед применением.