II.2Создание и понимание программного кода

zeromodels представляет конверсию модели facebook/dinov3-convnext-large-pretrain-lvd1689m в формате Keras 3. Это самообученный зрительный экстрактор признаков на архитектуре ConvNeXt Large, предназначенный для использования как backbone с последующими задачами компьютерного зрения, а не как готовая модель с отдельной классификационной головой. Модель принимает изображения и выдаёт визуальные признаки для downstream-моделей и задач, таких как поиск, классификация и сегментация. Реализация работает с TensorFlow, Torch и JAX через Keras 3. Для обработки входов предусмотрена нормализация изображений; процессор нормализует их, поэтому при его использовании следует отключить встроенную нормализацию. Веса связаны с лицензией DINOv3 Meta; в метаданных указана лицензия other, а README отсылает к условиям DINOv3.

Falcon3-1B-Base — базовая предварительно обученная языковая модель семейства Falcon3, разработанная Technology Innovation Institute. Это плотный авторегрессионный Transformer-декодер с 18 блоками, архитектурой LlamaForCausalLM, Grouped Query Attention, SwiGLU и RMSNorm; размер модели — 1,4 млрд параметров, словарь содержит 131 тысячу токенов, контекст — до 4096 токенов. Модель создана на основе более крупной Falcon3-3B: её уменьшили по глубине, ширине, числу голов и размеру эмбеддингов, а затем обучили с дистилляцией знаний. Модель предназначена для продолжения обучения и адаптации, а не для непосредственного использования как готового чат-бота. После дообучения её можно применять для генерации текста, рассуждений, понимания языка, инструкций, кода и математических задач на английском, французском, испанском и португальском языках. Веса опубликованы в формате safetensors для Transformers. Лицензия — TII Falcon-LLM License 2.0. Карточка рекомендует дополнительно обучать модель с помощью SFT, RLHF или продолжения предварительного обучения для большинства сценариев; без такой адаптации ответы на пользовательские инструкции могут быть ненадёжными.

Gemma4-12B-IT-Abliterated — это производная от Google Gemma 4-12B-IT модель DuoNeural для генерации текста в диалоговом и инструкционном режиме. Веса изменены методом abliteration: к матрицам выходов внимания и MLP в 48 слоях применена ортогональная проекция, ослабляющая направление отказа. Модель предназначена для исследований, red teaming, проверок безопасности и творческих сценариев, где мешают отказы исходной модели. Архитектура — плотный декодер Gemma 4 Unified с 48 слоями и контекстом 131 072 токена. Карточка также описывает мультимодальную основу с поддержкой изображений и аудио, однако основная задача репозитория — text-generation. Указаны английский язык и лицензия Apache-2.0. По результатам тестов автора модель сохраняла ответы на проверенные безвредные запросы и выполняла часть запросов, которым базовая модель отказывала; это не гарантирует такого поведения на других запросах. Ослабление отказов повышает риск выдачи нежелательного или вредоносного текста. Веса опубликованы в формате safetensors.

Это набор GGUF-квантизаций модели grimjim/Llama-3.1-8B-Instruct-abliterated_via_adapter, опубликованный и подготовленный для квантизации командой featherless-ai-quants. Модель относится к классу text-generation и предназначена для генерации текста и выполнения инструкций в совместимых средах, поддерживающих формат GGUF. В README не указаны конкретные прикладные сценарии, результаты оценки или дополнительные сведения об исходной разработке модели. В основе лежит Llama 3.1 с 8 миллиардами параметров и адаптерной модификацией, обозначенной как abliterated_via_adapter. Доступны варианты квантизации IQ4_XS, Q2_K, Q3_K_L, Q3_K_M, Q3_K_S, Q4_K_M, Q4_K_S, Q5_K_M, Q5_K_S, Q6_K и Q8_0; их размер составляет примерно от 3,0 до 8,1 ГБ. Квантизация позволяет выбирать компромисс между размером файлов и сохранением качества, однако README не содержит точных характеристик производительности, поддерживаемых языков, модальностей или длины контекста. Преимущество набора — наличие множества вариантов GGUF для запуска модели на разных конфигурациях оборудования и в локальных инструментах, совместимых с этим форматом. Ограничения и особенности поведения, связанные с abliterated-модификацией, в README не описаны и требуют самостоятельной проверки. Лицензия для этой модели или набора квантизаций не указана.

GRPO-Instruct-7B — языковая модель-верификатор кода, разработанная институтом INSAIT и дообученная на базе Qwen/Qwen2.5-7B-Instruct с помощью GRPO и обучения с проверяемыми наградами (RLVR). Модель получает условие задачи по программированию и несколько кандидатных решений, выносит вердикт и ранжирует решения по корректности. При обучении использовались отрицательные примеры, но модель не формирует промежуточные рассуждения и сразу выдаёт оценку. Модель рассчитана на проверку кода в задачах соревновательного программирования и может применяться как оценщик или функция вознаграждения в контурах оптимизации генерации кода. Обучающие примеры связывают задачи с кандидатами на Python, C++ и Java; это не означает, что модель генерирует код на этих языках. Архитектура — плотная Qwen2ForCausalLM на 7,1 млрд параметров, формат весов — safetensors, длина контекста — до 32 768 токенов. Для точного формата запроса требуется следовать шаблону из проекта. Модель является исследовательским результатом и подходит для экспериментов с автоматической проверкой и ранжированием решений; качество за пределами описанного сценария не установлено. Лицензия CC BY-NC-SA 4.0 разрешает использование с указанием авторства и на условиях распространения производных материалов по той же лицензии, но запрещает коммерческое использование.

gWorld-8B — открытая модель Trillion Labs для моделирования состояния мобильного графического интерфейса. Она дообучена на базе Qwen/Qwen3-VL-8B-Instruct и предназначена для мобильных GUI-агентов: получает скриншот экрана и действие пользователя, затем предсказывает следующее состояние интерфейса. Модель сначала формирует рассуждение о переходе, а затем выдаёт визуализируемый HTML/CSS-код вместо изображения. Такой подход сохраняет чёткость текста и структуру макета. В README заявлены точность Instruction Accuracy на 45,7% выше базовой Qwen3-VL и частота ошибок визуализации менее 1%. Метаданные указывают архитектуру Qwen3-VL, 8 млрд параметров у базовой модели, поддержку изображений и диалога, а также языки английский и корейский. Для запуска в README предлагается vLLM; для рендеринга кода требуется отдельная среда. Модель опубликована под лицензией Apache-2.0. Она рассчитана на предсказание переходов в мобильных интерфейсах и не является универсальным генератором изображений; качество зависит от корректного скриншота, описания действия и выполнения сгенерированного HTML/CSS.

KielGen-Codex-4B-Validation-GGUF — это квантизированное распространение модели KielGen-Codex, разработанной командой kiel2 и подготовленной в формате GGUF пользователем mradermacher. Модель предназначена для генерации текста и понимания изображений в мультимодальных сценариях; в метаданных она связана с архитектурой Qwen3-VL и библиотекой Transformers. Заявленный язык — английский. Доступны варианты с разными уровнями квантизации: от Q2_K размером около 1,8 ГБ до Q8_0 размером около 4,4 ГБ, а также версия f16 размером около 8,2 ГБ. Для обработки изображений предоставляются отдельные мультимодальные модули mmproj в форматах Q8_0 и f16. Для быстрого запуска рекомендуются варианты Q4_K_S и Q4_K_M, для более высокого качества — Q6_K и Q8_0; f16 обозначен как избыточный по объёму. Модель подходит для локального запуска в приложениях, поддерживающих GGUF, включая задачи текстовой генерации и анализа изображений. README не содержит сведений о размере контекста, точной архитектуре, результатах тестирования, ограничениях качества или специализированных сценариях применения, поэтому эти характеристики нельзя оценить по представленным данным. Указана лицензия MIT; квантизация выполнена mradermacher.

d-Matrix LLAMA3-8B — функциональная эталонная реализация языковой модели семейства Llama с плотной архитектурой и примерно 7,5 млрд параметров. Репозиторий предоставляет конфигурацию BASELINE, функционально эквивалентную исходной модели, и конфигурацию BASIC, в которой операнды линейной алгебры квантизованы до MXINT8-64. Веса опубликованы в формате safetensors; контекст модели составляет 8192 токена. Модель предназначена для генерации текста. Для работы с реализацией d-Matrix README указывает на библиотеку Dmx_Compressor. В карточке не указаны специальные языки или прикладные области, а также условия лицензии; поэтому конкретные ограничения на использование определить нельзя.

Mistral-22B-v0.1 — экспериментальная плотная языковая модель на 22 млрд параметров, созданная Nicolas Mejia-Petit. Автор описывает её как преобразование знаний Mixtral-8x-22B из архитектуры Mixture of Experts в одну плотную модель, а также сообщает о дообучении на 500 примерах вопросов и ответов и 500 примерах с Python. Модель предназначена для генерации текста и диалогов; среди заявленных возможностей — решение математических задач, хотя автор отмечает, что на математических данных её не обучали. Модель использует архитектуру MistralForCausalLM, принимает текст и поддерживает контекст до 65 536 токенов. Карточка характеризует выпуск как ранний эксперимент и предупреждает, что от него не следует ожидать высокого качества. Языки обучения или поддержки в карточке не определены. Веса опубликованы в формате safetensors по лицензии Apache-2.0.

Nemotron-Super-49B-v1.5 Uncensored GGUF — это версия модели NVIDIA Llama-3.3-Nemotron-Super-49B-v1_5, подготовленная и квантизированная пользователем timteh673. Модель предназначена для генерации текста и диалоговых сценариев, включая задачи, в которых требуется отвечать на запросы без исходных защитных ограничений. Она распространяется в формате GGUF для запуска через llama.cpp и совместимых инструментов, включая Ollama. Модель содержит около 49 млрд параметров и использует архитектуру DeciLM — оптимизированный с помощью NAS вариант Llama 3.3 с переменной конфигурацией механизмов внимания и FFN по слоям. Заявленный контекст составляет до 128 тысяч токенов, основной язык — английский. Доступны варианты от BF16 до сильно сжатых Q2_K; рекомендованный автором Q4_K_M занимает около 29 ГБ и ориентирован на запуск на GPU с 32 ГБ памяти. Для менее сжатых вариантов требуется от 48 до 96 и более ГБ видеопамяти. Ключевая особенность релиза — удаление направлений отказа из остаточного потока методом representation engineering, также называемым abliteration. По заявлению автора, при этом не выполнялось дообучение, а изменялись 127 весовых тензоров в слоях модели. Это может повысить готовность модели отвечать на широкий спектр запросов, но одновременно устраняет защитные барьеры и увеличивает риск генерации вредного или небезопасного содержания. Практическое качество зависит от выбранного уровня квантизации и доступного оборудования. Модель распространяется по лицензии Llama 3.3 Community License. Автор указывает, что релиз предназначен для исследований и разработки; ответственность за соблюдение законов и безопасное применение лежит на пользователе.

Qwen3.8-27B-Uncensored-Cyber-GGUF — это квантизированная версия модели HFCK99/Qwen3.8-27B-Uncensored-Cyber, подготовленная mradermacher в формате GGUF. Модель относится к семейству Qwen3 и предназначена для задач генерации и обработки текста, связанных с тематикой кибербезопасности. В README также заявлена поддержка сценариев image-text-to-text с использованием отдельного мультимодального компонента mmproj. Модель содержит 27 млрд параметров и доступна в нескольких вариантах квантизации от Q2_K до Q8_0, включая IQ4_XS. Размер файлов составляет примерно от 11 до 29,1 ГБ, а для мультимодальной обработки используются дополнительные файлы mmproj размером 0,7 или 1,0 ГБ. Указан английский язык. Контекстное окно и точные архитектурные характеристики в README не приведены. Разные уровни квантизации позволяют выбирать между требованиями к памяти, скоростью и качеством; автор рекомендует варианты Q4_K_S и Q4_K_M как быстрые, а Q8_0 отмечен как вариант с лучшим качеством. При этом низкие уровни квантизации могут заметно снижать качество ответов, а для мультимодальных сценариев требуется отдельный mmproj-файл. Лицензия модели — Apache-2.0.

RAFT-7B — языковая модель-верификатор кода, разработанная институтом INSAIT в рамках проекта Aletheia. Она принимает условие задачи по соревновательному программированию и несколько кандидатных решений, оценивает их и ранжирует по корректности. Модель предназначена для выбора решений и использования в качестве функции вознаграждения при оптимизации моделей генерации кода. Это плотная авторегрессионная модель семейства Qwen2 на 7,1 млрд параметров, дообученная методом on-policy rejection sampling на положительных примерах рассуждений из INSAIT-Institute/Aletheia-Train. В основе лежит deepseek-ai/DeepSeek-R1-Distill-Qwen-7B. Контекст составляет до 131 072 токенов. Карточка описывает сценарии проверки кода; отдельная поддержка естественных языков не заявлена. Датасет содержит задачи и решения на Python, C++ и Java, но это не означает, что языки программирования являются языками общения модели. RAFT-7B подходит для автоматического ранжирования предложенных программ и оценки кода в конвейерах обучения и тестирования. Её область применения уже, чем у универсальных чат-моделей: для проверки нужны условие задачи и кандидатные решения в ожидаемом форматом промпта виде. Лицензия CC-BY-NC-SA-4.0 ограничивает коммерческое использование и требует соблюдения условий атрибуции и распространения производных материалов.

Raptor 0.6.1 preview — дообученная OsaurusAI версия языковой модели XHToken/Spark-X2.5-4B, рассчитанная на работу в агентной среде Osaurus. Она помогает решать, когда отвечать без инструментов, когда вызывать инструмент, какой инструмент выбрать, как обработать ошибку и когда запросить уточнение или передать работу субагенту. Модель поддерживает диалог, рассуждения и вызов инструментов; её архитектура — плотная авторегрессионная Spark2_5ForCausalLM с 3,8 млрд параметров и контекстом до 1 048 576 токенов. В репозитории размещены веса safetensors, подготовленные в формате JANG_6M: внимание и связанные эмбеддинги представлены в 8 бит, MLP — в 6 бит, с калибровкой AWQ, GPTQ и imatrix для запуска на Apple Silicon через Osaurus. Модель обучена методом LoRA SFT на примерах решений из Osaurus и отличается от Raptor 0.6 дообучением как внимания, так и MLP. В тестах авторов она показала улучшение относительно Raptor 0.6 на наборе сценариев Osaurus, а проверка квантования измеряла близость к исходным весам bf16 на англоязычных сценариях, коде и вызовах инструментов. Это предварительная версия для тестирования, которая может заменить Raptor 0.6; для запуска требуется Osaurus 0.25.14 или новее. Указана лицензия Apache-2.0.

SmolLM-1.7B-Instruct — компактная языковая модель HuggingFaceTB с 1,7 млрд параметров, созданная дообучением SmolLM-1.7B. Это плотная авторегрессионная модель семейства Llama, рассчитанная на генерацию текста и диалоговое взаимодействие. Карточка описывает версию v0.2, дообученную на наборах разговоров, инструкций и программирования; также доступна предыдущая версия v0.1. Модель предназначена для локальных приложений и ответов на стандартные запросы, творческого письма, общих вопросов и базового программирования на Python. Контекст составляет 2048 токенов. Модель ориентирована на английский язык; веса доступны в форматах Safetensors и ONNX, лицензия — Apache-2.0. Ограничения включают возможные фактические ошибки, логические несоответствия и смещения, а также слабые результаты в арифметике, редактировании текста и сложных рассуждениях. Модель может испытывать трудности с задачами за пределами английского языка; её ответы следует проверять.

Карточка модели CollectionStudio/Trinity-Mini-Base на Hugging Face совпадает с карточкой arcee-ai/Trinity-Mini-Base, поэтому описание составлено по ней. Trinity Mini Base — базовая языковая модель Arcee AI семейства Trinity, представленная как версия для дальнейшего дообучения. По README, модель имеет архитектуру AfmoeForCausalLM с 26 млрд параметров, из которых активны 3 млрд; используется разреженная MoE-схема со 128 экспертами, 8 активными и одним общим. Метаданные каталога указывают 1,9 млрд параметров, поэтому размер в источниках расходится. Контекст составляет до 131 072 токенов. Модель предназначена для генерации текста и последующего обучения под конкретные задачи или предметную область; README предупреждает, что исходная версия не подходит для диалога без дообучения. Обучение проведено на 10 трлн токенов с дополнительным материалом по математике и программированию. В карточке перечислены английский, испанский, французский, немецкий, итальянский, португальский, русский, арабский, хинди, корейский и китайский языки. Лицензия — OpenMDW-1.1 по README, а метаданные обозначают её как other.

Vinci-Cyber-8B-1.0 — дообученная SimpleDirect модель на базе IBM Granite-4.1-8B для диалогового помощника в сценариях защитной безопасности инфраструктуры. Она предназначена для анализа конфигураций и диагностического контекста и предложения исправления либо обоснованного отказа от изменений, в том числе при работе с инфраструктурой как кодом. Модель построена на плотной архитектуре GraniteForCausalLM, содержит 8,4 млрд параметров, принимает текст и поддерживает контекст до 131 072 токенов. Карточка указывает лицензию Apache-2.0. В ограниченной внутренней проверке исходной BF16-модели она предложила 4 проверенных исправления из 8 случаев и верно оставила без изменений 22 чистых файла из 22. Эти результаты получены на панели, по которой выбирали чекпойнт, а проверяющий инструмент имел известные недостатки; как минимум одно из засчитанных исправлений не устраняло проблему безопасности. Результаты не подтверждают надёжность обнаружения уязвимостей, переносимость на GGUF или пригодность к автономному применению. Предложения и решения об отсутствии изменений требуют независимой проверки человеком, а разбор конфигураций, проверки безопасности, регрессионные тесты и утверждение изменений должны оставаться вне контроля модели.

Карточка модели Salesforce/xLAM-2-32b-fc-r на Hugging Face совпадает с карточкой Salesforce/Llama-xLAM-2-8b-fc-r, поэтому описание составлено по ней. Salesforce Llama-xLAM-2-8b-fc-r — языковая модель семейства xLAM-2, разработанная Salesforce на архитектуре Llama и дообученная для многоходового диалога и вызова функций. Она предназначена для агентных систем, которым нужно преобразовывать запросы пользователя в структурированные вызовы инструментов и последовательно выполнять задачи. Модель содержит 7,5 млрд параметров, принимает текст и выдаёт текст, включая инструкции и вызовы инструментов; заявленная длина контекста — 131 072 токена. Для работы доступны Transformers и vLLM. Модель обучалась с использованием данных APIGen-MT и наборов Salesforce для вызова функций. Карточка семейства заявляет высокие результаты на BFCL и τ-bench, однако приведённые конкретные цифры относятся к модели на 70 млрд параметров и не подтверждают такие же результаты для версии 8B. Выпуск обозначен как исследовательский, а модель ориентирована прежде всего на англоязычное взаимодействие. Лицензия CC BY-NC 4.0 ограничивает коммерческое использование.

Это объединённый чекпойнт, созданный пакетом экспериментов Delta-P2S. В метаданных модель отнесена к семейству Gemma 2; её архитектура — плотная причинная языковая модель Gemma2ForCausalLM с 9 млрд параметров и контекстом до 8192 токенов. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Модель предназначена для генерации текста. README указывает на экспериментальное происхождение чекпойнта и на связанный с ним запуск CodeGemma 7B → Gemma 2 9B, но не описывает конкретные сценарии применения или качество результатов. Сведений о поддерживаемых естественных языках и лицензии в предоставленных данных нет.

Dolphin3-Cyber-8B-GGUF — языковая модель для задач кибербезопасности, разработанная на базе Dolphin3.0-Llama3.1-8B-abliterated и опубликованная ScottzillaSystems; квантованные версии подготовлены RavichandranJ. Модель дообучена на специализированных данных по информационной безопасности и ориентирована на offensive и defensive security, поиск уязвимостей, разработку эксплойтов, пентестинг, red teaming, blue teaming, CTF и bug bounty. Модель содержит 8 млрд параметров, использует архитектуру Llama 3.1 и распространяется в формате GGUF для локального запуска через llama.cpp и совместимые инструменты. Указан английский язык; поддерживается диалоговый режим с шаблоном Dolphin3 и Llama 3.1. Доступны варианты квантования от Q2_K размером около 3,18 ГБ до F16 размером около 16,1 ГБ, что позволяет запускать её на потребительском оборудовании, включая конфигурации примерно от 4 ГБ видеопамяти. Размер контекста в предоставленном фрагменте README не указан. Сильные стороны модели — специализация на кибербезопасности, локальная обработка данных без обязательного обращения к облачным API и широкий выбор квантований. При этом заявленная abliterated- и uncensored-настройка означает отсутствие стандартных ограничений на обсуждение потенциально опасных техник, поэтому результаты требуют проверки специалистом и безопасного, законного применения. README также не приводит независимых результатов бенчмарков в представленном фрагменте. Лицензия указана как Llama 3.1.

Dolphin3-Cyber-8B-GGUF — специализированная большая языковая модель для задач кибербезопасности, дообученная на базе Dolphin3.0-Llama3.1-8B-abliterated. Модель подготовлена и квантована RavichandranJ; заявленная архитектура основана на Llama 3.1, размер — 8 млрд параметров. Она распространяется в формате GGUF и предназначена для локального запуска через llama.cpp и совместимые приложения. Модель ориентирована на наступательную и защитную безопасность, поиск уязвимостей, пентестинг, разработку эксплойтов, анализ OWASP Top 10, MITRE ATT&CK, CVE и методологий информационной безопасности. Поддерживается текстовое многоходовое общение на английском языке с использованием шаблона чата Dolphin3/Llama 3.1. Доступно 11 вариантов квантования от Q2_K размером около 3,18 ГБ до F16 размером около 16,1 ГБ, что позволяет запускать модель на потребительском оборудовании; для работы требуется примерно от 5,5 до 18,5 ГБ RAM в зависимости от варианта. К сильным сторонам относятся специализация на кибербезопасности, локальная обработка данных без передачи на внешние серверы, поддержка широкого диапазона квантований и отсутствие заявленных отказов от обсуждения наступательных техник. При этом модель имеет ограничения, связанные с компактным размером 8B, квантованием и потенциальной неточностью генерируемых рекомендаций или кода; результаты требуют проверки специалистом и должны использоваться только в законных и санкционированных сценариях. Лицензия указана как Llama 3.1.

DroidDetect-Base — классификатор кода, разработанный project-droid и дообученный на answerdotai/ModernBERT-base на датасете DroidCollection. Он относит фрагменты кода к одному из четырёх классов: написан человеком, сгенерирован машиной, доработан ИИ или создан с применением состязательных методов. Модель предназначена для выявления кода, связанного с генеративным ИИ, и различения его типов. При обучении использовались Cross-Entropy Loss и Batch-Hard Triplet Loss: дополнительная контрастивная составляющая помогает разделять представления человеческого и машинного кода. Модель принимает текст кода и выдаёт метку класса. Репозиторий содержит веса в формате PyTorch; лицензия — Apache-2.0. Надёжность классификации для разных языков программирования и устойчивость к новым способам маскировки в предоставленных данных не оценены.

Gemma4-12B-Uncensored-GGUF — это GGUF-версия модели toandev/Gemma4-12B-Uncensored, разработанная Toan Doan на основе google/gemma-4-12B-it. Модель предназначена для локального запуска в совместимых с llama.cpp средах и исследовательских или контролируемых сценариев оценки. Релиз включает квантованную языковую модель Gemma 4 с 12 млрд параметров в формате Q4_K_M и отдельный мультимодальный проектор в формате BF16. При совместном использовании модель поддерживает обработку изображений и генерацию текста по визуальному контексту; README также указывает на поддержку аудиоконтекстов в режиме unified inference. Для корректной работы требуется современная сборка llama.cpp, а мультимодальная поддержка находится в активной разработке. Заявленный контекст и полный перечень поддерживаемых языков в README не указаны. К сильным сторонам относятся возможность локального запуска, практичная для инференса квантизация Q4_K_M и мультимодальная обработка с использованием отдельного проектора. Ограничениями являются зависимость от актуальной версии llama.cpp, необходимость загружать два файла для мультимодальных сценариев и отсутствие подробных данных о производительности, языках и контекстном окне. Модель предназначена для исследований и контролируемой оценки. Использование регулируется лицензией Gemma и соответствующими условиями upstream-модели; также необходимо соблюдать применимые правила платформ и местное законодательство.

0xSero/GLM-5.3-Flash-EXL3-3.0bpw — квантизированная версия GLM-5.3-Flash-BF16, разработанного Z.AI. Конвертацию в selective EXL3 выполнил Dione с использованием формата и инструментов ExLlamaV3 / TurboDerp. Модель предназначена для генерации текста и запуска в средах, поддерживающих специальный selective-EXL3 TP=4 loader. Это Mixture-of-Experts-модель: в языковых слоях 3–44 квантизированы EXL3 K3-проекции gate/up/down маршрутизируемых экспертов, по 288 экспертов на слой. Остальные компоненты, включая attention, linear attention, indexers, роутеры, shared experts, плотные слои 0–2, эмбеддинги, LM head, нормы, vision и MTP, сохранены в BF16. Артефакт занимает около 149,56 ГБ и содержит 583 090 индексированных тензоров. Языки и размер контекстного окна в карточке не указаны. Преимущество релиза — существенное уменьшение точности только выбранных компонентов при сохранении остальных частей модели в BF16, а также проверенные EXL3-ядра и CUDA Graph на четырёх TP-рангах. Однако полная серверная загрузка, коллективные операции, генерация через API, vision и MTP не проверялись. На отложенной оценке perplexity выросла на 9,30% относительно BF16, что превысило консервативный порог качества, хотя совпадение top-1 составило 87,28%. Для работы требуется совместимый специализированный загрузчик; совместимость со стандартными Transformers и generic EXL3 не заявлена. Лицензия — MIT.

GLM-5.3-MLX-5bit — это сборка модели GLM-5.3 от zai-org, адаптированная PipeNetwork для MLX на компьютерах с Apple Silicon. Модель предназначена для генерации текста и локального инференса через mlx-lm. Это архитектура mixture-of-experts glm_moe_dsa с 744 млрд параметров, 256 экспертами и выбором 8 экспертов на токен. Используется MLA со sparse attention в стиле DeepSeek-V3.2. Веса квантизированы до 5 бит с размером группы 64; архитектура сохранена, но слой multi-token prediction не включён. Языки и максимальная длина контекста в README не указаны. Сильная сторона сборки — возможность запуска крупной MoE-модели в экосистеме MLX при снижении требований к памяти по сравнению с исходной точностью, а также близкое соответствие эталонной реализации на тестовой конфигурации. Для работы требуется специальный файл runtime glm_moe_dsa, поставляемый вместе с моделью, и параметр trust-remote-code. Практическое ограничение — модель требует около 768 ГБ оперативной памяти и запуска на двух машинах. Для запросов длиннее 2048 токенов 57 из 78 индексаторов используют случайно инициализированные проекции, что может ухудшать качество sparse attention. Качество 5-битной версии ниже исходной BF16: в приведённых тестах её свободно распространяющаяся ошибка выше, чем у 6- и 8-битных вариантов. Указана лицензия GLM-5.3 от исходной модели; порт MLX опубликован PipeNetwork.

DevQuasar/huihui-ai.Qwen3-30B-A3B-abliterated-GGUF — это квантизированная версия модели huihui-ai/Qwen3-30B-A3B-abliterated, разработанная и опубликованная под брендом DevQuasar. Модель относится к классу генеративных текстовых моделей и предназначена для задач text-generation. В README не указаны архитектура, точный формат и уровни квантизации, количество параметров, поддерживаемые языки, размер контекстного окна, модальности, требования к ресурсам или конкретные сценарии применения. Поэтому её характеристики и возможности нельзя описать подробнее без риска выдумать факты. Лицензия и условия использования в README не указаны. Также отсутствует информация о сильных сторонах, ограничениях и результатах тестирования модели.

Arch-Function-Chat-3B-GGUF — это GGUF-квантизированная версия языковой чат-модели Arch-Function-Chat-3B, разработанной katanemo и подготовленной квантизатором bartowski с использованием llama.cpp. Модель предназначена для генерации текста в диалоговом формате и сценариев, связанных с function calling, однако подробные сведения о реализации функций в предоставленных данных отсутствуют. Модель имеет размер 3B параметров, поддерживает английский язык и относится к текстовым моделям без заявленной поддержки дополнительных модальностей. Доступны варианты от BF16 до различных уровней квантования Q8, Q6, Q5, Q4 и Q3, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. Для запуска рекомендуются LM Studio, llama.cpp и совместимые проекты; в README приведён специальный chat-шаблон с ролями system, user и assistant. Сильной стороной модели является наличие большого выбора квантованных сборок, включая варианты с высоким качеством и уменьшенным потреблением памяти. Ограничения заключаются в небольшом размере модели, поддержке только английского языка в заявленных метаданных и отсутствии данных о размере контекста, архитектуре, результатах тестирования и фактических возможностях function calling. Указана лицензия katanemo-research; подробные условия доступны в лицензии исходной модели.

MegaMath-Llama-3.2-3B — экспериментальная языковая модель семейства Llama 3.2, разработанная как proof-of-concept и обученная на наборе данных LLM360/MegaMath. Она предназначена для решения математических задач с пошаговыми рассуждениями Chain-of-Thought и программно-опосредованным подходом Program-Aided Language (PAL). Модель имеет плотную архитектуру LlamaForCausalLM и 3,2 млрд параметров, принимает и генерирует текст. Указанная длина контекста — 131 072 токена. В метаданных указан английский язык. Модель опубликована в формате safetensors и распространяется по лицензии Llama 3.2.

MiniCPM5-1B-Agentic-Tooluse-v3-GGUF — компактная языковая модель для вызова функций и использования внешних инструментов, разработанная на базе openbmb/MiniCPM5-1B. Модель дообучена с применением QLoRA supervised fine-tuning и GRPO reinforcement learning, а опубликованные веса представлены в формате GGUF для локального запуска через llama.cpp, Ollama, LM Studio и совместимые приложения. Модель содержит около 1 млрд параметров и предназначена для сценариев, где необходимо обработать схему инструментов и запрос пользователя, выбрать подходящую функцию и сформировать структурированный вызов с именем функции и аргументами. Она подходит для локальных AI-агентов, интеграций с API, MCP-серверов, ReAct-циклов, автоматизации дома и приложений, требующих работы офлайн на CPU. Указан английский язык и задача генерации текста. На закрытой выборке из 300 примеров ToolACE модель достигла parseable tool-call rate 100%, valid available-tool name rate 98,67%, expected tool-name rate 95,33%, exact-arguments rate 74,67% и arg-key overlap 93,88%. Эти результаты показывают сильную способность формировать разбираемые вызовы и корректно выбирать инструменты, однако точность полного совпадения аргументов ограничена, а показатель clean stopping в опубликованной оценке равен 0%. Данные бенчмарка относятся к конкретному тестовому набору и не гарантируют аналогичную эффективность во всех сценариях. Модель распространяется по лицензии Apache-2.0. GGUF-квантизация позволяет использовать её на локальных устройствах, включая компьютеры и маломощные системы, однако README не указывает точные размеры контекста, доступные варианты квантования или требования к памяти.

MiniCPM5-2B-Abliterated-Uncensored-GGUF — это GGUF-версия языковой модели MiniCPM5 с 2 млрд параметров, созданная пользователем 0xSojalSec на основе openbmb/MiniCPM5-2B и преобразованная методом abliteration. Модель предназначена для генерации текста, включая локальное использование на устройствах и edge-системах; в метаданных также заявлена поддержка сценариев tool-calling. Указаны английский и китайский языки. Модель относится к текстовым генеративным моделям и распространяется в формате GGUF, ориентированном на запуск с совместимыми локальными средствами инференса. Подробности об архитектуре, размере контекста, конкретных требованиях к памяти и доступных вариантах квантизации в README не приведены. Обозначение «uncensored» указывает на удаление или ослабление части ограничений безопасности методом abliteration, поэтому поведение модели и надежность защитных механизмов могут отличаться от исходной модели. Лицензия — Apache-2.0. README не содержит подробного описания качества, бенчмарков, ограничений, автора метода abliteration или точных условий использования, поэтому эти характеристики нельзя достоверно оценить по предоставленным данным.

Карточка модели Muse-research/Muse2-125M-Base на Hugging Face совпадает с карточкой Muse-research/Muse2-125M, поэтому описание составлено по ней. Muse2-125M — компактная авторегрессионная языковая модель Muse Research с 135,3 млн параметров. В репозитории представлена версия Instruct, дообученная методом SFT с маскированием потерь для токенов вне ответа; RLHF и DPO не применялись. Архитектура Muse2 реализована на PyTorch с нуля и сочетает свёрточные блоки и полное внимание: 7 причинных depthwise-свёрток чередуются с 5 блоками внимания, используется grouped-query attention. Заявленный контекст — до 128 тысяч токенов, при этом карточка указывает 8 тысяч как базовую длину. Модель рассчитана на английский текст, включая код и математические записи. Её предполагаемые сценарии — изучение компактных гибридных архитектур, локальный запуск на устройствах с ограниченными ресурсами, извлечение структурированных данных в JSON и дальнейшее дообучение. Для диалоговых задач она может служить небольшим ассистентом, когда важнее компактность, чем фактическая надёжность. Лицензия весов — Apache-2.0. Это исследовательская модель без safety fine-tuning, red-teaming и фильтрации контента. Проверки возможностей и безопасности ограничены качественной оценкой; модель может выдавать неточные, предвзятые, повторяющиеся или нежелательные ответы и часто галлюцинирует. Разработчик не рекомендует полагаться на неё в критичных, медицинских, юридических или иных требующих точности сценариях без собственной оценки и защитных механизмов.