II.2Создание и понимание программного кода

Meta-Llama-3-8b-Lexi-Uninstruct-function-calling-json-mode-Task-Arithmetic-v0.1 — объединённая модель на архитектуре Llama, созданная с помощью LazyMergekit из четырёх моделей: hiieu/Meta-Llama-3-8B-Instruct-function-calling-json-mode, Orenguteng/Lexi-Llama-3-8B-Uncensored, NousResearch/Meta-Llama-3-8B и NousResearch/Meta-Llama-3-8B-Instruct. Модель содержит 7,5 млрд параметров и имеет контекст до 8192 токенов. Это разговорная языковая модель для генерации текста; состав исходных моделей указывает на сочетание инструктивного диалога, вызова функций и JSON-форматирования с возможностью генерации uncensored-контента. Подходит для диалоговых приложений и задач, где нужны структурированные ответы или вызов инструментов. Карточка не приводит результатов оценки качества и подробных рекомендаций по использованию. Лицензия в предоставленных данных не указана.

MiniMax-M2.7-JANG_2L — квантованная версия MiniMax-M2.7, подготовленная Jinho Jang для запуска на компьютерах Apple Silicon через MLX и vMLX. Это диалоговая MoE-модель для генерации текста; в README указаны 228,7 млрд общих параметров и смешанная точность около 2,10 бита. Для внимания и выходного слоя сохранена точность 8 бит, для эмбеддингов — 6 бит, а большая часть экспертных MLP сжата до 2 бит; маршрутизатор экспертов оставлен в float16. Метаданные каталога указывают 2,9 млрд параметров, что расходится с размером, заявленным в README. Модель предназначена для диалогов и задач рассуждения, а также может использовать вызов инструментов в совместимых клиентах. Контекстное окно — 196 608 токенов. Для запуска требуются MLX и Mac с Apple Silicon и не менее 96 ГБ объединённой памяти; автор рекомендует MLX Studio. В README указано, что температура 1,0 обязательна, поскольку жадная генерация может зациклить рассуждения. Бенчмарки M2.7 ещё не опубликованы, а заявление о превосходстве JANG над обычной квантизацией MLX основано на результатах для M2.5. Лицензия в метаданных обозначена как other; README разрешает исследовательское и личное использование и возлагает ответственность за соблюдение лицензии MiniMax на пользователя.

OpenPipe mistral-ft-optimized-1227 — это объединённая модель на архитектуре Mistral для генерации текста и последующего дообучения под прикладные задачи. Она создана OpenPipe методом иерархического слияния SLERP моделей teknium/OpenHermes-2.5-Mistral-7B, Intel/neural-chat-7b-v3-3, meta-math/MetaMath-Mistral-7B и openchat/openchat-3.5-1210. Веса опубликованы в формате safetensors; размер модели — 7,1 млрд параметров, контекст — до 32 768 токенов. Модель позиционируется как сильная отправная точка для дообучения под разные задачи, а также может использоваться для генерации текста, диалогов и ответов на математические вопросы благодаря входящим в слияние моделям. Разработчик сообщает о внутренних оценках, но количественные результаты в карточке не приведены. Модель лицензирована по Apache-2.0.

cloudyu/Mixtral_7Bx4_MOE_24B — языковая модель Cloudyu для генерации текста, построенная на архитектуре Mixtral с разреженной смесью экспертов (MoE). В README указано, что модель создана с помощью mergekit путём объединения пяти моделей на базе Mistral 7B: Q-bert/MetaMath-Cybertron-Starling, mistralai/Mistral-7B-Instruct-v0.2, teknium/Mistral-Trismegistus-7B, meta-math/MetaMath-Mistral-7B и openchat/openchat-3.5-1210. Метаданные указывают 7,1 млрд параметров и контекст до 32 768 токенов. Модель предназначена для генерации текста и ответов на запросы; README приводит результаты оценивания на ARC и HellaSwag. Для неё опубликованы веса в формате Safetensors, а лицензия CC BY-NC 4.0 ограничивает коммерческое использование. README также сообщает, что модель была улучшена с помощью DPO в отдельном репозитории cloudyu/Pluto_24B_DPO_200; это описание относится к последующей модели, а не меняет способ происхождения данного чекпойнта.

Sakalti/model-3-decem — языковая модель для генерации текста и диалогов, созданная слиянием моделей методом TIES с помощью mergekit. В качестве базовой модели указана Sakalti/model-3; в слиянии также участвовала qfq/Qwen2.5-7B-Instruct-20241204-114939. Модель построена на архитектуре Qwen2, содержит 7,1 млрд параметров и принимает текст, выдавая текст. Для работы с весами используется формат safetensors; заявленная длина контекста — 131 072 токена. Модель предназначена для диалоговых сценариев и генерации ответов, а метаданные также отмечают интерфейс вызова инструментов. В карточке не приведены сведения о языках обучения или качествах модели. Лицензия в предоставленных данных не указана.

Это квантованная сборка NVIDIA Nemotron-3-Nano-Omni-30B-A3B-Reasoning-BF16, подготовленная FreedomAISVR в формате GGUF для запуска через llama.cpp. Модель имеет гибридную архитектуру Mamba2 и Transformer с MoE: 30 млрд параметров, около 3 млрд активных, 52 слоя, включая 23 слоя Mamba2, 23 MoE-блока и 6 слоёв внимания; в MoE используются 128 экспертов и маршрутизация к шести из них. Для Mamba2-тензоров применяется F16, остальные веса хранятся в NVFP4; для обработки изображений README также описывает отдельный файл SigLIP-проектора. Модель предназначена для генерации текста и диалоговых сценариев с рассуждением. Заявленный контекст — 262 тыс. токенов. Поддержка изображений упоминается в комплекте файлов, однако метаданные классифицируют репозиторий только как text-generation. README сообщает, что CUDA-ядра Mamba2 требуют F32 и при работе с квантованными тензорами могут переводить соответствующие слои на CPU, что снижает производительность. Лицензия указана как other, без дополнительных условий в предоставленных данных.

NeuralsirkrishnaShadow_Experiment26Neuralarjuna — объединённая языковая модель семейства Mistral, созданная слиянием automerger/NeuralsirkrishnaShadow-7B и automerger/Experiment26Neuralarjuna-7B. Она предназначена для генерации текста по текстовым запросам и может использоваться в задачах, где нужен контекст до 32 768 токенов. Модель содержит 7,1 млрд параметров, использует плотную архитектуру Mistral и распространяется в формате safetensors. Репозиторий указывает лицензию Apache-2.0. Данных о специализации на конкретных языках или предметных областях нет.

Это GGUF-версия модели NVIDIA Nemotron 3 Super 120B-A12B, подготовленная DevQuasar на основе nvidia/NVIDIA-Nemotron-3-Super-120B-A12B-BF16. Репозиторий предназначен для генерации текста и диалогового использования. Модель можно применять в чат-ботах и других сценариях, требующих генерации ответов. Каталог характеризует базовую модель как языковую модель NVIDIA с гибридной архитектурой для диалога, рассуждений, длинного контекста и агентных приложений; параметры длины контекста в предоставленных данных отсутствуют. Файлы указаны в формате GGUF BF16. README называет репозиторий квантизированной версией базовой модели, хотя метаданные указывают связь finetune и формат GGUF BF16. Лицензионные условия и специальные ограничения в предоставленных данных не описаны.

TheBloke/openbuddy-mixtral-8x7b-v15.1-GGUF — это набор квантованных моделей в формате GGUF для OpenBuddy Mixtral 8X7B V15.1, разработанной командой OpenBuddy и квантованной TheBloke. Модель предназначена для генерации текста и диалогового взаимодействия с пользователем, включая ответы на вопросы, объяснение информации и выполнение общих ассистентских задач. В основе лежит архитектура Mixtral с конфигурацией 8×7B; точный размер активной части параметров и максимальная длина контекста в предоставленных данных не указаны. Модель работает с текстом и заявлена для китайского, английского, французского, немецкого, японского, корейского, итальянского и русского языков. Репозиторий содержит варианты квантования от 2 до 8 бит, что позволяет выбирать баланс между качеством, скоростью и потреблением памяти для CPU+GPU-инференса. Сильными сторонами являются многоязычность, возможность локального запуска и поддержка экосистемы llama.cpp, включая KoboldCpp, LM Studio и llama-cpp-python при соответствующих версиях. Ограничения связаны с потерями качества, возможными при низкобитном квантовании, зависимостью совместимости от используемого клиента и отсутствием доступа к интернету; в шаблоне указана отсечка знаний 2021 года. Модель распространяется по лицензии Apache-2.0.

Progenitor-LLaMa-70B — объединённая модель генерации текста, созданная автором TareksGraveyard из нескольких предварительно обученных моделей семейства Llama с помощью mergekit. В качестве базовой модели использована nbeerbower/Llama-3.1-Nemotron-lorablated-70B; в объединение также вошли модели Hanami, Negative LLAMA, Anubis, EVA-LLaMA и Cirrus. Архитектура — плотная LlamaForCausalLM, размер — 69,5 млрд параметров, формат весов — safetensors; контекст — до 131 072 токенов. Модель предназначена для диалога и генерации текста. Автор описывает её как более консервативное слияние и сообщает о хорошем результате, но считает свою более агрессивную версию Progenitor-V1.1-LLaMa-70B удачнее. Модель использует лицензию Llama 3.3; перед применением следует учитывать её условия.

Theros/Q2.5-ColdBrew-R1-Obsidian — объединённая текстовая модель, созданная с помощью mergekit методом Passthrough на основе Theros/Qwen2.5-ColdBrew-R1. Это плотная авторегрессионная модель семейства Qwen2 с архитектурой Qwen2ForCausalLM и примерно 8,7 млрд параметров. Она предназначена для генерации текста и диалогового взаимодействия, а заявленная длина контекста составляет 131072 токена. Модель распространяется в формате safetensors; условия лицензии в предоставленных данных не описаны.

JANGQ-AI/Qwen3.5-397B-A17B-JANG_1L — версия Qwen3.5-397B-A17B, подготовленная Jinho Jang с применением адаптивной смешанной квантизации JANG для запуска через MLX на компьютерах Mac с Apple Silicon. Модель имеет архитектуру MoE с гибридом GatedDeltaNet и полнослойного внимания: из 397 млрд параметров активны около 17 млрд, используются 512 экспертов на слой и top-10 активных экспертов. Профиль JANG_1L хранит экспертные MLP в 2-битном формате, а внимание, маршрутизаторы и эмбеддинги — в 8-битном; размер файлов составляет около 112 ГБ. Модель предназначена для диалогов, генерации текста и пошаговых рассуждений, а также анализа изображений. В карточке заявлена поддержка VLM и режима reasoning; приведён результат 86,5% на тесте MMLU из 200 вопросов при включённом reasoning, а также скорости генерации и обработки изображений. Для запуска требуется Mac с Apple Silicon и не менее 128 ГБ объединённой памяти, а также MLX Studio или пакет jang[mlx] версии 2.1.5 и выше. Лицензия — Apache-2.0. Это сильно сжатая производная базовой модели, поэтому качество может отличаться от исходной модели и других профилей квантизации; опубликованный результат MMLU основан на ограниченном наборе вопросов. Указанная конфигурация ориентирована на MLX и Apple Silicon, а карточка сообщает о несовместимости формата JANG с LM Studio, Ollama и oMLX.

FreedomAISVR/Qwen3.6-35B-A3B-NVFP4-NoMTP-GGUF — пользовательская квантизированная сборка базовой модели Qwen3.6-35B-A3B от команды Alibaba Qwen в формате GGUF для генерации текста и диалогов. Это MoE-модель с 35 млрд параметров и примерно 3 млрд активных параметров на токен; сборка использует NVIDIA FP4 с эффективной точностью 4,55 бита на вес и удалёнными головами Multi-Token Prediction. Заявлена поддержка контекста до 131 тыс. токенов и многоязычных задач более чем на 100 языках. Сборка предназначена для локального запуска через llama.cpp на NVIDIA Blackwell, включая видеокарты RTX 50-й серии. В README приведены настройки для GPU с 16 ГБ видеопамяти: эксперты MoE размещаются в системной памяти с помощью --cpu-moe, а внимание остаётся на GPU. Удаление MTP-голов освобождает видеопамять для KV-кэша и весов экспертов. Базовая модель поддерживает использование инструментов; карточка этой сборки подтверждает чат-возможности. Модель подходит для локальных чат-ассистентов и генерации текста на многих языках. Ограничения: заявленный формат NVFP4 нацелен на GPU NVIDIA Blackwell и требует совместимых CUDA-ядер; веса занимают около 19,7 ГБ, поэтому 16-гигабайтной видеокарте требуется выгрузка экспертов в оперативную память. Лицензия базовой модели — Apache 2.0; отдельные условия лицензии этой сборки в предоставленных данных не описаны.

Qwen3.6-35B-A3B · Winnow keep-25 — производная разреженная модель семейства Qwen, созданная методом поканального прореживания экспертов. По README, разработчик оставил 25% каналов маршрутизируемых экспертов, удалив 75%; промежуточная ширина SwiGLU экспертов сокращена по оценкам важности каналов, а внимание, эмбеддинги и маршрутизатор сохранены. В карточке указано 2,9 млрд параметров, тогда как README сообщает 10,5 млрд, поэтому размер модели в источниках расходится. Модель предназначена для генерации текста и диалогового использования. Указанный базовый чекпойнт — Qwen/Qwen3.6-35B-A3B; заявленное контекстное окно — 262 144 токена. Для запуска README требует Transformers версии 5 или новее и trust_remote_code=True; также описан запуск через vLLM с плагином winnow. На проверке perplexity на C4 приведено значение 22,53; сравнительные и downstream-результаты вынесены в отдельную публикацию. Модель распространяется по лицензии Apache-2.0. Карточка не сообщает о поддерживаемых языках и не даёт подробной оценки качества для прикладных задач; прореживание может влиять на качество относительно базовой модели.

Qwen3.8-Flash-Next MLX 4-bit — конвертированная и аффинно квантованная версия Qwen/Qwen3.8-Flash-Next от автора True2456. Репозиторий содержит веса для MLX в формате safetensors: эксперты MoE квантованы до 4 бит с размером группы 64, а ряд компонентов, включая attention, embeddings и MTP-драфтер, хранится в 8 бит; router и gated-residual компоненты — в 16 бит. Также доступны индексатор QSA и таблица PLE из исходного чекпойнта. Модель предназначена для генерации текста и диалогов в MLX-рантайме на Apple Silicon, в частности как банк весов для пути обслуживания Rindi Flash-Next. Метаданные указывают поддержку интерфейса вызова инструментов. Для запуска нужна сборка MLX-рантайма с поддержкой архитектуры qwen4_exp; обычная версия mlx-lm пока не подходит. README указывает требования Apple Silicon и для описанного гибридного пути ANE — M5 и около 128 ГБ объединённой памяти. Конверсия выполнена из официального BF16-чекпойнта Qwen/Qwen3.8-Flash-Next. Используется лицензия Qwen Community License 1.0; для коммерческих MaaS- и coding-assistant-продуктов действуют дополнительные условия.

RandomMergeWEIGHTEDv2-7B-DARETIES — слитая языковая модель на базе архитектуры Mistral, созданная с помощью LazyMergekit из paulml/OGNO-7B, nlpguy/AlloyIngot и mlabonne/Monarch-7B. Веса объединены методом dare_ties с разреженными масками и взвешиванием; модель содержит 7,1 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации текста и общих языковых задач в приложениях на базе Transformers. В репозитории представлены веса Safetensors; конфигурация слияния указывает тип данных bfloat16. В карточке не приведены сведения о специализированных областях применения или поддерживаемых естественных языках. Лицензия в предоставленных данных не указана.

Raptor 0.6 — это лёгкая supervised fine-tune модели XHToken/Spark-X2.5-4B, подготовленная Jinho Jang для Osaurus. Модель использует плотную архитектуру Spark2_5ForCausalLM с 36 слоями и примерно 3,8 млрд параметров; она предназначена для диалога, рассуждений и работы с инструментами. Репозиторий содержит веса в формате safetensors, а конфигурация JANG_6M задаёт смешанную точность: внимание и связанные эмбеддинги — 8-битные, MLP — 6-битный, масштабы групп — bfloat16, нормализации и attention gate — полной точности. Указанное базовой моделью окно контекста — до 1 048 576 токенов. Модель рассчитана на запуск в Osaurus на Apple Silicon и требует Osaurus версии 0.25.0 или новее. Шаблон поддерживает диалог с включённым по умолчанию режимом рассуждений и вызовами инструментов; карточка сообщает о калибровке и оценке на наборах промптов, но не устанавливает универсальное качество для всех сценариев. README предупреждает, что это практический чекпойнт с обычными для модели 4B ошибками; длинные рассуждения могут превышать 8 192 выходных токена. Лицензия — Apache-2.0.

RI-Instruct-v0.2-Merged — дообученная языковая модель RishiSpace на базе unsloth/qwen3-8b-unsloth-bnb-4bit. Это плотная модель семейства Qwen3 с архитектурой Qwen3ForCausalLM и 7,6 млрд параметров, предназначенная для генерации текста в диалоговом формате; в метаданных также заявлен интерфейс вызова инструментов. Модель обучали с использованием Unsloth и библиотеки Hugging Face TRL. Модель принимает текст и генерирует текст. Указанный в метаданных размер контекста — 40 960 токенов; карточка помечает английский язык. Репозиторий содержит веса safetensors, а лицензия — Apache-2.0. README не описывает специализированную область применения или результаты оценки качества.

sakshi-pii-in — разработанная RotaVision модель классификации токенов на базе MuRIL-base-cased от Google. Она выделяет в неструктурированном тексте персональные данные индийского контекста: имена людей (PERSON), адреса (ADDRESS) и даты рождения (DOB), в том числе в смешанном хинглише и текстах на письме деванагари, бенгали и тамильском. Модель предназначена для слоя токенизации при приёме данных в платформу Sakshi; она рассчитана на сочетания английского и индийских языков и транслитераций. Это BERT-модель с 264,8 млн параметров и контекстом до 512 токенов. Обучающие данные полностью синтетические: шаблонные предложения, JSON-записи и чаты на английском, хинди, хинглише, бенгали и тамильском. В README приведены результаты на замороженном наборе из 2000 примеров: F1 0,988 для имён, 0,956 для адресов и 0,998 для дат рождения. Модель не предназначена для поиска структурированных идентификаторов вроде Aadhaar, PAN, IFSC, номеров телефонов и банковских счетов: для них README рекомендует отдельный детерминированный слой с регулярными выражениями и проверками контрольных сумм. Синтетическое обучение может ограничивать качество на OCR-ошибках и SMS-сокращениях; для других индийских письменностей ожидается более низкая полнота. Модель находит PII в тексте, но не оценивает законность обработки данных. Лицензия — Apache-2.0.

JetLM/SDAR-8B-Chat — разговорная языковая модель семейства SDAR, разработанная авторами проекта SDAR. Она объединяет авторегрессионное обучение с дискретным диффузионным моделированием: авторегрессионная составляющая поддерживает эффективное обучение, а диффузионная позволяет выполнять параллельный вывод. Модель предназначена для диалогов и генерации текста; в метаданных также отмечен интерфейс вызова инструментов. Модель имеет плотную архитектуру SDARForCausalLM с 7,6 млрд параметров и контекстом до 32 768 токенов. Карточка сообщает о сопоставимой с сильными авторегрессионными моделями общей производительности и о преимуществах на сложных задачах научного рассуждения для SDAR в целом; эти утверждения не следует считать отдельной оценкой именно версии 8B-Chat. Репозиторий содержит веса Safetensors. Лицензия — Apache-2.0.

ShadowExperiment24-7B — автоматически собранная Maxime Labonne объединённая модель на архитектуре Mistral с 7,1 млрд параметров. Она предназначена для генерации текста и использования в сценариях с языковой моделью; конфигурация объединяет shadow-clown-7B-slerp и yam-peleg/Experiment24-7B методом dare_ties. Модель принимает текст и генерирует текст. Для неё указан контекст до 32 768 токенов и формат весов Safetensors. Лицензия — Apache-2.0. Карточка не сообщает о специальных областях применения или поддерживаемых естественных языках.

Gille/StrangeMerges_14-7B-slerp — слитая модель семейства Mistral, созданная с помощью LazyMergekit из Gille/StrangeMerges_13-7B-slerp и LucciAI/openchat-3.5-0106-function-calling. Для объединения использован метод slerp с разными коэффициентами для слоёв self-attention и MLP. Модель содержит 7,1 млрд параметров, принимает текст и предназначена для генерации текста, в том числе диалоговых ответов. Нативный контекст составляет до 32 768 токенов. Репозиторий содержит веса в формате safetensors; сведения о лицензии и целевых языках в предоставленных данных отсутствуют.

Synthia-7B-v3.0 — языковая модель Mistral-7B, дообученная Migtissera для следования инструкциям и ведения длинных диалогов. В обучении использовались подходы, вдохновлённые статьёй Orca-2, и датасет SynthIA-3.0 с обобщённым Tree-of-Thought-промптом и дополнительными системными контекстами. Модель имеет плотную архитектуру MistralForCausalLM, около 7,1 млрд параметров и контекст до 32 768 токенов. Модель предназначена для генерации ответов на текстовые запросы, диалогов и развёрнутых рассуждений. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. Модель может давать неточные или вводящие в заблуждение ответы, а также генерировать предвзятый, оскорбительный или иной нежелательный контент; автор характеризует её как uncensored. Важную информацию следует перепроверять.

T3qm7xNeuralsirkrishna_AlloyingotneoyExperiment24 — объединённая авторами модели на основе двух чекпойнтов Mistral: automerger/T3qm7xNeuralsirkrishna-7B и automerger/AlloyingotneoyExperiment24-7B. Она предназначена для генерации текста и диалогов, подходит для использования в приложениях, которым нужна языковая модель с контекстом до 32 768 токенов. Модель имеет плотную архитектуру MistralForCausalLM и содержит 7,1 млрд параметров; веса опубликованы в формате safetensors. Поддержка языков и специализированные предметные области в карточке не описаны. Модель распространяется по лицензии Apache-2.0.

Карточка модели PS4Research/TFDDn0MkziaAlcn0 на Hugging Face совпадает с карточкой PS4Research/EVPdEf4TUz3pRa2u, поэтому описание составлено по ней. PS4Research/EVPdEf4TUz3pRa2u — дообученная языковая модель семейства Qwen3, разработанная PS4Research на базе unsloth/Qwen3-14B-bnb-4bit с использованием Unsloth и библиотеки TRL. Модель содержит 14 млрд параметров, построена на плотной архитектуре Qwen3ForCausalLM и принимает текст для генерации текста; поддерживает диалоговый интерфейс и интерфейс вызова инструментов. Модель предназначена для генерации текста и диалоговых сценариев. Её контекстное окно составляет 40 960 токенов. В карточке указан английский язык. Модель распространяется по лицензии Apache-2.0. Специализация дообучения и его качество в карточке не раскрыты.

Карточка модели lmsys/vicuna-13b-v1.5-16k на Hugging Face совпадает с карточкой lmsys/vicuna-7b-v1.5-16k, поэтому описание составлено по ней. Vicuna-7B-v1.5-16k — авторегрессионная языковая модель на архитектуре Transformer семейства Llama, разработанная LMSYS. Она дообучена на Llama 2 на пользовательских диалогах из ShareGPT и предназначена для чат-ботов и исследований в области больших языковых моделей. Число параметров — 6,6 млрд; в репозитории указаны веса PyTorch. Метаданные Hugging Face сообщают контекст 4096 токенов, поэтому название версии «16k» само по себе не подтверждает контекст на 16 тысяч токенов. Модель принимает текст и генерирует текст, подходит для диалоговых ответов и экспериментов с языковыми моделями. В README указана оценка по стандартным бенчмаркам, предпочтениям людей и оценке другой языковой моделью, но численные результаты здесь не приведены. Лицензия — Llama 2 Community License Agreement; перед использованием следует учитывать её условия.

YamshadowInex12_NeuralsirkrishnaInex12 — слитая модель семейства Mistral, созданная на основе automerger/YamshadowInex12-7B и automerger/NeuralsirkrishnaInex12-7B. Она предназначена для генерации текста и диалоговых сценариев на основе текстовых запросов. Модель имеет плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Веса представлены в формате safetensors. Репозиторий распространяется по лицензии Apache-2.0.

GLM-4.7-Flash-GGUF — это квантизированная версия текстовой генеративной модели GLM-4.7-Flash, разработанной zai-org и подготовленной пользователем bartowski в формате GGUF. Модель предназначена для генерации текста и может запускаться локально через llama.cpp, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. В README заявлена поддержка английского и китайского языков. Доступны варианты от BF16 до компактных IQ- и Q-квантований размером примерно от 12,71 до 59,91 ГБ. Квантизация выполнена с использованием imatrix; для ряда вариантов рекомендуется Q6_K или Q6_K_L как близкие к исходному качеству, а Q4_K_M описан как стандартный вариант для большинства сценариев с хорошим соотношением качества и размера. Архитектура, число параметров, максимальная длина контекста и мультимодальные возможности в предоставленных данных не указаны. Модель подходит для локального текстового инференса при наличии совместимого оборудования и обновлённой версии llama.cpp. Ограничения зависят от выбранного уровня квантизации: более компактные варианты экономят память, но могут заметно уступать по качеству; некоторые низкобитные варианты отмечены как низкокачественные или нерекомендуемые. Для корректной работы может потребоваться отключить Flash Attention и использовать обновлённую поддержку модели в llama.cpp. Указанная лицензия — MIT.

MaTE X Privacy Sentinel v0.1 — дообученная модель enosislabs на основе openai/privacy-filter для локального обнаружения и разметки чувствительных фрагментов текста при фильтрации и маскировании данных. Она предназначена для сценариев приватности и безопасности, включая поиск персональных данных и секретов в строках конфигурации и других текстовых данных; карточка демонстрирует пример с адресом базы данных и учётными данными. Модель построена на архитектуре MoE, содержит 145,4 млн параметров, принимает текст и выдаёт разметку токенов. Контекст составляет до 131 072 токенов. Опубликованные веса представлены в формате Safetensors; лицензия — Apache-2.0. Модель помогает выявлять риски утечки, но не гарантирует соответствие требованиям: перед применением в production следует провести собственную проверку на контрольных примерах.

bartowski/allura-org_Qwen3.6-35B-A3B-Anko-GGUF — это GGUF-квантизированная версия текстовой генеративной модели Qwen3.6-35B-A3B-Anko, разработанной allura-org. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и может использоваться локально в llama.cpp, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и других совместимых инструментах. В репозитории доступны варианты от BF16 до низкобитных форматов Q8_0, Q6, Q5, Q4, Q3 и IQ. Размер файлов варьируется примерно от 16,2 до 69,4 ГБ, что позволяет выбирать между качеством и требованиями к памяти. Заявлены английский и китайский языки. В README не указаны размер контекста, точная архитектура, дополнительные модальности или результаты бенчмарков, поэтому эти характеристики нельзя достоверно оценить по предоставленным данным. Сильной стороной модели является широкий выбор квантизаций, включая варианты, ориентированные на высокое качество или экономию памяти, а также совместимость с популярными средствами локального запуска. Ограничения связаны с потерями качества, возможными при использовании низкобитных вариантов, значительными требованиями к диску и оперативной или видеопамяти, а также с необходимостью поддержки этой модели конкретным программным обеспечением. Модель распространяется по лицензии Apache-2.0.