II.1Анализ требований и архитектура ПО

Bigger-Body-8b-GGUF — это квантизированная версия языковой модели allura-org/Bigger-Body-8b, подготовленная bartowski в формате GGUF с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста, диалогов, conversational-сценариев и roleplay. Заявлена поддержка английского и китайского языков. Модель относится к классу 8B, однако точная архитектура, максимальная длина контекста и дополнительные модальности в README не указаны. Доступно множество вариантов квантизации от Q8_0 до Q2_K_L и IQ-форматов. Более высокие уровни квантизации обеспечивают лучшее качество при большем размере файла, а низкие требуют меньше оперативной памяти, но заметно уступают по качеству. В качестве рекомендуемых указаны варианты Q6_K_L, Q6_K, Q5_K_L, Q5_K_M, Q5_K_S, Q4_K_L, Q4_K_M и другие. Модель можно запускать через LM Studio, llama.cpp и совместимые проекты. Для работы используется формат prompt: <s>[SYSTEM_PROMPT]{system_prompt}[/SYSTEM_PROMPT][INST]{prompt}[/INST]. Лицензия обозначена как MRL, без дополнительных условий в представленном README.

Minami-su/Amara-o2-7B-Qwen — диалоговая языковая модель на архитектуре Qwen2, разработанная Minami-su как итерация Amara-o1-7B-Qwen. Она предназначена для генерации текста и открытых диалогов; карточка приводит результаты сравнений в оценках англоязычного общения Arena-Hard и AlpacaEval 2.0. Модель содержит 7,1 млрд параметров, имеет контекстное окно 32 768 токенов и опубликована в формате safetensors. Модель поддерживает чат и интерфейс вызова инструментов. В репозитории указана лицензия Apache-2.0. Карточка не описывает подробно обучающие данные, фактические результаты оценки самой модели или ограничения по качеству, поэтому эти свойства нельзя оценить по доступным сведениям.

Arcee-Lite — компактная языковая модель на 1,5 млрд параметров, разработанная Arcee AI в рамках открытого проекта DistillKit. Это плотная авторегрессионная модель семейства Qwen2, предназначенная для генерации текста и диалогового общения. В README указано, что модель создана путём дистилляции Phi-3-Medium и объединения с другими дистиллятами; для неё приводится результат 55,93 на тесте MMLU. Модель рассчитана на сценарии, где важны небольшой размер и работа при ограниченных вычислительных ресурсах: встраиваемые устройства, мобильные приложения и периферийные вычисления. Контекст составляет до 32 768 токенов. Модель принимает и выдаёт текст; метаданные отмечают поддержку чата. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0. README приводит внутренние оценки и предупреждает, что их следует использовать для относительного сравнения моделей, а не напрямую сопоставлять с результатами OpenLLM Leaderboard.

Arcee-Scribe — чат-модель компании Arcee AI для письма, рассуждений и широкого круга текстовых задач. Она основана на плотной архитектуре InternLM2, содержит 7,4 млрд параметров и поддерживает контекст до 32 768 токенов. Модель создана слиянием InternLM-2.5-chat и собственной дообученной версии InternLM с общими и специализированными данными для письма. Модель подходит для творческого письма, создания диалогов с подтекстом и сложными эмоциями, построения нелинейных повествований, а также объяснения технических понятий через аналогии. В README отмечены результаты на Big-Bench Hard и сильные стороны в творческом письме. Поддерживаются чат-взаимодействие и извлечение признаков; метаданные также указывают текстовую генерацию как поддерживаемую задачу. Модель опубликована в формате Safetensors, также упомянуты доступные сборки GGUF. Лицензия — Apache-2.0. README отмечает, что модель не достигла стандартов Arcee-Spark V2; конкретные ограничения качества и языков не приведены.

baichuan-llama-7b — это версия базовой языковой модели Baichuan-7B, сохранённая в формате LLaMA. Модель разработана Baichuan Intelligent Technology и использует авторегрессионную архитектуру Transformer с 6,7 млрд параметров; в README указаны 32 слоя, 32 головы внимания, rotary embeddings, SwiGLU и RMSNorm. Репозиторий загружается через LlamaForCausalLM и LlamaTokenizer в Transformers; веса доступны в форматах PyTorch и safetensors. Модель предназначена для генерации текста и продолжения запросов на китайском и английском языках, включая ответы на вопросы и решение учебных задач. README сообщает о предварительном обучении Baichuan-7B примерно на 1,2 трлн токенов и оптимизации для китайского языка. Метаданные указывают контекст 2048 токенов, тогда как README базовой модели описывает окно 4096 токенов; для этого репозитория следует ориентироваться на значение метаданных. Модель может выдавать фактически неверные, предвзятые, непристойные или оскорбительные ответы, поэтому её выводы требуют проверки. Указанная лицензия — baichuan-7B License; README заявляет о разрешённом коммерческом использовании, но условия следует сверять с текстом лицензии.

Это набор GGUF-квантизаций базовой текстовой генеративной модели birgermoell/llama-3-open-hermes-disco, подготовленный организацией featherless-ai-quants. Модель предназначена для генерации текста и локального или совместимого с GGUF запуска; README не уточняет конкретные прикладные сценарии, языки, поддерживаемые модальности, архитектурные детали и размер базовой модели. Доступны варианты квантизации IQ4_XS, Q2_K, Q3_K_L, Q3_K_M, Q3_K_S, Q4_K_M, Q4_K_S, Q5_K_M, Q5_K_S, Q6_K и Q8_0 размером примерно от 3,0 до 8,1 ГБ. Разные варианты позволяют выбирать компромисс между требованиями к памяти, скоростью и сохранением качества, однако количественные характеристики качества в README не приведены. Лицензия модели и условия использования не указаны.

BitCPM-CANN-3B — языковая модель OpenBMB с плотной архитектурой Llama и 3,2 млрд параметров. Она предназначена для генерации текста и диалогового использования. Модель обучена с осведомлённым о квантовании обучением (QAT) и тернарными весами {-1, 0, 1}; README сообщает о сравнении с полноточной MiniCPM4-3B на 11 бенчмарках и сохранении 97,2% её результатов. В репозитории веса находятся в псевдоквантованном формате: значения весов уже тернарные, но хранятся в обычном формате с плавающей точкой. Для запуска через Transformers не требуются специальные библиотеки квантования или пользовательские ядра. Заявленное сокращение памяти при инференсе примерно в шесть раз относится к преимуществам тернарного представления; фактическая экономия зависит от способа хранения и исполнения весов. Модель поддерживает китайский и английский языки, имеет контекст длиной 32 768 токенов и распространяется по лицензии Apache-2.0. Она может быть полезна для диалогов и генерации текста с ограниченными ресурсами, но остаётся генеративной моделью: ответы могут содержать ошибки и требуют проверки. В README также указано, что меньшая версия семейства 0.5B заметнее теряет качество при тернарном обучении; это не отдельная оценка ограничений именно версии 3B.

Confucius-o1-14B-GGUF — квантизированная версия языковой модели Confucius-o1-14B, разработанной netease-youdao и подготовленной пользователем bartowski в формате GGUF для llama.cpp. Модель предназначена для генерации текста и диалогового взаимодействия, а также может использоваться локально через совместимые приложения, включая LM Studio. В README указан английский язык и поддержка chat-сценариев. Модель содержит 14 млрд параметров. Доступны варианты от F32 и F16 до различных форматов квантования Q8, Q6, Q5, Q4, Q3, Q2 и IQ, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. Рекомендуемыми названы некоторые варианты Q6, Q5 и Q4; Q4_K_M обозначен как подходящий вариант по умолчанию для большинства сценариев. Версии с более низкой разрядностью экономят память, но могут заметно уступать по качеству. Ключевые преимущества модели — широкий выбор локальных квантованных сборок, совместимость с llama.cpp и возможность запуска на менее производительном оборудовании. Ограничения README не раскрывает: сведения об архитектуре, максимальной длине контекста, мультимодальности, результатах тестирования и фактических возможностях рассуждения отсутствуют. Модель распространяется по лицензии Apache-2.0.

DataDecide-dclm-baseline-qc-fw-3p-1B-55000_57500_60000_62500_65000_weightedavg_merge — объединённая языковая модель на базе архитектуры Llama, созданная с помощью mergekit методом Linear из пяти контрольных точек DCLM baseline QC FW 3P. Разработчик в карточке не назван. Модель предназначена для генерации текста; каталог указывает около 1,2 млрд параметров, библиотеку Transformers и контекст до 2048 токенов. Модель принимает текст и генерирует текст. README и метаданные не описывают её целевые языки, специализированные области или дополнительные возможности, поэтому её следует рассматривать как модель общего назначения без подтверждённых узких специализаций. Веса опубликованы в формате safetensors. Лицензия в предоставленных данных не указана. Качество и безопасность ответов отдельно не охарактеризованы; перед использованием в приложениях следует оценить их на целевых запросах.

mlx-community/DeepSeek-R1-Distill-Qwen-1.5B-4bit — версия модели, разработанная сообществом mlx-community и преобразованная из deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B в формат MLX с использованием mlx-lm 0.21.1. Модель предназначена для локального запуска и генерации текста в экосистеме MLX; для работы рекомендуется библиотека mlx-lm и соответствующий chat template токенизатора. Ключевая характеристика модели — 4-битное представление весов, уменьшающее требования к памяти по сравнению с полноформатной версией. Размер исходной модели составляет 1,5 млрд параметров согласно её идентификатору. README не содержит сведений о поддерживаемых языках, длине контекста, точной архитектуре, целевых сценариях, результатах оценки, ограничениях качества или лицензии, поэтому эти параметры нельзя достоверно описать.

DeepSeek-R1-Distill-Qwen-7B-abliterated-GGUF — это квантизированная GGUF-версия модели, созданная ngxson на основе DeepSeek-R1-Distill-Qwen-7B с использованием LoRA-адаптера LoRA-Qwen2.5-7B-Instruct-abliterated-v3-F16-GGUF. В карточке указано, что модель предназначена для генерации текста и относится к категории text-generation. Из доступных данных следует, что базовая модель связана с семейством Qwen и имеет размер 7B параметров. Точные сведения об архитектуре, поддерживаемых языках, длине контекста, доступных вариантах квантизации, производительности и практических сценариях использования не приведены. Также отсутствует описание сильных сторон и ограничений модели. Лицензия и условия использования в README не указаны, поэтому их нельзя определить по имеющимся данным.

Ombro v1 — экспериментальная смешанная квантизация в формате GGUF модели DeepSeek-V4-Flash-0731, подготовленная автором репозитория Wladastic. Это разреженная MoE-модель с 304 млрд параметров: в карточке описаны 43 трансформерных слоя и 256 экспертов на слой, из которых для каждого токена выбирается небольшая часть. Файл размером около 81,37 ГБ использует разные точности для активной части модели и маршрутизируемых экспертов; для запуска требуется сборка llama.cpp с поддержкой DeepSeek V4 Flash 0731. Модель предназначена для генерации текста и диалогового использования. В README также описаны предварительные локальные запуски для генерации кода и интерактивного 3D-контента, но широкая оценка качества и сравнение с исходной моделью ещё не проводились. Шаблон чата поддерживает уровни Low, Medium, High и Max. Репозиторий распространяется по лицензии MIT; автор отмечает, что квантизация не связана официально с DeepSeek или Unsloth.

DellaMix-12B — объединённая модель для генерации текста, созданная yamatazen с помощью mergekit и метода DELLA. За основу взята yamatazen/EtherealAurora-12B-Lorablated; в объединение также вошли yamatazen/Shisa-v2-Mistral-Nemo-12B-Abliterated, yamatazen/ForgottenMaid-12B и yamatazen/FusionEngine-12B. Модель построена на плотной архитектуре MistralForCausalLM и содержит 12,1 млрд параметров. Она предназначена для диалогов и генерации текста на английском и японском языках; метаданные указывают контекстное окно до 1 024 000 токенов. Репозиторий содержит веса в формате safetensors, для работы используется библиотека Transformers. Модель подойдёт для чат-ботов, продолжения текста и генерации ответов на запросы. Карточка не приводит результатов оценивания качества или конкретных ограничений. Лицензия в предоставленных данных не указана.

dolphin-2.1-mistral-7b-snr-laser — экспериментальная разговорная языковая модель на архитектуре Mistral, созданная разработчиком Dolphin на основе Mistral AI и обученная на наборах Dolphin и Airoboros 2.2.1. Модель содержит 7,1 млрд параметров, поддерживает контекст до 32 768 токенов и использует формат диалога ChatML. Модель предназначена для генерации текста и диалогового помощника, в том числе для ответов на вопросы, творческих задач и сценариев с вызовом функций. В README описан метод частичной заморозки параметров по анализу laserRMT, призванный снизить забывание ранее усвоенных знаний при дообучении. Карточка заявляет, что модель uncensored и более склонна выполнять запросы; перед предоставлением пользователям рекомендуется самостоятельно добавить слой выравнивания поведения. Модель поддерживает английский язык. Распространяется по лицензии Apache-2.0, допускающей коммерческое и некоммерческое использование. Оценка качества в README приведена для отдельных бенчмарков и не гарантирует качество в других сценариях.

eren23/dpo-binarized-NeuralTrix-7B — языковая модель для генерации текста, дообученная методом DPO на основе CultriX/NeuralTrix-7B-dpo с использованием пар предпочтений из набора argilla/OpenHermes2.5-dpo-binarized-alpha. Модель основана на плотной архитектуре MistralForCausalLM и содержит 7,1 млрд параметров; опубликована в формате safetensors, лицензия — Apache-2.0. Модель предназначена для диалоговой генерации текста и общих языковых задач. В карточке приведены результаты оценивания на бенчмарках рассуждений AI2 Reasoning Challenge и HellaSwag. Заявленный контекст — до 32 768 токенов; в метаданных указан английский язык. Данные не раскрывают подробности о качестве в практических сценариях и ограничениях безопасности.

FinChat298B_Llama-3.1-8Bi — дообученная gkMSDA инструктивная языковая модель семейства Llama 3.1 на базе NousResearch/Meta-Llama-3.1-8B-Instruct. Она предназначена для генерации текста и диалогового взаимодействия; карточка сообщает об использовании Unsloth и библиотеки Hugging Face TRL при обучении. Модель содержит 7,5 млрд параметров, имеет архитектуру LlamaForCausalLM и контекстное окно 131 072 токена. В метаданных указан английский язык; базовая модель поддерживает несколько языков, но отдельные языковые возможности дообученной версии не уточнены. Модель распространяется в формате safetensors по лицензии Apache-2.0. README не описывает специализацию дообучения или результаты оценки качества.

jaspionjader/fr-6-8b — объединённая разговорная языковая модель семейства Llama, созданная с помощью mergekit методом SLERP из jaspionjader/fr-3-8b и jaspionjader/fr-5-8b. Модель содержит 7,5 млрд параметров и предназначена для генерации текста и диалоговых ответов. Модель принимает текст и выдаёт текст. Заявленная длина контекста составляет 131072 токена. Веса доступны в формате safetensors для библиотеки Transformers. README не описывает отдельные специализированные области или языки применения. Условия лицензии в предоставленных данных не указаны.

najahaja/ftbench-qlora-llama3.2-3b — языковая модель для генерации текста на базе семейства Llama с размером 3,2 млрд параметров. Модель опубликована пользователем najahaja и предназначена для работы через библиотеку Transformers; поддерживает задачу text-generation и имеет контекстное окно до 131 072 токенов. Модель можно применять для генерации ответов, продолжения текста, диалоговых сценариев и встраивания в приложения, которым требуется локальная или серверная генерация текста. Метаданные содержат тег conversational, поэтому модель может использоваться в чатовых интерфейсах, однако подробности о формате диалога, данных дообучения и методе QLoRA в карточке не описаны. Сильными сторонами являются относительно компактный размер для языковой модели и длинный контекст. В README отсутствуют сведения о разработчике, языках, лицензии, обучающих данных, результатах оценки, ограничениях и рекомендуемых сценариях использования, поэтому качество, безопасность и юридические условия применения необходимо проверять отдельно.

GEITje-ultra-sft — разговорная языковая модель, разработанная Bram Vanroy и дообученная методом supervised fine-tuning на базе Rijgersberg/GEITje-7B. Базовая модель основана на Mistral 7B и дополнительно обучалась на нидерландских данных; вариант ultra-sft содержит около 7,1 млрд параметров и предназначен для генерации текста в диалоге. Модель подходит для ответов на вопросы и ведения многоходового общения на нидерландском языке, а также для генерации кода и ответов на технические вопросы. Обучение охватывало около 240 млн токенов синтетических диалоговых данных, включая переведённые наборы Alpaca, Dolly и Stack Overflow, а также диалоги, созданные с помощью GPT-4 Turbo. В README указан контекст обучения 8192 токена; метаданные репозитория указывают нативный контекст 32768 токенов. Модель не проходила выравнивание с помощью DPO или других методов предпочтений; автор рекомендует использовать DPO-вариант. Ответы могут быть ошибочными, вводящими в заблуждение или оскорбительными. Лицензия CC-BY-NC-4.0 и происхождение обучающих данных исключают коммерческое использование согласно карточке модели.

unsloth/gemma-2-2b-it — разговорная версия Gemma 2 от Google, опубликованная Unsloth в формате safetensors и напрямую квантизированная до 4 бит с помощью bitsandbytes. Это плотная авторегрессионная языковая модель примерно на 2,7 млрд параметров, предназначенная для генерации текста и диалогового общения; она принимает текст и выдаёт текст. Указанная длина контекста — 8192 токена. Карточка Unsloth описывает ноутбуки для дообучения Gemma 2 и экспорта моделей, а не специализированную область применения этого чекпойнта. Модель подходит для диалоговых приложений, генерации продолжений и прототипирования текстовых помощников. В метаданных указан английский язык. Лицензия — Gemma; перед использованием следует соблюдать её условия. Карточка указывает на 4-битную квантизацию, поэтому характеристики могут отличаться от исходной версии Gemma 2.

Io2007/gemma-3-1b-big — объединённая текстовая модель, созданная автором с помощью mergekit и метода Passthrough из слоёв Google Gemma 3 1B PT, Gemma 3 1B IT и NuclearAi/Nuke_X_Gemma3_1B_Reasoner_v1.0. Это плотная авторегрессионная архитектура Gemma3ForCausalLM с 1,1 млрд параметров, предназначенная для генерации текста и диалогов. Метаданные указывают контекст до 32 768 токенов и библиотеку Transformers. Модель принимает текст и выдаёт текст; карточка описывает её как объединение предварительно обученной языковой модели, а базовая instruct-модель рассчитана на диалоги и запуск при ограниченных ресурсах. Данные не уточняют отдельные языки или специализированные области применения, а также не приводят оценок качества объединённого чекпойнта. Лицензия в предоставленных данных не указана.

Gemma-4-26B-A4B-it-qat-q4_0-uncensored-heretic-NVFP4-GGUF — модель, созданная независимым разработчиком LLMfan46 на основе Google Gemma 4 26B A4B Instruct. Это decensored-версия исходной модели, полученная с использованием Heretic v1.2.0 и метода Arbitrary-Rank Ablation (ARA). Модель распространяется в формате GGUF с NVFP4-квантизацией и предназначена для генерации текста и работы с изображениями и текстом, согласно указанному pipeline image-text-to-text. Модель ориентирована на диалоги, следование инструкциям и мультимодальные сценарии, где требуется обработка текстовых и визуальных входных данных. В README указаны размер 26B и конфигурация A4B, однако сведения о максимальной длине контекста, поддерживаемых языках и точном наборе мультимодальных возможностей не приведены. Изменения направлены на снижение числа отказов и ограничений: в заявленном тесте частота отказов составила 11 из 100 против 100 из 100 у оригинальной модели, а KL-дивергенция относительно исходной версии — 0,0618. К сильным сторонам относятся близость к исходной Gemma 4 по поведению, уменьшенное количество отказов и потенциально более широкий спектр допустимых запросов. Ограничениями являются NVFP4-квантизация, возможная потеря точности по сравнению с полной версией, а также отсутствие подробных данных о производительности в мультимодальных задачах и языковом покрытии. Модель лицензирована по Apache-2.0; при этом для Gemma применяются дополнительные условия лицензии Google, на которые ссылается README.

Gemma-4-96E-A4B-Heretic-TQ — сборка модели blascotobasco/Gemma-4-96E-A4B-Heretic в формате GGUF с квантизацией TurboQuant. Репозиторий содержит варианты TQ3_1S и TQ4_1S, а также шаблон чата Gemma 4 Interleaved. Весовые данные были переквантованы для публикации; последующее обновление изменило метаданные GGUF и встроенный шаблон, но не переквантизировало тензоры. Модель предназначена для генерации текста и диалогового использования через совместимую ветку llama.cpp с поддержкой TurboQuant. Обновлённый встроенный шаблон поддерживает режим рассуждений без отдельного файла шаблона чата. README не приводит размер исходной модели, окно контекста или список языков, поэтому эти характеристики здесь не уточняются. Для запуска требуется указанная в README ветка llama.cpp с поддержкой TurboQuant. Лицензия в предоставленных данных не указана.

DavidAU выпустил дообученную на базе google/gemma-4-E4B-it модель Gemma 4 E4B Instruct с изменённым шаблоном диалога и режимами instruct и thinking. По README, автор применил снятие ограничений и собственные наборы данных Deckard и Universe, а также данные, названные в честь Claude Opus 4.7. Модель предназначена для диалогов, написания прозы и историй, ролевых сценариев, генерации кода и других задач; README заявляет поддержку текста, изображений, видео и аудио, а контекст — до 128 тысяч токенов. Архитектура Gemma 4 E4B — плотная условно-генеративная; автор описывает её как модель примерно с 8 млрд параметров, из которых активны около 4,5 млрд. Автор отмечает, что творческие ответы могут становиться чрезмерно мрачными и интенсивными, особенно при запросах на хоррор, ругань или жестокость; также возможны длинные многословные ответы. Для этой модели предлагаются отдельные шаблоны instruct и thinking, причём thinking задан по умолчанию. Модель распространяется по лицензии Apache-2.0.

TrevorJS/gemma-4-E4B-it-uncensored-GGUF — это набор GGUF-квантизаций инструкционной модели TrevorJS/gemma-4-E4B-it-uncensored, основанной на google/gemma-4-E4B-it. Модель предназначена для генерации текста и диалогового использования, включая локальный запуск через llama-server. В README указано, что это версия с удалённым типичным отказным поведением, полученная методом norm-preserving biprojected abliteration. Доступны варианты Q4_K_M размером 5,3 ГБ и Q8_0 размером 8,0 ГБ. Заявленный язык — английский. В качестве примеров запуска используется контекст 8192 токена, однако максимальный размер контекста и подробные характеристики архитектуры в README не указаны. Формат GGUF удобен для локального инференса и позволяет выбирать компромисс между размером файла, требованиями к памяти и качеством генерации. К сильным сторонам относятся локальный запуск, наличие двух уровней квантизации и сниженное количество отказов на запросы. Ограничения связаны с отсутствием подробных данных о производительности, мультимодальности, фактическом размере модели, качестве после abliteration и поддерживаемых языках помимо английского. README указывает лицензию Apache-2.0.

GLM-5.3-MLX-mixed-3_6bit — версия модели GLM-5.3 от zai-org, преобразованная и квантованная сообществом PipeNetwork для работы на Apple Silicon через MLX. Это генеративная текстовая модель на архитектуре Mixture-of-Experts с 744 млрд параметров: 256 экспертов, из которых выбираются 8, и механизмом MLA со sparse attention в стиле DeepSeek-V3.2. Модель предназначена для локальной генерации текста и экспериментов с крупными языковыми моделями на совместимом оборудовании Apple. Эксперты квантованы до 3 бит с размером группы 64, остальные основные параметры — до 6 бит; индексы, маршрутизаторы и нормализации сохранены в исходной точности. Размер файлов составляет около 332,6 ГБ, рекомендованный объём оперативной памяти — 512 ГБ. Сборка рассчитана на запуск через mlx-lm и требует поставляемого файла архитектуры и параметра доверия к удалённому коду. Мультитокеновый слой предсказания не включён. Преимущество модели — существенно меньший размер по сравнению с полной версией при сохранении возможности локального запуска; заявленная perplexity на тестовой части wikitext-2 составляет 3,0338. Ограничением является заметная потеря качества из-за 3-битного квантования: она уступает 4-битным и смешанным 4/8-битным сборкам. Для последовательностей до 2048 токенов индексатор внимания не используется; на более длинных входах в 57 слоях применяются случайно инициализированные общие индексаторы, что может ухудшать работу sparse attention. Лицензия — GLM-5.3 license, указанная в файле LICENSE.

GLM-5.3 Uncensored GGUF — квантованная модель в формате GGUF, созданная softwareweaver на основе dealignai/GLM-5.3-UNCENSORED-FP8 и исходной модели zai-org/GLM-5.3. Репозиторий предоставляет только конверсию весов. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через llama.cpp и совместимые инструменты. Заявлены английский и китайский языки. Исходная модель представляет собой смесь экспертов (Mixture of Experts, MoE) с 753 млрд параметров. Доступный вариант использует квантование Q4_K_M, что уменьшает требования к памяти по сравнению с полноразмерными весами, но может снижать точность. В README указано, что модель склонна к избыточному рассуждению; для ограничения числа токенов рассуждений рекомендуется задавать reasoning budget. Размер контекста, точные активные параметры, поддерживаемые модальности и другие архитектурные характеристики не указаны. Модель распространяется по лицензии MIT. Основные ограничения связаны с отсутствием подробных сведений о производительности, контекстном окне и требованиях к оборудованию, а также с возможными потерями качества из-за квантования. Термин «uncensored» указан в названии и метаданных, однако конкретные особенности фильтрации или поведения модели README не описывает.

coder3101/gpt-oss-20b-heretic — экспериментальная версия gpt-oss-20b от автора coder3101, созданная методом abliteration для снижения частоты отказов. По приведённому сравнению модель отказала в 19 из 100 случаев против 98 из 100 у исходной openai/gpt-oss-20b; результат сопровождается KL-дивергенцией 0,2933. Это разговорная модель для генерации текста и диалогов, унаследовавшая архитектуру MoE и формат Harmony базовой модели. Контекстное окно составляет 131072 токена; в метаданных указано 1,6 млрд параметров, тогда как README приводит для исходной модели 21 млрд параметров и 3,6 млрд активных параметров. Модель может быть полезна для диалоговых приложений, локального запуска и сценариев, где требуется меньше отказов на запросы. README базовой модели также описывает настройку уровня рассуждений и агентные возможности, включая вызов функций, но для этой производной модели их работоспособность отдельно не подтверждена. Для корректной работы следует использовать формат Harmony. Лицензия — Apache-2.0.

Granite-4.1-8B-TNG-Coder-V11-2800-Heretic-BF16 — объединённая модель на базе IBM Granite-4.1-8B и нескольких производных Granite-чекпойнтов. Автор карточки сообщает о дополнительном обучении на задачах серверной разработки с примерами на Haskell, Go и Python, а также о дистилляции ответов Qwen и Claude. Модель использует плотную архитектуру GraniteForCausalLM, содержит 8,4 млрд параметров и рассчитана на контекст до 131 072 токенов. Модель предназначена для генерации текста и кода в диалоговом режиме; режим рассуждений включён по умолчанию. Её можно применять для помощи при разработке серверной части, написания и объяснения кода и ответов на технические вопросы. В метаданных указаны библиотека Transformers и формат safetensors. Лицензия — Apache-2.0. Заявленная специализация на серверной разработке и приведённые в карточке результаты тестов не дают полной оценки качества на реальных задачах. В описании также нет подробных сведений о тестировании, рекомендуемых настройках генерации или поддерживаемых языках естественного общения.

KBlueLeaf разработал Guanaco-7B-leh — мультиязычную инструкционную языковую модель на архитектуре LLaMA с примерно 6,6 млрд параметров. Она дообучена на очищенной версии набора Alpaca и данных Guanaco: использовался LoRA для внимания, а также обучались слои эмбеддингов и выходная голова. Модель предназначена для генерации текста по инструкциям и диалогового использования в формате Guanaco. Автор отмечает улучшение работы на китайском и японском языках по сравнению с исходной LLaMA и возможность использовать модель как чат-бот. В карточке заявлена лицензия GPL-3.0. Автор предупреждает, что для более точных ответов может потребоваться подключение внешних инструментов; приведён пример использования LoRA-варианта, для которого нужно отключить загрузку в 8-битном режиме либо предварительно объединить адаптер с базовой моделью.