II.1Анализ требований и архитектура ПО

Это исследовательский резервный чекпойнт причинной языковой модели семейства Qwen3, опубликованный в стандартном формате Hugging Face для загрузки через Transformers. Модель содержит 1,7 млрд параметров и поддерживает контекст до 40 960 токенов. Модель предназначена для генерации текста в диалоговом режиме; в репозитории также отмечен интерфейс вызова инструментов. Карточка не описывает специальные предметные области или подтверждённые языки. Файлы представлены в формате safetensors. Это резервная исследовательская копия чекпойнта. Лицензия и сведения о базовой модели в предоставленных данных не указаны.

Это исследовательский резервный чекпойнт причинной языковой модели семейства Qwen2, опубликованный пользователем yuq-zhou в стандартном формате Hugging Face. Модель содержит 7,1 млрд параметров, принимает текст и генерирует текст; метаданные также отмечают поддержку чата и интерфейса вызова инструментов. Максимальная длина контекста составляет 16 384 токена. Модель подходит для генерации текста и диалогов, а также для экспериментов с интерфейсом вызова инструментов. В README она обозначена как резервная копия исследовательского артефакта; назначение суффиксов в имени чекпойнта не поясняется. Доступны веса в формате safetensors, лицензия в предоставленных данных не указана.

Это контрольная точка модели в стандартном формате Hugging Face, предназначенная для загрузки через AutoModelForCausalLM. По метаданным это плотная Qwen2ForCausalLM с 7,1 млрд параметров и контекстом до 16 384 токенов; модель работает с текстом и поддерживает диалоговый режим и интерфейс вызова инструментов. README называет её резервной копией исследовательского артефакта. Модель подходит для генерации текста и диалоговых сценариев. В карточке не описаны специальные области применения, языки, обучающие данные или результаты оценки качества. Указан формат safetensors и библиотека Transformers; сведения о лицензии отсутствуют.

A3ON-1B-i1-GGUF — это GGUF-квантизация базовой модели A3ON-1B, разработанной Kaiiddo и подготовленной к распространению пользователем mradermacher. Модель предназначена для генерации текста и помощи в программировании; в метаданных указана поддержка английского языка. Формат GGUF рассчитан на локальный запуск в совместимом программном обеспечении. Модель имеет размер 1 млрд параметров, однако сведения об архитектуре, длине контекста и поддерживаемых модальностях в README не приведены. Доступны многочисленные варианты квантизации, включая IQ- и Q-семейства, размером примерно от 0,5 до 1,1 ГБ. В README отмечается, что IQ-квантизации часто обеспечивают лучшее качество при сопоставимом размере; среди вариантов отдельно рекомендуются i1-Q4_K_M и i1-Q4_K_S, а i1-Q6_K по качеству практически соответствует статической Q6_K. Более агрессивные варианты могут заметно снижать качество. Лицензия модели — CC BY 4.0. README не содержит подробных результатов тестирования, поэтому её преимущества и ограничения следует оценивать с учётом выбранного уровня квантизации и конкретного сценария использования.

jondurbin/airoboros-jamba-3-3 — экспериментальная чат-модель Джона Дурбина, дообученная методом QLoRA на базе jamba-v0.1. Модель содержит 7,2 млрд параметров, использует архитектуру Jamba с mixture-of-experts и предназначена для генерации текста в диалоге. В README заявлена настройка на синтетических данных Airoboros 3.2 и дополнительных наборах данных для вопросов по контексту, суммаризации, программирования, ролевого общения и генерации аргументов функций. Для контекстных вопросов модель обучали отвечать по предоставленным материалам и ограничивать ответ их содержанием, чтобы снизить галлюцинации. Поддерживаются многоходовый чат и шаблон запросов в формате Llama 2; для задач по контексту README рекомендует специальную разметку блоков. Хотя базовая Jamba заявляет контекст до 256 тысяч токенов, это дообучение выполнялось с длиной 8192 токена, поэтому результаты за этим пределом не определены. Модель распространяется в формате safetensors по лицензии Apache-2.0. Автор характеризует её как экспериментальную; качество и поведение могут быть нестабильными, а генерация планов для вызова функций сама по себе не выполняет инструменты.

Aura32k — слитая модель для генерации текста на архитектуре Mistral, созданная автором jeiku с помощью mergekit. В объединение вошли jeiku/32kBase и jeiku/selfbot_256_mistral; применён метод passthrough. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогов; метаданные также отмечают интерфейс вызова инструментов. Репозиторий содержит веса safetensors и рассчитан на использование с библиотекой Transformers. Данных о поддерживаемых естественных языках и специальных прикладных областях нет. Лицензия в предоставленных данных не указана.

BBALAW1.0 — объединённая языковая модель, созданная автором репозитория Lawnakk с помощью mergekit и метода SLERP. В объединении использованы Qwen/Qwen2.5-7B и Qwen/Qwen2.5-Math-7B-Instruct; конфигурация сочетает их слои, а итоговая архитектура — плотная Qwen2ForCausalLM. Модель содержит 3,8 млрд параметров и рассчитана на контекст до 131 072 токенов. Модель предназначена для генерации текста и диалогового использования. Включение математической версии Qwen2.5 указывает на возможную полезность в задачах с математическим текстом, однако README не приводит результатов оценки или конкретных гарантий качества. Репозиторий содержит веса safetensors и использует библиотеку Transformers; метаданные отмечают интерфейс вызова инструментов. Сведения о лицензии в предоставленных данных отсутствуют.

Это GGUF-квантизация модели c4ai-command-r-v01, разработанной CohereForAI. Репозиторий duyntnet содержит варианты квантования с использованием imatrix для запуска модели в формате GGUF. Модель предназначена для генерации текста и диалоговых сценариев; в исходном README приведён пример применения через transformers с chat template Command R. Указана поддержка английского языка и задача text-generation. Архитектура, число параметров, размер контекста и точный набор вариантов квантования в предоставленных данных не указаны. Ключевое преимущество этой версии — возможность использовать квантизированную модель в формате GGUF, что может снизить требования к ресурсам по сравнению с полноразмерной моделью. Ограничения связаны с отсутствием подробностей о характеристиках конкретных квантов, производительности и совместимости. Лицензия обозначена как other; дополнительные условия использования не приведены.

Nitral-Archive/Captain_BMO-0.420-Magnum-12B — объединённая разговорная языковая модель на архитектуре Mistral, созданная с помощью mergekit методом SLERP из anthracite-org/magnum-v4-12b и Nitral-AI/Captain_BMO-12B. Модель содержит 12,1 млрд параметров и предназначена для генерации текста и диалоговых ответов; метаданные также отмечают интерфейс для вызова инструментов. Заявленная длина контекста — 1 024 000 токенов. Модель принимает текст и генерирует текст. Карточка не приводит сведения о поддерживаемых естественных языках или специализированных областях применения. Репозиторий содержит веса в формате safetensors. Лицензия в предоставленных данных не указана.

Cerberus-v0.1 — языковая модель BRAHMAI для генерации текста и диалогового взаимодействия. Это плотная трансформерная модель семейства Llama с 69,5 млрд параметров, реализованная для Transformers и распространяемая в формате safetensors. Контекстное окно составляет 8192 токена; в метаданных указан английский язык. Модель предназначена для создания текстов, перевода, суммаризации документов и ответов на вопросы. Её можно применять в творческом письме, подготовке кратких изложений и информационных чат-сценариях. Карточка заявляет поддержку нескольких языков, но не приводит их перечень или результаты численных бенчмарков. Модель выпущена в июне 2024 года. Лицензия — Llama 3 Community License (llama3). Карточка отмечает, что качество может различаться в зависимости от предметной области, а ответы могут упускать культурные и контекстные нюансы.

Citaman/command-r-1-layer — экспериментальная текстовая генеративная модель, созданная автором репозитория с помощью mergekit. В README описано слияние методом SLERP на основе Citaman/command-r-2-layer; конфигурация использует диапазоны слоёв [0, 1] и [1, 2]. Метаданные относят модель к семейству Cohere и архитектуре CohereForCausalLM, указывают 2,9 млрд параметров, формат safetensors и контекст до 8192 токенов. Модель предназначена для генерации текста и диалоговых сценариев; метаданные также отмечают интерфейс вызова инструментов. Она принимает текст и выдаёт текст. Карточка не сообщает о поддерживаемых естественных языках или специализированных предметных областях. Лицензия в предоставленных данных не указана.

csg-wukong-1B-chat-v0.1 — разработанная OpenCSG чат-модель, полученная дообучением csg-wukong-1B. Она предназначена для диалоговой генерации текста и может применяться в чат-ботах и других сценариях, где требуется генерировать ответы на текстовые запросы. Модель построена на плотной архитектуре Llama и содержит около 1 млрд параметров; заявленная длина контекста — 32 768 токенов. В карточке также отмечена возможность работы с кодом. Модель представлена в формате safetensors и распространяется по лицензии Apache-2.0. В README приведены сведения об обучении и оценке исходной csg-wukong-1B на open_llm_leaderboard, но отдельные результаты оценки чат-версии не указаны.

Deacon-20B — разговорная языковая модель семейства Llama, опубликованная KnutJaegersberg. Она предназначена для генерации текста и выполнения пользовательских инструкций в диалоге. В README приведён пример запроса о дообучении языковой модели, а метаданные указывают 19,6 млрд параметров и контекст до 4096 токенов. Модель использует плотную архитектуру LlamaForCausalLM и распространяется в формате safetensors. В карточке приведены результаты оценок на задачах рассуждения и продолжения здравого смысла. Указанная лицензия CC BY-NC 4.0 разрешает использование с атрибуцией, но запрещает коммерческое применение.

Decision-1.0-Kai-0.6B — модель принятия решений из линейки Open Decision Foundation Models от llm-semantic-router. Она совместно анализирует контекст, вопросы и описания вариантов, чтобы выбирать действие или категорию, оценивать истинность условия и выставлять оценки по упорядоченной шкале. Результаты выдаются структурированно, с распределениями вероятностей; модель не генерирует текстовый ответ.

unsloth/DeepSeek-R1-Distill-Llama-70B-GGUF — это GGUF-версия дистиллированной языковой модели DeepSeek-R1-Distill-Llama-70B. Модель создана на основе DeepSeek-R1-Distill-Llama-70B, разработанной командой DeepSeek, а данный вариант опубликован Unsloth. Это текстовая модель для генерации ответов и решения задач в диалоговом и общем текстовом режимах; в примере README она используется для рассуждений и простых математических вопросов через llama.cpp. Модель содержит 70 млрд параметров и основана на архитектуре семейства Llama; точная версия базовой архитектуры и размер контекстного окна в README не указаны. Поддерживаемый язык обозначен как английский. Формат GGUF предназначен для локального запуска с llama.cpp и поддерживает квантованные варианты, включая Q4_K_M и Q8_0. Для ускорения возможна частичная выгрузка слоёв на GPU, однако из-за размера модели запуск требует значительных вычислительных ресурсов. К сильным сторонам относятся большой размер, возможности дистиллированной модели DeepSeek-R1 и удобство локального использования в llama.cpp с разными уровнями квантования. Ограничения — высокая требовательность к памяти и отсутствие в предоставленных данных сведений о точности на тестах, мультимодальности, контекстном окне и поддержке языков помимо английского. Модель распространяется по лицензии llama3.3.

Карточка модели Mafasasa/Dolphin-Mistral-24B-Venice-Edition на Hugging Face совпадает с карточкой dphn/Dolphin-Mistral-24B-Venice-Edition, поэтому описание составлено по ней. Dolphin Mistral 24B Venice Edition — разговорная модель общего назначения, созданная в совместном проекте Dolphin и Venice.ai на основе Mistral-Small-24B-Instruct-2501. Это плотная модель семейства Mistral 3 с 24 млрд параметров, представленная в формате safetensors и рассчитанная на работу через Transformers; для развёртывания авторы рекомендуют vLLM. Модель предназначена для диалогов и выполнения инструкций в приложениях, где владелец задаёт системный промпт и самостоятельно определяет стиль и правила ответов. Авторы позиционируют её как менее ограниченную настройками поведения, чем обычные коммерческие чат-модели, и сообщают, что она используется как модель Venice Uncensored. В карточке указан стандартный шаблон чата Mistral; авторы рекомендуют низкую температуру генерации, например 0,15. Модель принимает текст и генерирует текст. README не сообщает поддерживаемые естественные языки и длину контекста. Репозиторий распространяется по лицензии Apache-2.0. Модель ориентирована на управляемое поведение, однако её следование инструкциям зависит от системного промпта и параметров генерации; заявленная сниженная цензура означает, что ответы могут включать потенциально вредный или неподходящий контент.

Карточка модели TMA-1/Dolphin-Mistral-24B-Venice-Edition на Hugging Face совпадает с карточкой dphn/Dolphin-Mistral-24B-Venice-Edition, поэтому описание составлено по ней. Dolphin Mistral 24B Venice Edition — разговорная модель общего назначения, созданная в совместном проекте Dolphin и Venice.ai на основе Mistral-Small-24B-Instruct-2501. Это плотная модель семейства Mistral 3 с 24 млрд параметров, представленная в формате safetensors и рассчитанная на работу через Transformers; для развёртывания авторы рекомендуют vLLM. Модель предназначена для диалогов и выполнения инструкций в приложениях, где владелец задаёт системный промпт и самостоятельно определяет стиль и правила ответов. Авторы позиционируют её как менее ограниченную настройками поведения, чем обычные коммерческие чат-модели, и сообщают, что она используется как модель Venice Uncensored. В карточке указан стандартный шаблон чата Mistral; авторы рекомендуют низкую температуру генерации, например 0,15. Модель принимает текст и генерирует текст. README не сообщает поддерживаемые естественные языки и длину контекста. Репозиторий распространяется по лицензии Apache-2.0. Модель ориентирована на управляемое поведение, однако её следование инструкциям зависит от системного промпта и параметров генерации; заявленная сниженная цензура означает, что ответы могут включать потенциально вредный или неподходящий контент.

JANGQ-AI выпустила NVFP4-квантизированную версию dots-studio/dots3-note-prev для видеокарт NVIDIA Blackwell, включая RTX 50 и DGX Spark. Модель семейства dots3-note использует архитектуру MoE: в README указаны 280 млрд общих и 16 млрд активных параметров, 256 маршрутизируемых экспертов и один общий эксперт. Метаданные Hugging Face указывают 15,4 млрд параметров; размер модели поэтому приводится по README, а значение из метаданных не совпадает с ним. Модель предназначена для диалогов, программирования, рассуждений и агентных сценариев с вызовом инструментов. Она принимает текст, изображения, видео и аудио; видео обрабатывается вместе с аудиодорожкой. Контекст по метаданным — до 524 288 токенов. Квантизация затрагивает экспертные слои, тогда как компоненты внимания, общие эксперты, мультимодальные энкодеры и ряд других слоёв оставлены в BF16. README сообщает о проверенном vLLM-рантайме для двух узлов DGX Spark с tensor parallelism 2. Модель распространяется с открытыми весами по лицензии Apache-2.0. Её применение рассчитано на совместимое оборудование NVIDIA Blackwell и требует ресурсоёмкой конфигурации: README указывает около 174 ГБ на диске и запуск на двух узлах DGX Spark. Характеристики и ограничения качества независимыми оценками в предоставленных материалах не подтверждены.

DPOpenHermes 7B GGUF — квантизированная версия языковой модели DPOpenHermes 7B, разработанной Open Access AI Collective и подготовленной в формате GGUF компанией TheBloke. Модель основана на архитектуре Mistral, предназначена для генерации текста и диалоговых сценариев, а также может использоваться локально через llama.cpp и совместимые интерфейсы и библиотеки. Указан английский язык; поддерживается шаблон диалога ChatML с системными и пользовательскими сообщениями. Модель имеет 7 миллиардов параметров. Доступны варианты GGUFv2 с квантованием от 2 до 8 бит, включая CPU+GPU-инференс, что позволяет выбирать компромисс между требованиями к памяти, скоростью и качеством. Формат поддерживается llama.cpp, text-generation-webui, KoboldCpp, GPT4All, LM Studio, llama-cpp-python и другими инструментами. Контекстное окно, точные требования к ресурсам и показатели качества в README не указаны. Модель обучалась с использованием наборов teknium/openhermes, argilla/ultrafeedback-binarized-preferences и Intel/orca_dpo_pairs. Сильными сторонами являются открытый формат, возможность локального запуска и широкий выбор уровней квантования. Ограничениями выступают преимущественно англоязычная специализация, отсутствие заявленных мультимодальных возможностей и неполная информация о производительности и контекстном окне. Лицензия — Apache-2.0.

ECE-1B-merge-PRYMMAL — языковая модель LilRg, полученная слиянием Qwen2.5-1.5B-Instruct и Qwen2.5-1.5B методом SLERP с помощью LazyMergekit. Это плотная причинная трансформерная модель семейства Qwen2, содержащая 1,5 млрд параметров и принимающая текст для генерации текста и диалоговых ответов. Контекстное окно составляет до 32 768 токенов; в метаданных также отмечен интерфейс вызова инструментов. Модель подходит для компактных чат-приложений, генерации и продолжения текста, а также формирования структурированных ответов. Репозиторий содержит веса в формате Safetensors. Лицензия — Apache-2.0. README не приводит результатов оценки качества или конкретных ограничений поведения модели.

EXAONE-4.0-1.2B — компактная плотная авторегрессионная языковая модель LG AI Research для диалогов, генерации текста и запуска на устройствах. Модель содержит около 1,3 млрд параметров по метаданным; в конфигурации README указано 1,07 млрд параметров без эмбеддингов. Она поддерживает контекст до 65 536 токенов и использует 30 слоёв, групповые запросы внимания с 32 головами и 8 KV-головами, а также словарь из 102 400 токенов. Модель предлагает режимы обычного ответа и рассуждения, а также интерфейс вызова инструментов. Заявлена поддержка английского, корейского и испанского языков; особенно ориентированные языки — английский и корейский. Модель рассчитана на локальные и встроенные сценарии, где важны небольшой размер и длинный контекст, а также на диалоговые приложения и агентные системы. Ответы могут содержать фактические ошибки, предвзятость или неподходящую информацию; знания модели могут быть устаревшими. Для режима рассуждений качество чувствительно к параметрам генерации. Лицензия указана как other; README сообщает об обновлении условий в сторону большей гибкости, но конкретные условия следует сверять с лицензией репозитория.

ZenML разработала эту модель Sentence Transformers, дообученную на базе Snowflake/snowflake-arctic-embed-m-v1.5 на 36 примерах из набора json. Она преобразует предложения и абзацы на английском языке в плотные векторы размерностью 768 для сравнения семантической близости; архитектура включает BERT, CLS-пулинг и нормализацию, а сходство можно оценивать косинусной мерой. Модель подходит для семантического поиска, сопоставления похожих предложений, поиска перефразировок, кластеризации и подготовки векторных признаков для классификации текста. Максимальная длина входа — 512 токенов. Карточка приводит результаты поиска на небольшом наборе и описывает обучение на 36 примерах, поэтому качество за пределами данных и сценариев ZenML требует отдельной оценки. Лицензия — Apache-2.0.

ForgottenMaid-12B — объединённая языковая модель на 12,1 млрд параметров, созданная с помощью mergekit и метода Arcee Fusion. За основу взята yamatazen/LoyalMaid-12B, также в объединение включена ReadyArt/Forgotten-Safeword-12B-v4.0; архитектура — плотная MistralForCausalLM, веса опубликованы в формате safetensors с точностью bfloat16. Модель предназначена для генерации текста и диалогового общения. Метаданные также отмечают интерфейс вызова инструментов. Заявленная длина контекста составляет 1 024 000 токенов. Сведения о лицензии, целевых языках и специальных прикладных областях в предоставленных источниках отсутствуют.

FuseO1-DeepSeekR1-Qwen2.5-Instruct-32B-Preview-GGUF — это GGUF-квантизированная версия instruct-модели FuseO1-DeepSeekR1-Qwen2.5-Instruct-32B-Preview, разработанной FuseAI и подготовленной для распространения пользователем bartowski. Модель предназначена для генерации текста и запуска локально через llama.cpp и совместимые приложения, включая LM Studio. В основе лежит модель с 32 миллиардами параметров; доступны варианты от BF16 до различных форматов квантизации Q8, Q6, Q5, Q4, Q3 и IQ. Квантизация выполнена с использованием imatrix на базе llama.cpp b4514. Более высокие форматы сохраняют лучшее качество, а варианты Q4 и Q3 требуют меньше оперативной памяти; наиболее универсальным в README назван Q4_K_M. Указан специальный шаблон промпта с ролями system, User и Assistant. Модель ориентирована на локальный инференс и сценарии, где важны автономность, выбор размера файла и баланс между качеством и требованиями к памяти. README не содержит сведений о поддерживаемых языках, длине контекста, мультимодальности, результатах бенчмарков или ограничениях качества. Лицензия в предоставленных данных не указана.

FuseO1-DeepSeekR1-QwQ-SkyT1-Flash-32B-Preview-GGUF — это набор GGUF-квантизаций базовой модели FuseO1-DeepSeekR1-QwQ-SkyT1-Flash-32B-Preview, разработанной FuseAI и подготовленной пользователем bartowski. Модель предназначена для генерации текста и локального запуска через llama.cpp, в том числе в LM Studio. Доступны варианты от полного BF16 до более компактных Q8_0, Q6, Q5, Q4, Q3 и IQ-квантизаций. Размер файлов составляет примерно от 17,25 до 65,54 ГБ. Квантизация выполнена с использованием imatrix и llama.cpp версии b4546. Для работы рекомендуется применять указанный в README формат prompt. Сведения об архитектуре, поддерживаемых языках, модальностях и размере контекста не приведены. Сильная сторона набора — широкий выбор компромиссов между качеством, размером и требованиями к памяти: варианты Q6 и Q5 заявлены как высококачественные, Q4_K_M — как рекомендуемый вариант для большинства сценариев, а Q3 предназначены для систем с ограниченным объёмом оперативной памяти. Ограничения связаны с необходимостью значительных вычислительных ресурсов даже для компактных вариантов и потенциальной потерей качества при использовании низких уровней квантизации. Лицензия модели — Apache-2.0.

unsloth/gemma-2-9b-bnb-4bit — это квантизированная 4-битная версия языковой модели Gemma 2 с 9 млрд параметров, разработанная на базе google/gemma-2-9b и подготовленная Unsloth с использованием bitsandbytes. Модель предназначена для задач генерации и дополнения текста, диалоговых приложений, а также дообучения на собственных наборах данных с помощью Transformers и инструментов Unsloth. Из доступных данных известно, что модель работает с текстом и поддерживает английский язык. Она распространяется в формате 4-bit и ориентирована на снижение требований к памяти при запуске и дообучении; для Gemma 2 (9B) заявлены экономия памяти до 58% и ускорение до 2,4 раза в соответствующем сценарии Unsloth. README не содержит сведений о длине контекста, точной архитектуре, качестве на конкретных бенчмарках или поддержке других языков и модальностей. К сильным сторонам относятся уменьшенный объём памяти и совместимость с экосистемой Transformers, а также возможность последующего экспорта в GGUF и vLLM. Ограничения связаны с 4-битной квантизацией, которая может влиять на точность и не обязательно подходит для всех задач. Модель распространяется по лицензии Gemma; условия её использования следует уточнять в документации Google.

Gemma-3-1b-it-GGUF — квантизированная GGUF-версия модели gemma-3-1b-it, разработанной Google и подготовленной в квантизированном виде компанией Second State Inc. Это инструкционно настроенная модель генерации текста, предназначенная для диалогов, обработки пользовательских запросов и запуска локальных приложений и сервисов, включая LlamaEdge. Поддерживается контекст размером до 32 000 токенов. Сведения о языках, мультимодальности и точной архитектуре в README не указаны. Модель доступна в вариантах квантования от Q2_K до Q8_0, а также в формате f16, с размером файлов примерно от 689 МБ до 2,01 ГБ. Вариант Q4_K_M рекомендован как сбалансированный по качеству и размеру, а Q5_K_M и Q5_K_S — как варианты с минимальной потерей качества. Более низкие уровни квантования уменьшают требования к ресурсам, но могут существенно снижать качество; README отдельно указывает, что Q2_K и некоторые Q3- и Q4-варианты имеют значительные потери. Для использования заявлена лицензия Gemma.

ZeroXClem/Gemma3-4B-Arceus-Servant — мультимодальная модель для диалогов, созданная ZeroXClem путём слияния нескольких моделей семейства Gemma 3 методом MODEL STOCK. В состав вошли Gemma3-Callous-Calla-4B, Meteor_4B_V.1, scout-4b, gemma-3-4b-it-claude, Gemma3-Code-Reasoning-4B и gemma-3-4b-it-abliterated. Модель основана на архитектуре Gemma 3 4B с 34 слоями и использует формат safetensors; README также указывает точность bfloat16. Модель предназначена для диалогов, ответов на вопросы по изображениям, генерации текста, программирования и творческого письма. В карточке заявлены рассуждения с учётом ограничений и высокая точность следования инструкциям. Эти качества описаны разработчиком, но независимые результаты оценки не приведены. Лицензия — Apache-2.0. Среди ограничений: заявленная в README ослабленная система отказов означает, что модель может охотнее отвечать на запросы, от которых другие модели отказываются; перед применением в чувствительных сценариях ответы следует проверять.

Gemma-4-12B-it-abliterated-uncensored — дообученная версия Gemma 4 12B Unified от автора OpenYourMind, созданная на основе google/gemma-4-12B-it. Веса BF16 содержат около 11,95 млрд параметров; архитектура — плотный decoder-only трансформер из 48 слоёв с единой мультимодальной обработкой без отдельных энкодеров для изображений и аудио. Модель предназначена для диалогов и генерации текста, а также для обработки изображений и аудио в мультимодальных запросах; в README также описана поддержка видеовхода. Вариант прошёл абляцию отказов, направленную на снижение стандартных отказов, при этом автор заявляет о сохранении рассуждений и мультимодальных возможностей исходной модели. Для запуска используются класс Gemma 4 в библиотеке Transformers и мультимодальный процессор; полные веса занимают около 24 ГБ. Модель распространяется по лицензии Gemma, унаследованной от базовой модели; перед использованием необходимо соблюдать её условия. Снижение отказов может влиять на безопасное поведение, а качество и надёжность ответов для этой модификации в карточке не подтверждены независимой оценкой.

jenerallee78/gemma-4-26B-A4B-it-ara-abliterated — мультимодальная instruction-tuned модель, созданная на базе Google Gemma 4 26B-A4B-IT с применением метода Adaptive Refusal Abliteration (ARA). Разработчик заявляет, что модель предназначена для диалоговых сценариев, генерации текста и работы с изображениями; в метаданных указан английский язык. Это модификация с ослабленными встроенными ограничениями на отказы, поэтому её применение требует самостоятельной оценки безопасности. Модель использует MoE-архитектуру со 128 экспертами и 8 активными экспертами на токен, примерно 4 млрд активных параметров на токен, 30 слоями и контекстом до 262 144 токенов. Она поддерживает мультимодальный ввод благодаря vision encoder на базе SigLIP; каждое изображение преобразуется примерно в 280 soft tokens. Доступны варианты BF16 SafeTensors и GGUF для Transformers, vLLM, SGLang и llama.cpp, а также смешанная 4-битная MLX-квантизация для Apple Silicon. Размеры файлов составляют около 48 ГБ для BF16, 20 ГБ для Q5_K_M GGUF и 15 ГБ для MLX-варианта. По приведённым автором результатам, на наборе из 507 тестовых вредоносных запросов доля отказов составила 7,7%, средняя оценка качества соблюдения запроса — 4,6 из 5, а KL-дивергенция относительно базовой модели — 0,1299. Эти показатели относятся к заявленной методике и конкретным бенчмаркам и не гарантируют аналогичное поведение в других условиях. Модель распространяется по лицензии Apache 2.0.