I.2Синтез, понимание и проверка знаний

jimypbr/bart-large-test — дообученная модель на базе facebook/bart-large, обученная на наборе cnn_dailymail 3.0.0. Это BART с 252,8 млн параметров, предназначенный для генерации текста; обучение на новостных статьях и их сводках указывает на сценарий создания кратких пересказов новостей. Модель использует архитектуру BART и принимает текст, выдавая сгенерированный текст. Максимальная длина контекста — 1024 токена. Репозиторий содержит веса PyTorch и опубликован по лицензии Apache-2.0. Автор README помечает веса как незавершённую работу и не рекомендует их использовать. Поэтому качество и пригодность модели для практического применения не подтверждены.

prajjwal1/bert-tiny-mnli — компактная модель классификации текста на архитектуре BERT, опубликованная Prajjwal Bhargava. Вариант BERT был преобразован из контрольной точки TensorFlow из официального репозитория Google BERT, а затем обучен на MNLI в течение четырёх эпох; в репозитории представлены веса PyTorch и Flax. Модель содержит около 4,4 млн параметров и принимает последовательности длиной до 512 токенов. Модель предназначена для классификации текста, в частности для задач вывода по естественному языку (NLI), где требуется оценить связь между посылкой и гипотезой. Компактный размер делает её подходящей для экспериментов и сценариев, где важны небольшие вычислительные затраты. Лицензия в предоставленных данных не указана.

BioGPT-Large-PubMedQA — англоязычная генеративная языковая модель Microsoft на базе плотного авторегрессионного Transformer BioGPT, дообученная для вопросов и ответов по биомедицинской литературе PubMedQA. Она предназначена для генерации ответов на вопросы по научным публикациям, а также может создавать связные описания биомедицинских терминов и помогать с извлечением отношений в биомедицинском тексте. Модель содержит 2,1 млрд параметров, принимает и генерирует текст, использует веса PyTorch и рассчитана на контекст до 2048 токенов. В карточке описаны результаты на нескольких биомедицинских NLP-задачах, включая точность 78,2% на PubMedQA; эти показатели относятся к заявленной оценке и не гарантируют качество в иных сценариях. Модель специализирована на научной биомедицинской литературе и не заменяет проверку ответов экспертами. Лицензия — MIT.

Bonsai 2 27B GSQ + RCO — экспериментальная версия Bonsai 2 27B, подготовленная ProCreations. Это слияние моделей в формате GGUF с доминирующим форматом квантования Prism PTQ1_0: для весов применено тернарное квантование GSQ, а RCO распределяет ограниченный бюджет хранения между матрицами. По карточке, файл занимает около 6,496 ГБ. Модель предназначена для генерации текста и диалогового использования. В сравнении с исходной квантованной Bonsai эта версия показала на 5,84% меньшую perplexity на WikiText-2. Изменения точности на четырёх задачах были небольшими и смешанными; доверительные интервалы включали ноль. Эти результаты не подтверждают общего улучшения качества и не означают эквивалентности исходной BF16-модели. Для запуска требуется совместимая версия форка llama.cpp, поддерживающая PTQ1_0 и метаданные вращений; обычная сборка llama.cpp не гарантируется. Лицензия — Apache-2.0.

Cabra Mixtral 8x7b — дообученная на внутреннем датасете Cabra 30k языковая модель семейства Mixtral от BotBot Robotics. Это генеративная модель с архитектурой MoE; в репозитории опубликованы веса safetensors. Модель оптимизирована для португальского языка и поддерживает контекст длиной до 32 768 токенов. Метаданные указывают 7,1 млрд параметров. Модель предназначена для генерации текста и диалоговых сценариев на португальском языке, в том числе для исследований генеративных моделей и их ограничений и предвзятости. Авторы сообщают об улучшении результатов на ряде бразильских бенчмарков относительно базовой модели. Лицензия указана как CC, а README запрещает коммерческое использование и разрешает применение только в исследовательских целях.

AmberYifan/capsd-marin-8b-base-science_random_b80000_s0 — дообученная языковая модель семейства Llama на базе marin-community/marin-8b-base. Модель с плотной архитектурой LlamaForCausalLM содержит 7,5 млрд параметров и рассчитана на генерацию текста; карточка также отмечает диалоговый режим. Для дообучения использован набор capsd_marin-8b-base-n80000-sciweb-stackexchange__mix_science_random_b80000_s0, связанный с научными материалами и Stack Exchange. Это указывает на сценарии генерации и продолжения текста по научной тематике, но README не описывает специализированные возможности или результаты оценки. Контекст модели — 4096 токенов; библиотека запуска — Transformers, веса опубликованы в формате safetensors. Базовая marin-8b-base описана как англоязычная, поэтому английский — основной язык модели. Лицензия указана как other; конкретные условия использования из доступных сведений установить нельзя.

Hongbin37/CBT-LLM — instruction-tuned LoRA-модель для вопросов и ответов, построенная на архитектуре Baichuan. В карточке указана задача question-answering; метаданные каталога также относят её к text-generation. Модель содержит 6,7 млрд параметров и поддерживает контекст до 4096 токенов. Модель предназначена для ответов на вопросы и генерации текста по инструкциям на китайском языке. Это адаптер LoRA, поэтому для работы требуется базовая модель Baichuan; точный идентификатор базовой модели в доступных данных не указан. Указаны формат PyTorch и лицензия Apache-2.0, при этом README отдельно предписывает соблюдать лицензию Baichuan-7B.

ChemDFM-v1.5-8B — диалоговая языковая модель для химии и молекулярных наук, разработанная командой OpenDFM. Версия 1.5 создана на базе LLaMA-3-8B с дополнительным доменным предобучением и настройкой на инструкции; каталог указывает архитектуру LLaMA, 7,5 млрд параметров и контекст до 8192 токенов. Модель распространяется в формате Safetensors по лицензии AGPL-3.0. Модель предназначена для диалоговых ответов на вопросы по химии и выполнения типичных химических задач, включая запросы с обозначениями SMILES. Карточка рекомендует канонизировать SMILES с помощью RDKit и формировать запросы с шаблоном диалога. Указана поддержка английского и китайского языков. В README сообщается о высоких результатах на типичных химических задачах, однако модель может выдавать неверную или вводящую в заблуждение информацию; ответы следует проверять с экспертами, особенно перед принятием решений.

Custom-KoLLM-13B-v5 — авторегрессионная языковая модель, разработанная Kyujin Han (kyujinpy) на основе архитектуры LLaMA 2. Модель содержит 12,9 млрд параметров и дообучена на датасете kyujinpy/KOR-gugugu-platypus-set от базовой модели beomi/llama-2-koen-13b. Модель предназначена для генерации текста на корейском языке и общих языковых задач; в карточке приведены результаты сравнительных оценок на корейских бенчмарках Ko-ARC, Ko-HellaSwag, Ko-MMLU, Ko-TruthfulQA и Ko-CommonGen V2. Она принимает текст и генерирует текст, поддерживает контекст до 2048 токенов и распространяется в форматах PyTorch и safetensors для Transformers. Лицензия — CC BY-NC-SA 4.0, допускающая использование с указанием авторства, на некоммерческих условиях и с распространением производных работ на тех же условиях. Представленные оценки ограничены результатами указанных тестов и не гарантируют качество для любых прикладных задач.

CuttyMOA-1.3-i1-GGUF — это квантизированная в формате GGUF версия модели CuttyMOA-1.3, разработанной на базе sayeed105236/CuttyMOA-1.3 и подготовленной пользователем mradermacher. В карточке модель описана как vision-модель с архитектурой Mixture of Experts, дообученная с применением LoRA и SFT. Указан английский язык; модель предназначена для генерации текста и задач, связанных с обработкой текста и изображений. Репозиторий содержит набор вариантов квантизации i1 с размерами примерно от 7,2 до 22,2 ГБ. Доступны форматы IQ и Q, различающиеся балансом между размером, скоростью и качеством; среди рекомендуемых отмечены i1-Q4_K_M как быстрый вариант и i1-Q4_K_S как компромисс между размером, скоростью и качеством. Низкобитные варианты могут заметно уступать по качеству, тогда как более крупные варианты ближе к исходной модели. Модель подходит для локального запуска в совместимом ПО, поддерживающем GGUF; для работы с изображениями могут потребоваться дополнительные mmproj-файлы из статического репозитория. В README не указаны количество параметров, длина контекста, точный набор поддерживаемых модальностей, результаты тестирования или подробные сценарии применения, поэтому оценить производительность и ограничения более точно невозможно. Лицензия — Apache-2.0.

Cydonia-24B-v4.3-absolute-heresy-Q4_K_M-GGUF — это версия модели Cydonia-24B-v4.3-absolute-heresy, преобразованная в формат GGUF. Конвертацию выполнил jwhisenhunt с использованием llama.cpp и сервиса GGUF-my-repo; исходная модель разработана MuXodious. Обозначение 24B указывает на класс модели примерно с 24 миллиардами параметров, однако точная архитектура в представленном README не указана. Модель предназначена для генерации текста и локального запуска через llama.cpp в режиме командной строки или сервера. Квантизация Q4_K_M уменьшает требования к ресурсам по сравнению с полноразмерной версией, что делает модель более подходящей для локального инференса, хотя может снижать точность по сравнению с более высокими разрядностями. В качестве рекомендуемого примера указан контекст длиной 2048 токенов. Данные о поддерживаемых языках, мультимодальности, специализированных сценариях, результатах тестирования и конкретных ограничениях качества отсутствуют. В метаданных модель помечена как uncensored, decensored и abliterated, но README не приводит подробного описания этих свойств или их практических последствий. Лицензия в предоставленных данных не указана, поэтому условия использования необходимо уточнять в карточке исходной модели и репозитории модели.

DarkIdol-Llama-3.1-8B-Instruct-1.2-Uncensored-GGUF — квантизированная версия инструкционной языковой модели DarkIdol-Llama-3.1-8B-Instruct-1.2-Uncensored, разработанной aifeifei798 и подготовленной для GGUF bartowski. Модель основана на архитектуре Llama 3.1, содержит 8 млрд параметров и предназначена для генерации текста, диалогов и ролевых сценариев, включая использование в SillyTavern. Указанная версия рассчитана на запуск через llama.cpp и LM Studio и поддерживает несколько вариантов квантизации с различным соотношением качества, размера и требований к оперативной памяти. В README заявлена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского, тайского, китайского, корейского и японского языков. Доступны файлы от полного F32 размером 32,13 ГБ до компактных вариантов Q3 и IQ3; рекомендуемыми названы, в частности, Q4_K_M, Q5, Q6 и другие варианты с более высоким качеством. Сильными сторонами являются широкий выбор квантизаций, локальный запуск и ориентация на ролевые диалоги. Ограничения — снижение качества у наиболее компактных вариантов и отсутствие в предоставленных данных сведений о размере контекста, точных характеристиках архитектуры и результатах независимого тестирования. Лицензия указана как llama3.1. Модель является текстовой и не поддерживает мультимодальный ввод по данным README.

DatedGPT-2023 base — предварительно обученная языковая модель семейства DatedGPT, разработанная для прогнозирования и анализа, при которых важно учитывать только информацию, доступную к определённой дате. Эта версия обучена на данных до 2023 года, что помогает избегать смещения из-за использования будущей информации. Модель построена на архитектуре LlamaForCausalLM и содержит около 1,3 млрд параметров. Она принимает текст и генерирует продолжение; длина контекста составляет 2048 токенов. Модель не проходила инструкционное дообучение и не предназначена для диалогового следования инструкциям. README сообщает об отсутствии RLHF и настройки безопасности; знания ограничены временным срезом данных до 2023 года. Лицензия в предоставленных источниках не указана.

Ornith-1.0-35B-GGUF — это квантизированная версия модели Ornith-1.0-35B, разработанной deepreinforce-ai и подготовленной в формате GGUF пользователем bartowski. Репозиторий предназначен для локального запуска через llama.cpp и совместимые приложения, включая LM Studio, KoboldCpp, Jan AI и Text Generation Web UI. В метаданных указано назначение image-text-to-text, однако подробное описание мультимодальных возможностей в README отсутствует. Модель содержит 35 млрд параметров. Доступны веса BF16 и варианты квантизации от Q8_0 до Q3_K и IQ3, что позволяет выбирать между качеством ответа и требованиями к оперативной памяти; размеры файлов составляют примерно 16,2–36,9 ГБ для основных квантованных вариантов, а BF16-версия занимает 69,38 ГБ. Для запуска следует использовать шаблон диалога с маркерами <|im_start|> и <|im_end|>; в шаблоне предусмотрен раздел <think>. Языки, размер контекста, точная архитектура и поддерживаемые типы входных данных не указаны. Сильной стороной модели является широкий выбор квантизаций с использованием imatrix, включая варианты, ориентированные на высокое качество или ограниченный объём памяти. Ограничения связаны с отсутствием в README данных о результатах тестирования, языковой поддержке, контекстном окне и фактических мультимодальных возможностях; качество также зависит от выбранного уровня квантизации. Модель распространяется по лицензии MIT.

DeepSeek-V4.1-Flash-GSQ-RCO-GGUF — сторонняя community-квантизация модели DeepSeek-V4.1-Flash, опубликованная Josephine Pfeiffer. Квантизация выполнена методами GSQ и RCO, разработанными Deep Algorithms and Systems Lab (DASLab) при Institute of Science and Technology Austria. Релиз не является официальной сборкой IST-DASLab и не одобрен авторами методов. Модель предназначена для текстового и мультимодального вывода в формате GGUF. В комплект входят backbone DeepSeek-V4.1-Flash, DSpark-модель для speculative decoding и BF16 vision projector с vision encoder. Backbone имеет 552 млрд параметров, дополнен 196 млрд параметров Engram-памяти; его веса квантизированы примерно до 3 бит на параметр, а таблицы Engram хранятся в Q8_0. Общий основной файл занимает 415,76 ГБ, отдельная draft-модель — 9,32 ГБ, vision projector — 0,97 ГБ. К сильным сторонам относятся существенное уменьшение размера по сравнению с исходным чекпойнтом, поддержка мультимодального сценария и оптимизация распределения типов квантизации с учётом чувствительности тензоров. В README приведены результаты MMLU-Pro 61,00% и perplexity 3,4845570141, однако vision и speculative decoding не валидировались. Для работы требуется более 415 ГБ памяти только под основной файл, дополнительная память нужна для KV-кэша и буферов; Engram рекомендуется размещать в оперативной памяти хоста. Языки и размер контекстного окна модели в описании не указаны; для MMLU-Pro использовался лимит 2048 токенов. Релиз распространяется по лицензии MIT.

DoppelPotato — текстовая генеративная модель на архитектуре Mistral, собранная nbeerbower с помощью mergekit из частей модели nbeerbower/mistral-nemo-kartoffel-12B. В конфигурации Passthrough повторяется диапазон слоёв 27–33; итоговый чекпойнт содержит 13,2 млрд параметров и сохранён в формате safetensors с точностью bfloat16. Модель предназначена для генерации текста и диалогового взаимодействия. Метаданные указывают контекстное окно до 1 024 000 токенов. Карточка не описывает специализацию по предметным областям, языковое покрытие или лицензию, поэтому эти свойства нельзя уточнить. Указание на возможность чата не гарантирует качество ответов; особенности поведения и результаты оценки в карточке не приведены.

ELYZA-japanese-Llama-2-13b — плотная авторегрессионная языковая модель семейства Llama 2, разработанная командой ELYZA. Модель основана на Llama 2 и прошла дополнительное предварительное обучение для расширения возможностей работы с японским языком. В карточке указаны разработчики: Акира Сасаки, Масато Хиракава, Синтаро Хориэ, Томоаки Накамура, Сэм Пассалия и Дайсукэ Оба. Модель содержит 12,9 млрд параметров по метаданным Hugging Face (в README указано 13,02 млрд), использует архитектуру LlamaForCausalLM и принимает текст для генерации текста. Указанная длина контекста — 4096 токенов. Метаданные отмечают японский и английский языки; основная цель дополнительного обучения — повысить качество работы на японском. Модель подходит для генерации японского текста и других задач продолжения текста. README не приводит результатов оценки качества или подробных рекомендаций по применению. Репозиторий использует лицензию llama2, поэтому условия использования определяются лицензией Llama 2.

IDEA-CCNL разработала Erlangshen-DeBERTa-v2-320M-Chinese — китайскую модель семейства DeBERTa-v2 для задач понимания естественного языка. Это плотный трансформер DeBERTa-v2 с архитектурой DebertaV2ForMaskedLM; в README указано 320 млн параметров, а в метаданных Hugging Face — 415,8 млн. Модель обучали на корпусе WuDao объёмом 180 ГБ с маскированием целых слов (Whole Word Masking) в задаче MLM. Контекст — 512 токенов. Основное применение по карточке Hugging Face — заполнение масок: модель предлагает варианты вместо токена [MASK] в китайском тексте. Такой режим подходит для восстановления пропусков и получения контекстных представлений текста, а также служит основой для дальнейшей настройки под задачи NLU. README приводит результаты на китайских наборах AFQMC, TNEWS1.1, IFLYTEK, OCNLI и CMNLI. Модель доступна в форматах PyTorch и Safetensors по лицензии Apache-2.0.

EvoLM-8B-Rubric — дообученная модель на базе Qwen/Qwen3-8B, созданная в рамках проекта EvoLM: Self-Evolving Language Models through Co-Evolved Discriminative Rubrics. Она генерирует взвешенные критерии оценки, адаптированные к конкретному вопросу и ответам. Это финальный чекпойнт этапа генерации рубрик на шаге обучения 1000; на этом этапе модель получила 500 шагов обновления, поскольку обучение чередовало фазы рубрик и политики. Модель предназначена для использования в конвейере оценки ответов: отдельная модель-судья применяет созданные критерии к кандидатным ответам. Чекпойнт не выдаёт скалярную оценку сам по себе и не является парной моделью политики stellalisy/EvoLM-8B. Архитектура — плотная Qwen3ForCausalLM, около 7,6 млрд параметров, контекст до 40 960 токенов; формат весов — safetensors, загрузка поддерживается через Transformers. Базовая модель описана как многоязычная диалоговая модель, однако README не перечисляет языки, на которых специально обучалась генерация рубрик. Лицензия — Apache-2.0. Качество рубрик и итоговых оценок зависит от промпта, параметров генерации и используемой модели-судьи; модель обучалась для генерации рубрик внутри конвейера EvoLM и не предназначена для самостоятельной классификации качества ответов.

wnsduf0000/exaone-nsmc-lora-merged-wnsduf0000 — текстовая генеративная модель семейства EXAONE 4, опубликованная пользователем wnsduf0000 на Hugging Face. Модель доступна через библиотеку Transformers и имеет размер около 1,3 млрд параметров. Модель предназначена для генерации текста и диалоговых сценариев, а также может использоваться как основа для прикладных решений, связанных с корейскими текстами и данными NSMC, судя по её идентификатору. В названии также указано, что это объединённая с базовой моделью версия LoRA-адаптации. Максимальная нативная длина контекста составляет 65 536 токенов. README не содержит сведений о разработчике, лицензии, поддерживаемых естественных языках, обучающих данных, результатах оценки или конкретных ограничениях. Поэтому модель следует применять с проверкой качества и безопасности генерируемых ответов, особенно в чувствительных сценариях.

EZO-Humanities-9B-gemma-2-it — это разговорная текстовая модель AXCXEPT, дообученная на базе Gemma-2-9B-it для повышения качества ответов по гуманитарным дисциплинам. Она предназначена для диалога и генерации текста, особенно при работе с литературой, философией, историей и культурными исследованиями. Модель построена на плотной архитектуре Gemma 2 и содержит 9 млрд параметров. Она ориентирована прежде всего на японский язык, но, согласно карточке, также отвечает на вопросы по широкому кругу тем и языков. Контекстное окно — 8192 токена. Веса доступны в формате safetensors; используется библиотека Transformers. README описывает обычное инструкционное дообучение на отобранных материалах японской Википедии и FineWeb. Модель может помогать с объяснением гуманитарных тем, однако качество ответов и фактическую точность следует проверять. Разработчик обозначает её как экспериментальный прототип, не предназначенный для коммерческого или критически важного применения. Применяются условия Gemma Terms of Use.

flammen15-gutenberg-DPO-v1-7B — языковая модель Mistral с 7,1 млрд параметров, созданная Flammen и дообученная методом Direct Preference Optimization на наборе Gutenberg DPO от Jon Durbin. В README также указано, что при создании использовалось слияние предварительно обученных моделей, однако базовой моделью в метаданных названа flammen15-mistral-7B. Модель предназначена для генерации текста, особенно ролевых диалогов с выразительными персонажами и творческого письма; заявлена также общая языковая компетентность. Архитектура — плотная MistralForCausalLM, формат весов — safetensors, библиотека — Transformers, контекст — до 32 768 токенов. README приводит результаты оценки на Open LLM Leaderboard, включая среднее значение 21,46 и IFEval 47,98. Лицензия — Apache-2.0. Карточка не сообщает поддерживаемые естественные языки и не описывает специальные ограничения качества или безопасности; результаты приведённых тестов сами по себе не гарантируют качество в конкретном сценарии.

badokorach/flan-t5-small-qa — дообученная модель семейства T5 на основе google/flan-t5-base, разработанная автором репозитория badokorach. По названию она предназначена для ответов на вопросы; карточка сообщает о дообучении на неизвестном наборе данных и приводит значение loss 0,0634 на оценочном наборе. Модель имеет архитектуру T5ForConditionalGeneration, около 123,8 млн параметров и принимает и генерирует текст; базовая модель ориентирована на многоязычные задачи NLP. Максимальная длина контекста — 512 токенов. Модель может применяться для генерации ответов на текстовые вопросы. Данные об обучающем наборе, подробностях оценки и практических ограничениях не приведены, поэтому значение loss само по себе не позволяет судить о качестве на новых данных. Весы опубликованы в формате PyTorch по лицензии Apache-2.0.

Модель abhishekai/gemma-2-2b-legal-raft-v2 — дообученная Abhishekai версия Gemma 2 на 2,7 млрд параметров для ответов на вопросы по найденным документам в юридических и финансовых сценариях. Она рассчитана на запросы с тремя кандидатными документами: выбирает источник с ответом и может отказаться отвечать, если ни один документ не содержит нужных сведений. Модель использует плотную архитектуру Gemma2ForCausalLM, поддерживает чат, принимает текст и имеет контекст длиной 8192 токена. Обучение выполнено методом RAFT поверх abhishekai/gemma-2-2b-legal-sft-v2 с QLoRA 4-бит и адаптерами LoRA. В оценке модели заметно улучшилось распознавание вопросов без ответа в документах: она чаще корректно отказывалась и реже отказывалась на вопросах с ответом. На ответимых вопросах преимущество перед базовой моделью не показано. Модель предназначена для английского языка. Отказы часто используют почти шаблонную формулировку, около 2% ответов в оценке повторялись, а при ответе модель может выдумывать цитаты. Абсолютное качество не подтверждено размеченными юридическими бенчмарками; автор описывает модель как демонстрацию метода, а не источник юридической или финансовой консультации. Лицензия — Gemma.

abhishekai/gemma-2-2b-legal-sft-v2 — диалоговая модель на архитектуре Gemma 2, дообученная методом QLoRA на базе google/gemma-2-2b-it для ответов на вопросы по предоставленным юридическим и финансовым фрагментам. После обучения адаптер объединён с весами в формате bf16; опубликованы веса safetensors, для загрузки не требуется PEFT. Модель содержит 2,7 млрд параметров, поддерживает контекст до 8192 токенов и предназначена прежде всего для англоязычного общения. Модель подходит для поиска ответов в найденных отрывках документов, проверки того, насколько ответ опирается на переданный контекст, и выполнения общих инструкций. В описанной авторами оценке она превзошла исходную модель, однако результат получен на одном наборе данных и оценён одной моделью-судьёй. Модель может убедительно выдумывать ссылки и ненадёжна в арифметике; результаты оценки не показывают качество ответов без предоставленного фрагмента. Она предназначена для демонстрации метода, а не для юридических или финансовых консультаций. Лицензия — Gemma Terms of Use, унаследованная от базовой модели; это не Apache-2.0.

Gemma-2-9B-ArliAI-RPMax-v1.1-GGUF — набор GGUF-квантизаций модели ArliAI/Gemma-2-9B-ArliAI-RPMax-v1.1, подготовленный bartowski с использованием llama.cpp и imatrix. Модель предназначена для генерации текста и может запускаться локально, в том числе через LM Studio и совместимые инструменты на базе llama.cpp. По названию RPMax она ориентирована на сценарии ролевого общения, однако README не содержит подробного описания обучения и результатов. В основе лежит Gemma 2 с примерно 9 млрд параметров; доступна версия с весами F16 и варианты квантизации от Q8_0 до Q3 и IQ3/IQ4. Размер файлов составляет примерно от 4,49 до 18,49 ГБ, что позволяет выбирать баланс между качеством и требованиями к памяти. Квантизации Q5–Q6 и выше заявлены как высококачественные, а Q4 — как компромиссные варианты для практического использования. Отдельные форматы оптимизированы для ARM и требуют соответствующих аппаратных инструкций. Модель использует специальный формат prompt с маркерами Gemma и не поддерживает system prompt. README не указывает поддерживаемые языки, длину контекста, мультимодальные возможности или подробные ограничения качества, поэтому эти характеристики нельзя подтвердить. Распространение осуществляется по лицензии Gemma; конкретные условия следует проверять в тексте лицензии.

Это экспериментальная версия Gemma 3 27B IT QAT, созданная Mlabonne на основе google/gemma-3-27b-it-qat-q4_0-unquantized. Автор применил метод abliteration: по активациям модели для вредоносных и безопасных запросов вычисляется направление отказа, которое затем вычитается из скрытых представлений выбранных модулей. Версия настроена на более точное снижение отказов и описана автором как uncensored. Модель предназначена для диалоговой генерации текста и ответов на вопросы по изображениям; карточка указывает мультимодальность Gemma 3 и контекст до 131 072 токенов. Она содержит 28,3 млрд параметров, использует архитектуру Gemma3ForCausalLM и распространяется в формате safetensors. Автор рекомендует параметры генерации temperature=1.0, top_k=64 и top_p=0.95. Снижение отказов может увеличить вероятность выдачи небезопасных или нежелательных ответов, а качество и связность могут зависеть от запроса и настроек генерации. Лицензия — Gemma; условия использования следует сверять с её текстом.

Gemma 3 4B IT Abliterated — экспериментальная модификация модели google/gemma-3-4b-it, созданная пользователем mlabonne. Модель предназначена для генерации текста и, согласно карточке, относится к классу image-text-to-text, то есть может использоваться в сценариях, сочетающих обработку изображений и текста. Точные сведения о поддерживаемых языках и размере контекста в README не указаны. Главная особенность модели — применение метода layerwise abliteration, направленного на удаление или ослабление отказов в ответах. Метод применялся независимо к скрытым состояниям большинства слоёв, с использованием весов отказа от 0,05 до пикового значения 0,55. По данным автора, это обеспечило уровень принятия запросов выше 90% при сохранении связности ответов. Для генерации рекомендуются параметры temperature=1.0, top_k=64 и top_p=0.95. Модель сохраняет основные возможности базовой Gemma 3 4B IT, но её поведение и качество являются экспериментальными. Автор отмечает периодическое появление искажённого или неграмотного текста, поэтому результаты требуют дополнительной проверки. В README также заявлена поддержка формата GGUF, однако подробности о конкретных вариантах квантования не приведены. Указанная лицензия — Gemma.

Gemma-4-26B-A4B-it-qat-q4_0-uncensored-heretic-GGUF — это модифицированная и квантованная версия модели Google Gemma 4 26B A4B, подготовленная независимым автором llmfan46. Модель распространяется в формате GGUF с квантованием q4_0 и предназначена для генерации текста и, согласно тегу pipeline, работы со сценариями image-text-to-text. Базовая модель была адаптирована методом Heretic v1.2.0 с использованием Arbitrary-Rank Ablation (ARA), чтобы уменьшить количество отказов и ограничений в ответах при сохранении близкого к исходной модели поведения. Заявленные параметры показывают 11 отказов из 100 против 100 из 100 у оригинальной модели, а KL-дивергенция относительно исходной версии составляет 0,0618. В README также приведён результат оригинальной модели на MMLU: точность 80,66%, однако отдельные результаты для модифицированной версии не указаны. Архитектурные детали, точный контекст, поддерживаемые языки и фактический набор модальностей в README не раскрыты; обозначение A4B сохранено в идентификаторе модели. Сильной стороной модели является уменьшенное количество отказов и более свободная генерация, что может быть полезно для исследовательских, творческих и локальных сценариев. При этом снижение защитных ограничений может повысить риск небезопасных или нежелательных ответов, а квантование q4_0 способно повлиять на качество по сравнению с исходной версией. Указанная лицензия — Apache-2.0; для базовой Gemma также приведена отдельная ссылка на условия Google.

Карточка модели brunogcp/Gemma4-26b-Super-Abliterated-TQ3_4S на Hugging Face совпадает с карточкой YTan2000/Gemma4-26b-Super-Abliterated-TQ3_4S, поэтому описание составлено по ней. Gemma4-26b-Super-Abliterated-TQ3_4S — мультимодальная разговорная модель на основе Gemma 4, подготовленная Jiunsong и опубликованная YTan2000 в формате GGUF с квантизацией TQ3_4S. Она принимает текст и изображения и генерирует текстовые ответы; README описывает запуск через llama.cpp и указывает файл проектора изображений F16. Основной сценарий — диалог с моделью и вопросы по изображениям. Модель содержит 26 млрд параметров в базовом варианте; файл квантизированных весов занимает около 12 GiB. Карточка указывает лицензию Gemma. README сообщает о результате 10 из 10 на небольшом наборе стандартных вопросов, но это не даёт оснований судить о качестве на широком спектре задач. Для запуска требуется специальная сборка TurboQuant runtime; README приводит пример контекста 4096 токенов, но не утверждает, что это максимальная длина контекста.