I.2Синтез, понимание и проверка знаний

BioMistral-DARE-NS — языковая модель на архитектуре Mistral для генерации текста. Её создали слиянием методом DARE TIES моделей Kukedlc/NeuralSynthesis-7B-v0.1 и BioMistral/BioMistral-7B-DARE с помощью mergekit; базовой указана NeuralSynthesis-7B-v0.1. Модель содержит 7,1 млрд параметров, использует библиотеку Transformers и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалоговых сценариев. В состав слияния входит BioMistral, поэтому возможны сценарии с биомедицинскими текстами, но README не приводит оценок качества или конкретных гарантий для таких задач. Доступна на условиях лицензии Apache-2.0.

AmberYifan/capsd-qwen3-sciweb-stackexchange-Qwen3-4B-Base-science_ppl_b1000_s0 — дообученная плотная языковая модель семейства Qwen3, созданная на основе Qwen/Qwen3-4B-Base. В README указано, что для дообучения использован набор данных capsd_Qwen3-4B-Base-n80000-sciweb-stackexchange__mix_science_ppl_b1000_s0, связанный с научными материалами и Stack Exchange. Модель предназначена для генерации текста; метаданные также отмечают диалоговую возможность. В ней около 3,7 млрд параметров, она использует архитектуру Qwen3ForCausalLM, формат safetensors и поддерживает контекст до 32 768 токенов. В карточке не приведены результаты оценки качества или подробные сведения о целевых сценариях, поэтому пригодность для конкретных научных задач требует проверки. Лицензия указана как other, без уточнения условий в предоставленных данных.

Модель AmberYifan/capsd-qwen3-sciweb-stackexchange-Qwen3-4B-Base-science_ppl_b8000_s0 — дообученная плотная языковая модель семейства Qwen3, созданная на основе Qwen/Qwen3-4B-Base. В карточке указано обучение на смеси данных capsd_Qwen3-4B-Base-n80000-sciweb-stackexchange__mix_science_ppl_b8000_s0; подробности о составе набора и методике не приведены. Модель предназначена для генерации текста и диалогового взаимодействия. Она содержит 3,7 млрд параметров, использует архитектуру Qwen3ForCausalLM, принимает текст и поддерживает контекст до 32 768 токенов. Карточка не сообщает, какие языки и научные темы представлены в обучающих данных. Репозиторий содержит веса в формате Safetensors. Указана лицензия other, поэтому конкретные условия использования следует проверять в исходной лицензии модели. README не приводит оценки качества или конкретные ограничения; назначение для научных текстов можно предполагать по названию набора обучения, но оно не подтверждено описанием или оценкой модели.

AmberYifan/capsd-qwen3-sciweb-stackexchange-Qwen3-4B-Base-science_random_b2000_s0 — дообученная плотная языковая модель семейства Qwen3, созданная на основе Qwen/Qwen3-4B-Base. В карточке указано дообучение на смеси данных sciweb и Stack Exchange с научными примерами; подробности о составе выборки и процедуре обучения не приведены. Модель предназначена для генерации текста и диалоговых сценариев. Она содержит 3,7 млрд параметров, использует архитектуру Qwen3ForCausalLM и поддерживает контекст до 32 768 токенов. Репозиторий использует Transformers и хранит веса в формате safetensors. Лицензия указана как «other», без уточнения условий, поэтому перед использованием следует проверить лицензионные сведения репозитория. README не содержит результатов оценки качества или конкретных ограничений модели.

ContextPilot-E4B — дообученная модель семейства Gemma 4 E4B Instruct, выпущенная Tencent как часть исследовательской системы ContextPilot. Она обучена помогать агентам заранее управлять контекстом в длительных задачах: планировать работу, поддерживать долговременную структурированную память, извлекать нужные сведения и убирать менее полезный контекст, продолжая рассуждать и использовать инструменты. Модель имеет плотную архитектуру Gemma4ForConditionalGeneration и распространяется в формате Safetensors; метаданные классифицируют её для генерации текста и указывают поддержку чата. Модель предназначена для исследований агентных систем, ответов на вопросы по длинному контексту и глубокого поиска. Для управления контекстом ей требуется окружение ContextPilot с определениями инструментов, агентным runtime и конвейером оценки: одной загрузки чекпойнта недостаточно, чтобы выполнять эти операции. В README лицензия не описана, а в метаданных указано только значение «other», поэтому условия использования по доступным сведениям определить нельзя.

darkc0de_Muse-Glimmer-30B-heretic-GGUF — это квантизированная версия модели Muse-Glimmer-30B-heretic, разработанной darkc0de и подготовленной в формате GGUF пользователем bartowski с использованием llama.cpp. Модель предназначена для задач генерации текста и анализа изображений; для обработки изображений требуется дополнительный файл mmproj. В README не указаны конкретные языки и максимальный размер контекста. Модель содержит около 30 млрд параметров и поддерживает текстовую и визуальную модальности. Для неё доступны варианты квантизации от BF16 и Q8_0 до более компактных IQ- и Q3-вариантов; наиболее универсальным рекомендуется Q4_K_M размером 17,31 ГБ, а версии Q5 и Q6 обеспечивают более высокое качество при больших требованиях к памяти. Используется imatrix-квантизация, MTP не поддерживается. Сильными сторонами являются большой размер модели, мультимодальный ввод и широкий выбор вариантов для разных объёмов оперативной памяти. Ограничения включают значительные требования к памяти, зависимость визуального режима от mmproj и возможное снижение качества у наиболее компактных квантов. Лицензия модели указана как Apache-2.0. README не приводит результатов тестирования, точных сведений об архитектуре, языках и контекстном окне, поэтому оценить производительность в конкретных сценариях по имеющимся данным нельзя.

Карточка модели kamalkraj/deberta-base на Hugging Face совпадает с карточкой microsoft/deberta-base, поэтому описание составлено по ней. DeBERTa-base — англоязычная модель семейства DeBERTa, разработанная Microsoft. Это плотная трансформерная модель с 151,8 млн параметров, использующая раздельное представление содержимого и относительных позиций в механизме внимания, а также улучшенный декодер маски. Она предназначена для восстановления замаскированных токенов и может служить основой для дообучения на задачах понимания естественного языка. В карточке приведены результаты дообучения на SQuAD 1.1, SQuAD 2.0 и MNLI. Модель принимает текст и предсказывает замаскированные в нём токены. Контекст ограничен 512 токенами; доступны форматы PyTorch и TensorFlow. Лицензия — MIT. Карточка сообщает о преимуществах относительно BERT-base и RoBERTa-base на большинстве задач NLU, но приведённые показатели относятся к отдельным наборам оценки; они не гарантируют такого же качества в других сценариях.

corn6/DeepSeek-R1-Chinese-Law — языковая модель corn6, дообученная на базе unsloth/deepseek-r1-distill-llama-8b-unsloth-bnb-4bit. Это плотная модель семейства Llama с архитектурой LlamaForCausalLM и 7,5 млрд параметров; она принимает текст и генерирует текст, в том числе в диалоговом формате. Заявленное название указывает на специализацию в китайском праве, однако README не описывает обучающие данные, конкретные правовые задачи или результаты оценки, поэтому специализацию нельзя подтвердить по карточке. Модель предназначена для генерации ответов на текстовые запросы. Контекстное окно составляет 131 072 токена. В карточке указан английский язык; поддержка китайского, несмотря на название, не подтверждена языковыми метаданными. Указана лицензия Apache-2.0. README сообщает об ускоренном обучении с Unsloth и TRL, но не приводит подробностей методики дообучения.

twaggs88 публикует сборку DeepSeek-V4-Flash-0731 в формате GGUF — файл размером около 92,8 ГБ с разреженной MoE-архитектурой на 284 млрд параметров и 13 млрд активных параметров. Сборка REAP-25 сокращает набор маршрутизируемых экспертов; в файл также встроен черновик DSpark для спекулятивного декодирования. Модель предназначена для генерации текста и диалогов. Указанное в карточке окно контекста составляет 1 млн токенов. Сборка рассчитана на запуск с движком pulsar на NVIDIA GB10 с 128 ГБ объединённой памяти; другие загрузчики GGUF, включая llama.cpp, её не поддерживают из-за специальных форматов тензоров. Автор README указывает на близкое совпадение с эталонными логитами и качество при спекулятивном декодировании, но независимые оценки не приведены. Это производная сборка базовой модели deepseek-ai/DeepSeek-V4-Flash-DSpark-0731; её происхождение дополнительно описано как сборка из исходных весов DeepSeek-V4-Flash с сокращением экспертов и перекодированием. Лицензия репозитория — MIT. В метаданных и README не перечислены поддерживаемые естественные языки.

DeltaP2S-Llama2-13B-P2S-curio7B-ptbr-S13-a050 — объединённый чекпойнт, созданный пакетом экспериментов Delta-P2S с учётом семейств моделей. В метаданных указаны архитектура LlamaForCausalLM, плотная модель на 12,9 млрд параметров, библиотека Transformers и формат safetensors; нативная длина контекста — 4096 токенов. Модель предназначена для генерации текста. README указывает на базу обучения curio7b_to_llama2_13b_S13_native_a050, но не раскрывает прикладные сценарии, языковую специализацию или результаты оценки качества. Лицензия в предоставленных данных не указана.

DeSTA2.5-Audio — аудиоязыковая модель, разработанная командой DeSTA-ntu как модель общего назначения для понимания аудио и диалога с аудиоданными. Она принимает аудио и формирует текстовые ответы; в метаданных для неё указан тип задачи audio-text-to-text и архитектура DeSTA25AudioModel на базе Llama 3.1 8B Instruct. Модель обучалась в рамках подхода с самостоятельно сгенерированными данными для межмодального выравнивания. Авторы заявляют, что метод масштабируется без специализированных данных инструкционного дообучения для отдельных задач, помогает сохранять языковые способности и уменьшать катастрофическое забывание. В качестве связанного набора данных указан DeSTA-AQA5M — 5 млн пар аудио и текста из 7 000 часов аудио. Модель предназначена для ответов на вопросы по аудио и других сценариев общего понимания аудиозаписей. Метаданные указывают объединение с DeSTA-ntu/Llama-3.1-8B-Instruct и Meta-Llama/Llama-3.1-8B-Instruct; веса опубликованы в формате safetensors. В README не приведены сведения о лицензии, поэтому условия использования следует сверить с карточкой модели и лицензией базовой модели. Практические ограничения и подробные показатели качества в предоставленных материалах не описаны.

Einstein-v6-7B — полноценно дообученная Weyaxi модель на базе Mistral-7B-v0.2-hf. Это плотная авторегрессионная языковая модель с 7,1 млрд параметров и контекстом до 32 768 токенов, обученная два эпоха с использованием Axolotl на разнообразных инструкционных и синтетических данных. Карточка указывает шаблон диалога ChatML и поддержку общения и следования инструкциям. Модель предназначена для диалоговых ответов и решения задач по естественным наукам и STEM, включая физику, химию, биологию и математику. Среди сценариев — ответы на научные вопросы, решение учебных задач и объяснение понятий; в обучающих данных также присутствуют общие диалоговые, логические и кодовые примеры. В метаданных указан английский язык. Модель распространяется в формате Safetensors; лицензия обозначена как other, поэтому перед использованием следует проверить условия на странице репозитория.

Erlangshen-UniMC-RoBERTa-110M-Chinese — китайская языковая модель семейства RoBERTa от команды Fengshenbang. Модель с архитектурой BERT и 129,5 млн параметров обучена по подходу UniMC: задачи понимания языка преобразуются в формат выбора из нескольких вариантов, что позволяет применять её для zero-shot и few-shot сценариев. Модель предназначена для классификации текста, анализа тональности, рассуждений на основе здравого смысла, разрешения кореференции и других задач понимания китайского языка. В репозитории она представлена как masked language model с задачей fill-mask; контекст — до 512 токенов. Доступны веса PyTorch и Safetensors. Подход UniMC позволяет формулировать разные задачи как выбор ответа и снижает потребность в большом числе параметров. Качество зависит от формулировки вариантов и предметной области; в описании приведены результаты бенчмарков, но гарантии качества для прикладных данных не заявлены. Модель распространяется по лицензии Apache-2.0.

Карточка модели BAAI/EVE-7B-Pretrain-v1.0 на Hugging Face совпадает с карточкой BAAI/EVE-7B-HD-v1.0, поэтому описание составлено по ней. EVE-7B-HD-v1.0 — мультимодальная модель семейства EVE, разработанная исследователями из Dalian University of Technology, Beijing Academy of Artificial Intelligence и Peking University. Это плотная авторегрессионная модель с архитектурой EVELlamaForCausalLM и примерно 6,6 млрд параметров; в отличие от VLM с отдельным визуальным энкодером, она обрабатывает визуальные и языковые входы в едином декодере. В карточке семейства EVE описан подход к обучению на 35 млн открытых примеров и сравнение с VLM сопоставимого размера. Модель предназначена для генерации текста по текстовым и визуальным запросам, включая задачи понимания изображений и диалога о них. Контекст составляет 4096 токенов. Доступна в формате PyTorch, лицензия — Apache-2.0. В README указано, что EVE выпускается в вариантах с предварительным обучением и настройкой инструкциями, но точный статус настройки именно версии HD-v1.0 не уточнён.

EZO2.5-gemma-3-12b-it-Preview-i1-GGUF — это набор квантованных файлов модели EZO2.5-gemma-3-12b-it-Preview, разработанной AXCXEPT и подготовленной в формате GGUF пользователем mradermacher. Модель относится к семейству Gemma 3 и предназначена для генерации текста, включая сценарии на японском языке. README также указывает, что это vision-модель, поэтому для обработки изображений могут потребоваться файлы mmproj из статического репозитория. Исходная модель имеет размер 12 млрд параметров, однако подробности архитектуры, максимального контекста и перечня поддерживаемых языков, кроме японского, не указаны. Доступны варианты квантования i1-IQ и i1-Q размером примерно от 3,0 до 9,8 ГБ. Более компактные варианты требуют меньше памяти, но могут заметно уступать по качеству; README отдельно отмечает i1-Q4_K_M как быстрый и рекомендуемый вариант, а i1-Q6_K — как близкий по характеристикам к статическому Q6_K. Модель подходит для локального запуска через совместимое с GGUF программное обеспечение и может использоваться в задачах текстовой генерации и мультимодальной работы с изображениями при наличии необходимых mmproj-файлов. Ограничениями являются возможная потеря качества из-за квантования и отсутствие в README результатов тестирования, точных возможностей vision-компонента и инструкций по конкретным средам запуска. Лицензия указана как gemma; применимые условия использования следует уточнять по лицензии Gemma.

Fabliq-8B-Agent-FromBase-Reasoning — экспериментальная reasoning-версия модели Fabliq-8B-Agent-FromBase от LLM-OS-Models. Это причинная языковая модель на архитектуре Lfm2MoeForCausalLM с MoE: в README указаны 24 слоя, 32 эксперта и 4 активных эксперта на токен. Модель дообучена на данных WithinUs и Helio для добавления общего и углублённого рассуждения к агентной основе FromBase; карточка также указывает дистилляцию и supervised fine-tuning. Для практического применения описаны диалоговая генерация текста и сценарии reasoning; заявлена поддержка английского языка. В README приведены примерно 8 млрд параметров суммарно и около 1 млрд активных, а также 8 192 токена обученного контекста и нативный контекст 128 000 токенов. Метаданные указывают 1,6 млрд параметров, поэтому размер модели в источниках расходится. Модель принимает текст и генерирует текст. Лицензия — Apache-2.0. Ограниченный набор данных второго этапа обучения и небольшое число примеров могут ограничивать обобщение; README не сообщает результаты сравнительных оценок.

Falcon2-5.5B-Dutch — языковая модель для генерации текста, созданная путём обрезки слоёв Falcon-11B с помощью PruneMe и последующего объединения оставшихся диапазонов методом passthrough через mergekit. В конфигурации использованы слои 0–24 и 56–58; веса сохранены в формате bfloat16. Модель разработана для исследовательской работы и дальнейшей специализации или дообучения, в том числе для генерации текста, суммаризации и диалогов. Модель работает с текстом, построена на архитектуре FalconForCausalLM и имеет контекст до 8192 токенов. Хотя эта версия ориентирована на нидерландский язык, обучение исходного семейства преимущественно проводилось на английском; также заявлена поддержка немецкого, испанского, французского, итальянского, португальского, польского, румынского, чешского и шведского языков. Модель может наследовать стереотипы и смещения из веб-данных, а качество для перечисленных языков README отдельно не оценивает. Лицензия — Apache 2.0.

ssmits/Falcon2-5.5B-French — разреженная версия языковой модели Falcon-11B, созданная автором репозитория с помощью mergekit и метода passthrough. Для сокращения модели выбраны слои 0–23 и 55–58 исходной модели; отбор диапазонов основан на анализе сходства слоёв на 2000 французских примерах из Wikimedia Wikipedia. В метаданных указаны архитектура FalconForCausalLM, 7,8 млрд параметров, контекст 8192 токена и формат safetensors. Модель предназначена для генерации текста и диалогов, а также как основа для дальнейшей специализации и дообучения, например для суммаризации и чат-ботов. Карточка указывает поддержку французского; также перечисляет английский, немецкий, испанский, итальянский, португальский, польский, нидерландский, румынский, чешский и шведский, но отмечает, что обучение преимущественно велось на английском и модель может плохо обобщать на другие языки. Модель унаследовала ограничения и возможные стереотипы веб-данных исходной модели. Карточка не рекомендует использовать её в производственной среде без оценки рисков и защитных мер. Лицензия — Apache-2.0.

ssmits/Falcon2-5.5B-Romanian — языковая модель на архитектуре Falcon, созданная на основе tiiuae/falcon-11B. По карточке, модель получена обрезкой слоёв: использован метод passthrough merge, а подходящие диапазоны слоёв определены анализом их сходства на румынской части набора Wikimedia Wikipedia. Метаданные указывают 7,8 млрд параметров, контекст до 8192 токенов и формат safetensors. Модель предназначена для генерации текста и диалогов, а также как основа для дальнейшей специализации и дообучения, например для суммаризации и чат-ботов. Она обучалась преимущественно на английском и поддерживает ряд европейских языков, включая румынский; для языков вне этого набора качество обобщения ограничено. Карточка предупреждает о наследовании стереотипов и смещений из веб-данных и рекомендует оценивать риски и настраивать защитные меры перед применением. Лицензия — Apache-2.0. README описывает модель как исследовательскую основу для адаптации и предостерегает от производственного применения без предварительной оценки рисков.

Fast-dLLM-v2-7B-dTRPO-Lite — модель генерации текста на 7,1 млрд параметров, разработанная wxzhang как preference fine-tune модели Efficient-Large-Model/Fast_dLLM_v2_7B. Базовая модель основана на Qwen2.5-7B-Instruct. Архитектура — плотная Fast_dLLM_Qwen; модель предназначена для диалогов и генерации ответов, включая задачи с пошаговым рассуждением. Поддерживает контекст до 32 768 токенов и английский язык. Обучение выполнено методом dTRPO с параметрами DPO beta 0,01 и learning rate 5e-7. В README приведены результаты на GSM8K, MATH и GPQA; для воспроизведения оценки требуется CUDA GPU и специальный diffusion decoder, а стандартный путь autoregressive transformers.generate() не подходит. Разработчик отмечает, что чекпойнт не проверен для критически важных применений. Код постобучения лицензирован по FAIR Noncommercial Research License; пакет сохраняет ограничения исходной модели, помеченной Apache-2.0.

Bofandra/fine-tuning-use-cmlm-multilingual-quran-translation — модель Sentence Transformers, созданная дообучением Bofandra/fine-tuning-use-cmlm-multilingual-quran. Она кодирует предложения и абзацы в плотные векторы размерности 768 для оценки семантического сходства, семантического поиска, поиска перефразировок, классификации и кластеризации текстов. Архитектура основана на BERT с усреднением токенных представлений и нормализацией векторов; метаданные указывают 498,1 млн параметров, формат safetensors и контекст до 512 токенов. Обучение описано на 6 225 парах предложений с MegaBatchMarginLoss; примеры связывают арабский текст Корана с английским переводом. Для сравнения векторов модель использует косинусное сходство. Лицензия в предоставленных данных не указана.

flammen18-mistral-7B — языковая модель FlammenAI, созданная слиянием предварительно обученных моделей Mistral 7B с помощью mergekit и метода Model Stock. Она предназначена для ролевых диалогов с персонажами, творческого письма и задач общего текстового общения. Модель имеет плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. В слиянии участвовали модели Flammen, Kunoichi, Suppe, Gutenberg DPO и специализированные варианты для математики и достоверности. Метаданные указывают формат safetensors и библиотеку Transformers. Модель генерирует текст по текстовому запросу. README не сообщает о языковом охвате или оценках качества, поэтому эти характеристики нельзя уточнить. Модель распространяется по лицензии Apache-2.0.

G2-MS-Nyxora-27b — экспериментальная диалоговая модель, созданная SteelSkull методом слияния Model Stock на основе Gemma 2 27B и моделей Big-Tiger-Gemma-27B-v1 и Tess-v2.5-Gemma-2-27B-alpha. Это плотная языковая модель на 27,6 млрд параметров для генерации текста и общения с ассистентом. Модель предназначена для универсальных запросов, написания историй и ролевых диалогов, включая ERP. В карточке отмечено, что базовая настройка может склоняться к отказам на откровенные запросы; автор предлагает системный промпт для изменения поведения. Контекст составляет 8192 токена. Модель принимает текст и генерирует текст. Модель распространяется в формате Safetensors по лицензии Apache 2.0. Автор характеризует её как экспериментальную и приглашает пользователей делиться отзывами; заявленные в карточке достоинства исходных моделей не являются независимой оценкой качества этого слияния.

Это дообученная версия диалоговой модели Google Gemma 2 2B IT, созданная на основе google/gemma-2-2b-it. В репозитории используются архитектура Gemma2ForCausalLM и формат safetensors; модель содержит 2,7 млрд параметров и рассчитана на контекст до 8192 токенов. Модель предназначена для генерации текста. README не содержит сведений о датасете, назначении дообучения, оценке качества или особых сценариях применения, поэтому её специализацию определить нельзя. Базовая Gemma 2 2B IT описана как компактная диалоговая модель для генерации текста, ответов на вопросы и суммаризации на английском языке. Лицензия — Gemma. Подробные условия использования и ограничения этой версии в карточке модели не раскрыты.

Gemma-2-Ataraxy-Advanced-9B — слитая методом SLERP разговорная языковая модель на архитектуре Gemma 2 с 9 млрд параметров. По данным карточки, она объединяет jsgreenawalt/gemma-2-9B-it-advanced-v2.1 и lemon07r/Gemma-2-Ataraxy-9B; использует библиотеку Transformers и формат Safetensors. Модель предназначена для генерации текста и диалогов, в том числе творческого письма. Контекстное окно — 8192 токена. В README приведены результаты Open LLM Leaderboard по IFEval и BBH, но сведений о поддерживаемых естественных языках и лицензии нет. Автор README называет модель тестовой, поэтому её качество и пригодность для практического применения не следует считать подтверждёнными.

DavidAU разработал эту модель как дообученную версию DreamFast/gemma-3-12b-it-heretic на наборах данных GLM 4.7 Flash и Polaris. Это плотная модель семейства Gemma 3 с 12 млрд параметров для диалога, генерации текста и работы с изображениями. По карточке, контекстное окно составляет 128 тысяч токенов; модель принимает текст и изображения, а выдаёт текст. Переключаемый режим позволяет получать обычные инструкции или более подробные рассуждения, которые можно активировать фразой «think deeply:» или системным промптом. Модель рассчитана на творческое письмо, продолжение сюжетов и разговорные сценарии; в карточке также приведены результаты ряда тестов на общие знания и рассуждение. Автор описывает её как uncensored: она реже отказывает и может создавать взрослый контент, но для явной стилистики может потребоваться дополнительное направление в запросе. Карточка сообщает о лицензии Apache-2.0. Заявления о качестве и бенчмарках приведены автором и не являются независимой оценкой.

Gemma 3 4B IT Abliterated GGUF — квантизированная версия модели huihui-ai/gemma-3-4b-it-abliterated, созданная на базе google/gemma-3-4b-it и подготовленная пользователем matrixportal с помощью llama.cpp версии 6115. Модель распространяется в формате GGUF и предназначена для локального запуска и инференса в приложениях, поддерживающих этот формат. Модель относится к классу instruction-tuned мультимодальных моделей image-text-to-text: заявлена поддержка работы с текстом и изображениями. В репозитории представлены варианты квантования от Q2_K до Q8_0, а также F16. Более компактные варианты подходят для систем с ограниченной оперативной памятью, но могут заметно уступать по качеству; Q4_K_M указан как рекомендуемый баланс между размером и качеством, а Q5_K_M — как вариант с повышенным качеством. Точные сведения о поддерживаемых языках, размере контекста и архитектурных деталях в README не приведены. Особенностью модели являются обозначения «abliterated» и «uncensored», однако README не содержит подробного описания изменений, ограничений безопасности или результатов оценки. Условия использования определяются лицензией Gemma; для доступа на Hugging Face требуется ознакомиться с лицензией Google и принять её условия.

mradermacher/gemma-4-12B-it-desiccated-i1-GGUF — это набор квантизированных GGUF-версий инструкционной vision-модели gemma-4-12B-it-desiccated, разработанной на базе UnstableLlama/gemma-4-12B-it-desiccated. Квантизацию выполнил mradermacher. Модель предназначена для диалоговых и мультимодальных сценариев, включая обработку текста и изображений, однако конкретные задачи и характеристики работы с изображениями в README не описаны. Модель относится к семейству Gemma и имеет около 12 млрд параметров. Заявлен английский язык. Репозиторий содержит imatrix-квантизацию и варианты GGUF с форматами от i1-IQ1_S до i1-Q6_K, размером примерно от 3,1 до 9,9 ГБ. В README рекомендуются i1-Q4_K_M как быстрый вариант и i1-Q4_K_S как компромисс между размером, скоростью и качеством; для низкобитных вариантов отмечено заметное снижение качества. Контекстное окно, точная архитектура и результаты бенчмарков не указаны. Преимущество модели — возможность локального запуска в формате GGUF с выбором уровня квантизации под доступные ресурсы, а также поддержка vision-сценариев при наличии соответствующих mmproj-файлов из статического репозитория. Ограничения связаны с потерями качества у некоторых низкобитных вариантов и отсутствием подробных сведений о производительности, мультиязычности и контекстной длине. Указана лицензия Apache-2.0.

Gemma-4 26B-A4B Heretic — AWQ — это квантизированная версия модели llmfan46/gemma-4-26B-A4B-it-ultra-uncensored-heretic, опубликованная под идентификатором louismuk/gemma-4-26B-A4B-heretic-AWQ. Модель предназначена для генерации текста на английском языке, включая диалоги и ролевые сценарии. Она относится к семейству Gemma 4 и использует архитектуру MoE; исходное обозначение указывает на 26B общих параметров и 4B активных параметров. Также заявлена поддержка мультимодальных компонентов, включая vision tower, однако README не описывает их пользовательские возможности подробно. Модель сжата методом AWQ в формат INT4 W4A16 с размером группы 32. Активации сохраняются в BF16, что должно обеспечивать несколько более высокое качество по сравнению с вариантом NVFP4 W4A4. Для запуска рекомендуется vLLM 0.20 и новее с ядром Marlin INT4; квантизация рассчитана на CUDA-видеокарты начиная с поколения Ampere. README указывает максимальную длину контекста 131072 токена и поддерживаемые возможности reasoning и tool calling через соответствующие парсеры vLLM. Сильными сторонами являются более высокая производительность при низкой и средней конкуренции по сравнению с вариантом NVFP4, большая аппаратная совместимость и сохранение части слоёв в BF16, включая vision-компоненты и выходной слой. Ограничения включают зависимость от совместимого CUDA-оборудования и vLLM, а также отсутствие подробных данных о фактическом качестве, мультиязычности и результатах тестирования. Лицензия — Apache 2.0, унаследованная от базовой модели.

Это квантованные сборки в формате GGUF модели Huihui Gemma 4 26B A4B IT Abliterated, опубликованные в репозитории deewu0809 и основанные на модели huihui-ai/Huihui-gemma-4-26B-A4B-it-abliterated. Сборки предназначены для локального запуска через llama.cpp с пониженными требованиями к VRAM и RAM. Модель относится к классу image-text-to-text и поддерживает мультимодальные сценарии обработки изображений и текста при использовании соответствующего файла mmproj. Доступны варианты UD-квантизации с разным распределением точности тензоров, ориентированные на компромисс между качеством, скоростью и потреблением памяти. Более крупные и высокобитные варианты обычно сохраняют лучшее качество, а низкобитные требуют меньше ресурсов, но могут сильнее снижать качество ответов. Конкретные языки, размер контекстного окна, архитектурные детали исходной модели и результаты оценки в README не указаны. Для мультимодального вывода требуется совместимый mmproj-файл; несовместимый файл может ухудшить или нарушить работу с изображениями. README не содержит сведений о лицензии, поэтому условия использования необходимо уточнять в исходном репозитории модели и репозитории сборок. Поведение и характеристики выравнивания унаследованы от исходной дообученной abliterated-модели.