I.2Синтез, понимание и проверка знаний
В разделе собраны самостоятельные задачи, где AI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
42 341 модельAhma-2-4B-Instruct — финноязычная чат-модель, разработанная командой Finnish-NLP на базе Gemma-3-4B-pt. Модель содержит 4 млрд параметров и использует плотную архитектуру Gemma 3 для генерации текста; максимальная длина контекста составляет 131 072 токена. Модель предназначена для диалогов и текстовых запросов на финском языке. Обучение включало продолжение предобучения на английских и финских данных, в том числе с переключением языков, затем контролируемую настройку и оптимизацию предпочтений, преимущественно на финском. В README приведены результаты оценки MTBench Finnish; разработчики сообщают об улучшении относительно предыдущего поколения Ahma. Репозиторий содержит веса Safetensors и распространяется по лицензии Apache-2.0. Карточка не описывает подробности запуска и обучения; результаты бенчмарка не гарантируют качество на всех задачах, а сведения о поддержке иных языков ограничены описанием смешанных данных предобучения.
AIFT-Yi-Ko-6B-v1.11 — языковая модель для генерации текста, созданная на основе beomi/Yi-Ko-6B. Модель имеет плотную архитектуру семейства LLaMA с 5,9 млрд параметров и контекстом 2048 токенов; веса опубликованы в формате safetensors. Модель прошла полное дообучение в течение трёх эпох на примерно 48 тысячах примеров собственного набора данных в стиле Open Orca, после удаления дубликатов и настройки распределения данных. Она предназначена для генерации текста и может применяться к корейским языковым задачам; README приводит результаты оценки на KoBEST BoolQ, COPA, HellaSwag и PAWS-X. Лицензия — CC BY-NC 4.0, которая ограничивает коммерческое использование. Приведённые результаты относятся к оценке с 5 примерами и сами по себе не подтверждают качество на других задачах или в производственных сценариях.
Airavata — языковая модель с 7 млрд параметров, созданная AI4Bharat на основе OpenHathi и дообученная на наборе IndicInstruct. Она предназначена для выполнения инструкций и диалогового общения, в первую очередь на хинди. Данные для дообучения объединяют Anudesh, wikiHow, Flan v2, Dolly, Anthropic-HHH, OpenAssistant v1 и LymSys-Chat. Модель принимает текстовые сообщения в формате чата, близком к формату репозитория open-instruct, и генерирует текст. Для качества ответов README рекомендует соблюдать формат сообщений и добавлять перевод строки после маркера конца сообщения. Модель доступна в форматах Safetensors и GGUF. В карточке приведены результаты оценки на бенчмарках, включая AI2 Reasoning Challenge и HellaSwag. Модель распространяется по лицензии Llama 2; её условия следует учитывать при использовании и распространении.
ALBERT Base v1 — англоязычная модель Albert AI, опубликованная командой Google Research и представленная в исследовательской работе об ALBERT. Это трансформерный энкодер, предварительно обученный на BookCorpus и англоязычной Википедии с помощью предсказания замаскированных токенов и порядка предложений. Основное применение — восстановление пропущенных слов в тексте; модель также можно дообучать для классификации последовательностей и токенов, ответов на вопросы и других задач понимания текста. Архитектура использует 12 повторно применяемых слоёв с общими весами, 12 голов внимания, размерность скрытого состояния 768 и размерность эмбеддингов 128. Метаданные указывают 136,3 млн параметров; в README приведена оценка 11 млн, поэтому размер параметров в источниках расходится. Модель регистронезависима, использует SentencePiece с размером словаря 30 000 и принимает последовательности до 512 токенов. Доступны веса PyTorch, safetensors и TensorFlow. Модель компактнее по памяти благодаря разделению весов между слоями, но повторное применение слоёв сохраняет вычислительную нагрузку. Для специализированных задач её обычно дообучают; версия v1 уступает v2 на большинстве указанных в README downstream-бенчмарков. Предсказания могут отражать смещения обучающих данных. Лицензия — Apache-2.0.
Albertina 1.5B PTBR — португалоязычная модель-энкодер семейства BERT, разработанная совместной командой Лиссабонского и Портского университетов. Она предназначена для бразильского варианта португальского языка и построена на архитектуре DeBERTa V2 с трансформерным энкодером. Модель содержит 1,5 млрд параметров по карточке README (в метаданных указано 2B), 48 слоёв, размер скрытого состояния 1536 и контекст до 512 токенов. Основной сценарий использования — заполнение пропусков в тексте и получение контекстных представлений для последующей адаптации к задачам понимания португальского языка, например классификации и оценки сходства предложений. Модель обучена на корпусах бразильского португальского объёмом 36 млрд токенов; в README приведены результаты на бенчмарке extraGLUE для PTBR. Это энкодер, поэтому он не предназначен для свободной генерации длинных текстов или диалогов. Модель распространяется по лицензии MIT. Для неё заявлена сильная производительность на ряде задач понимания PTBR, однако приведённые в карточке бенчмарки частично основаны на автоматически переведённых наборах данных, а качество на других доменах может отличаться.
AraBART-summ — модель для автоматического суммирования текста на арабском языке, представленная пользователем abdalrahmanshahrour. Она основана на архитектуре mBART и содержит около 95 млн параметров. Модель предназначена для создания краткого изложения исходного текста; карточка также связывает её с датасетом XLSum и задачей суммирования арабских новостей. Максимальная длина контекста составляет 1024 токена. Модель принимает текст и генерирует текстовое резюме. Опубликована в формате PyTorch по лицензии Apache-2.0. В README приведены метрики Loss и ROUGE, но не описаны условия обучения и оценки, поэтому по этим значениям нельзя надёжно судить о качестве на конкретных данных.
Behemoth-123B-v1.2-GGUF — набор GGUF-квантизаций текстовой генеративной модели Behemoth-123B-v1.2, разработанной TheDrummer и квантованной пользователем bartowski. Модель предназначена для генерации текста и локального инференса через llama.cpp, в том числе в LM Studio. Для работы рекомендуется использовать шаблон prompt: <s> [INST] {prompt}[/INST]. Модель имеет 123 млрд параметров; в README не указаны точная архитектура, поддерживаемые языки, размер контекста и дополнительные модальности, поэтому она описывается только как текстовая. Доступны варианты квантования от Q8_0 до IQ2_XXS размером примерно от 130,28 до 32,43 ГБ. Более высокие разрядности обеспечивают лучшее качество, но требуют больше памяти; низкоразрядные варианты экономичнее, однако могут заметно уступать в качестве. Для большинства сценариев автор рекомендует Q4_K_M, а также Q5_K_M, Q5_K_S и Q6_K. Отдельные варианты оптимизированы для ARM или AVX, некоторые не предназначены для Mac или GPU. Ключевые ограничения — значительные требования к памяти даже у компактных квантов и неизбежная потеря качества при сильном сжатии. Используется формат GGUF и инструменты llama.cpp версии b4222; часть файлов разбита на несколько частей. В метаданных указана лицензия other, без дополнительных условий лицензирования в README.
Behemoth-123B-v1-GGUF — квантизированная версия текстовой генеративной модели Behemoth-123B-v1, разработанной TheDrummer и преобразованной в формат GGUF пользователем bartowski. Модель предназначена для локального запуска задач генерации текста с использованием llama.cpp и совместимых приложений, включая LM Studio. Модель имеет заявленный размер 123B параметров и представлена в нескольких вариантах квантизации: от Q8_0 до IQ1_M. Размер файлов составляет примерно от 28,39 до 130,28 ГБ; варианты Q6_K, Q5_K_M, Q5_K_S и Q4_K_M отмечены как рекомендуемые для сочетания качества и требований к памяти. Некоторые варианты используют Q8_0 для весов embedding и output, что может влиять на качество. Модель относится к модальности текста; сведения о поддерживаемых языках, архитектуре, размере контекста и формате промпта в README не указаны. Сильной стороной являются различные уровни квантизации, позволяющие подобрать баланс между качеством и доступными ресурсами, а также поддержка локального запуска через llama.cpp. Более низкие уровни квантизации экономят память, но могут заметно снижать качество; для запуска требуются значительные объёмы оперативной или видеопамяти, особенно для старших вариантов. Лицензия и условия использования в README не указаны, поэтому их следует уточнять на странице исходной модели и в репозитории разработчика.
Bielik-7B-v0.1 — базовая генеративная языковая модель, разработанная проектом SpeakLeash совместно с центром высокопроизводительных вычислений ACK Cyfronet AGH. Это плотная decoder-only модель семейства Mistral с 7,1 млрд параметров и контекстом до 8192 токенов, обученная на польских текстовых корпусах; в README указано более 36 млрд токенов обучения. Модель предназначена для генерации и понимания польского текста, а также для дальнейшей адаптации под конкретные задачи. Это базовая модель, а не готовый чат-ассистент: для следования инструкциям и взаимодействия с пользователями её нужно дообучить. В оценке на польском бенчмарке она показала сильный результат в задаче ответа на вопросы по открытым материалам, но её способности к общению отдельно не проверялись. Модель распространяется по лицензии Apache 2.0, допускающей коммерческое использование.
NbAiLab/borealis-27b-instruct-preview — экспериментальная предварительная версия инструктивно дообученной модели NbAiLab на базе Google Gemma 3 27B Instruct. Модель содержит 27 млрд параметров и предназначена прежде всего для задач ассистента на норвежском языке: составления текстов, суммаризации, ответов на вопросы и лёгких рассуждений, а также оценки качества Bokmål и Nynorsk. README указывает, что дообучение проводилось на текстовых инструкциях, хотя базовая Gemma 3 поддерживает работу с изображениями; поэтому возможности этой версии для обработки изображений не описаны как обученная специализация. Модель представлена в формате safetensors для Transformers; для этого же чекпойнта также указаны отдельные репозитории с вариантами GGUF и MLX. Это preview-эксперимент с нестабильными ответами и возможными галлюцинациями; он не прошёл выравнивание по безопасности и может выдавать вредный, предвзятый или оскорбительный контент. Не предназначен для критически важных сценариев. Лицензия — Gemma.
Cathallama-70B — объединённая автором gbueno86 диалоговая языковая модель на архитектуре Llama, созданная из Meta-Llama-3.1-70B-Instruct, Nexusflow/Athene-70B и turboderp/Cat-Llama-3-70B-instruct. Модель содержит 69,5 млрд параметров, принимает текст и генерирует текст; заявленная длина контекста — 8192 токена. В карточке указана лицензия llama3.1. Модель предназначена для диалогов и генерации ответов, в том числе для вопросов по общим знаниям и академическим темам. Автор приводит результаты сравнительных тестов, включая MMLU-PRO и PubmedQA, но отмечает, что модель генерировала неизвестные Unicode-адреса и прекратил её использовать, работая над новой версией. Поэтому заявленные результаты следует рассматривать с учётом ограниченного объёма тестирования и отмеченной проблемы генерации.
ClimateGPT-70B — языковая модель Erasmus AI, обученная совместно с AppTek и адаптированная для климатологии. Это декодерный трансформер с 68,7 млрд параметров на основе Llama 2 70B: модель прошла дополнительное обучение на 4,2 млрд токенов климатических материалов и инструктивную настройку на парах запросов и ответов, собранных при участии климатологов. Модель предназначена для ответов на вопросы о климате и синтеза междисциплинарных исследований; её целевая аудитория — учёные, специалисты, принимающие решения, журналисты и разработчики прикладных систем. Она работает с текстом на английском языке, поддерживает контекст до 4096 токенов и может учитывать до пяти цитируемых источников в контексте. Для актуальности и фактической точности разработчики рекомендуют использовать её с поиском по документам (RAG); расширение языкового охвата предполагает каскадный машинный перевод. Модель не предназначена для универсального чат-бота и может выдавать предвзятые, оскорбительные или неточные ответы. Лицензия — ClimateGPT Community License; метаданные Hugging Face обозначают её как «other», поэтому перед использованием следует проверить условия лицензии сообщества.
Карточка модели DIYIN/ContextPilot-14B на Hugging Face совпадает с карточкой tencent/ContextPilot-14B, поэтому описание составлено по ней. ContextPilot-14B — дообученная модель Tencent на базе Qwen3-14B, разработанная для исследований проактивного управления контекстом в языковых агентах. Она обучена планировать работу с длительным контекстом, поддерживать структурированную долговременную память, извлекать полезные сведения и освобождать контекст от менее нужной информации, продолжая рассуждать и использовать инструменты. Модель содержит 14 млрд параметров, использует плотную архитектуру Qwen3 и принимает текст; заявленная длина контекста — 40 960 токенов. Модель предназначена для экспериментов с агентами на длинных задачах, включая ответы на вопросы по длинному контексту и глубокий поиск. Для управления памятью и инструментами одного чекпойнта недостаточно: требуются определения инструментов, среда агента и код из репозитория ContextPilot. Карточка указывает лицензию other, без конкретизации её условий.
Dingdust/ContextPilot-8B-heretic — дообученная версия Qwen3-8B на 7,6 млрд параметров, связанная с проектом ContextPilot, разработанным для проактивного управления контекстом у языковых агентов. Модель предназначена для длительных агентных сценариев: планирования, ведения структурированной долговременной памяти, поиска по контексту и выгрузки менее полезной информации, пока агент продолжает рассуждать и работать с инструментами. В README описаны обучение с подкреплением и оценка на вопросах по длинному контексту и задачах глубокого поиска. Модель использует плотную архитектуру Qwen3ForCausalLM, принимает текст и выдаёт текст; нативное окно контекста составляет 40 960 токенов. Для работы функций управления контекстом одной загрузки чекпойнта недостаточно: требуются определения инструментов, агентный runtime и конвейер оценки из репозитория ContextPilot. README также сообщает о снижении отказов относительно исходной модели, поэтому фильтрация нежелательных запросов может быть слабее. Лицензия указана как other, без дополнительных условий в предоставленных данных.
CrucibleLab_L3.3-Dark-Ages-70b-v0.1-GGUF — GGUF-квантизированная версия текстовой генеративной модели L3.3-Dark-Ages-70b-v0.1, разработанной CrucibleLab. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для локального запуска и генерации текста через llama.cpp, LM Studio и другие совместимые проекты. В основе лежит модель размера 70B, однако точная архитектура, поддерживаемые языки, длина контекста и дополнительные возможности в представленном README не указаны. Доступны варианты квантизации от Q3 и IQ3 до Q8_0 с размером файлов примерно от 27 до 75 ГБ. Более высокие уровни квантизации обычно обеспечивают лучшее сохранение качества, но требуют больше оперативной или видеопамяти; для многих сценариев рекомендуются варианты Q4_K_M, Q5_K_M и Q6_K. Сильной стороной модели является возможность локального использования и широкий выбор вариантов, позволяющий балансировать качество и требования к памяти. Ограничения связаны с большими аппаратными требованиями 70B-модели, потерями качества при низкой квантизации и отсутствием в README подробных данных о качестве, языках и специализации. Шаблон чата явно не задан, поэтому используемый формат может потребовать проверки по карточке исходной модели. Указанная лицензия — llama3.3.
DeepSeek-qwen-Bllossom-32B — плотная языковая модель семейства Qwen2, разработанная совместно UNIVA и командой Bllossom на основе DeepSeek-R1-Distill-Qwen-32B. Модель содержит 32 млрд параметров, использует библиотеку Transformers и формат весов safetensors; длина контекста составляет 131 072 токена. Она дообучена на корейских и английских данных рассуждений, чтобы улучшить рассуждения на корейском и уменьшить смешивание языков: внутренний ход рассуждений может быть на английском, а итоговый ответ формируется на языке запроса. Модель предназначена для диалогов и решения сложных задач, в частности математических и логических вопросов, на корейском и английском языках. В карточке приведены результаты сравнительных тестов AIME24 и MATH500 на английском и корейском языках; они описывают конкретный протокол оценки и не гарантируют точность на других задачах. Модель распространяется по лицензии MIT.
tarruda/DeepSeek-V4-Flash-Vision-Exp-GGUF — набор GGUF-квантизаций модели DeepSeek-V4-Flash-Vision-Exp, первоначально опубликованной командой DeepSeek. Модель предназначена для мультимодальных диалоговых сценариев, в которых требуется обрабатывать изображения и текст и генерировать текстовые ответы. Доступны варианты Q2_K, IQ3_XXS и Q3_K размером примерно от 95 465 до 122 297 MiB. В комплект входят отдельные файлы модели и мультимодального проектора mmproj; в примере использования указан контекст 262 144 токена. Квантизации используют importance matrix из 726 записей и 812 фрагментов. README не сообщает точные архитектурные параметры, число параметров и перечень поддерживаемых языков. Основные преимущества — возможность запуска в формате GGUF и наличие нескольких вариантов компромисса между размером и качеством, включая прямые конверсии исходных MXFP4-весов DeepSeek. Ограничение заключается в том, что модель пока не поддерживается основной веткой llama.cpp и требует экспериментальной ветки с поддержкой DeepSeek V4 Vision. Лицензия — MIT.
stephenlzc/dolphin-llama3-zh-cn-uncensored — дообученная языковая модель, разработанная на основе cognitivecomputations/dolphin-2.9-llama3-8b. Автор указывает, что это его первый пример тонкой настройки. Модель предназначена для генерации текста и диалоговых сценариев, включая работу с китайским языком; в карточке также приведены примеры классификации тональности, разрешения кореференции, логических задач и понимания прочитанного. В качестве обучающих данных использованы Minami-su/toxic-sft-zh, llm-wizard/alpaca-gpt4-data-zh и stephenlzc/stf-alpaca. Заявлены китайский и английский языки. Архитектура и размер унаследованы от базовой модели Llama 3 с 8 млрд параметров, однако точные характеристики контекста и модальностей в карточке не указаны; модель относится к текстовым и не поддерживает заявленные мультимодальные входы. Среди сильных сторон — ориентированность на китайский язык и широкий набор текстовых задач. Ограничения качества, результаты оценки и подробности обучения не приведены. Модель распространяется по лицензии MIT.
ERNIE-4.5-VL-28B-A3B-PT — мультимодальная MoE-модель Baidu для диалогового взаимодействия с текстом и изображениями. Это вариант с весами PyTorch в формате Transformers; модель прошла постобучение с использованием SFT и методов оптимизации предпочтений. Архитектура относится к семейству ERNIE 4.5 MoE VLM: всего 28 млрд параметров, из которых для каждого токена активируется около 3 млрд. Контекст — до 131 072 токенов. Модель предназначена для понимания изображений и текста, ответов на вопросы о визуальном содержимом, мультимодальных рассуждений и генерации текста в чате. Поддерживает английский и китайский языки. В карточке указана совместимость с Transformers; для запуска приведён пример с vLLM и параметром доверия к удалённому коду. Модель распространяется по лицензии Apache-2.0. Карточка не приводит конкретных оценок качества или подробного списка ограничений, поэтому результаты для целевых сценариев следует проверять отдельно.
Falcon3-10B-Base-GGUF — это GGUF-квантизированная версия базовой языковой модели Falcon3-10B-Base, разработанной Technology Innovation Institute (TII). Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и локального запуска, в том числе через LM Studio и совместимые инструменты на базе llama.cpp. Модель содержит около 10 млрд параметров и работает в текстовой модальности. В метаданных заявлена поддержка английского, французского, испанского и португальского языков. Доступны варианты от исходных F16 до квантизаций Q8_0, Q6_K, Q5_K, Q4_K и других, что позволяет выбирать между качеством, размером файла и требованиями к памяти. Размер файлов варьируется примерно от 5,95 до 20,62 ГБ. Размер контекста и точный набор архитектурных характеристик в представленном README не указаны; формат промпта также не найден. Сильными сторонами являются широкий выбор уровней квантизации и возможность локального использования при существенно меньших требованиях к ресурсам по сравнению с F16-версией. Это базовая, а не instruction-tuned модель, поэтому для диалоговых и специализированных сценариев может потребоваться дополнительная настройка или подходящий шаблон промпта. Качество зависит от выбранной квантизации: старшие варианты сохраняют его лучше, а компактные требуют компромисса. Модель распространяется по лицензии Falcon LLM License; условия доступны по ссылке, указанной в карточке.
Fietje 2 Instruct — компактная языковая модель для генерации нидерландского текста и выполнения инструкций. Её разработал Bram Vanroy на основе Microsoft Phi-2: базовую модель адаптировали для нидерландского, а затем дообучили методом supervised fine-tuning на инструкционных диалогах и примерах понимания текста. В метаданных указано 3,5 млрд параметров, а в README — 2,7 млрд; поэтому размер модели в источниках расходится. Репозиторий содержит веса в формате safetensors, архитектура — плотная причинная языковая модель семейства Phi.
flammenai/flammen12-mistral-7B — слитая mergekit-модель на архитектуре Mistral, созданная методом SLERP из nbeerbower/bruphin-iota и nbeerbower/flammen11X-mistral-7B. Модель содержит 7,1 млрд параметров и предназначена для генерации текста по запросу; поддерживаемая задача — text-generation. Нативная длина контекста составляет 32 768 токенов. Весы представлены в формате safetensors. Модель распространяется по лицензии Apache-2.0. Карточка описывает способ слияния и исходные модели, но не приводит конкретных сценариев применения или оценок качества.
Gala-4-E4B-it-preview — каталонская версия Gemma 4 E4B Instruct, дообученная командой Projecte AINA с помощью LoRA на наборах Projecte AINA и Nobel. Это плотная мультимодальная модель Google Gemma 4 с примерно 4 млрд параметров; карточка указывает поддержку изображений, а README описывает применение прежде всего для текстовых задач на каталонском языке. Контекстное окно — 8192 токена. Модель предназначена для ответов на вопросы, понимания прочитанного, логического вывода и следования инструкциям на каталонском, а также для образовательных NLP-сценариев. В README приведены результаты оценки на каталонских бенчмарках; авторы отмечают ограничения в грамматических заданиях и отставание от более крупных моделей на части тестов. Обучение на ограниченном наборе данных может снижать качество в узкоспециализированных областях. Лицензия в предоставленных данных не указана.
GaMS-27B-Instruct-Nemotron — диалоговая языковая модель на архитектуре Gemma 2, разработанная Тимотеем Петриčem в рамках магистерского проекта. Это вариант GaMS-27B-Instruct, дополнительно дообученный методом supervised fine-tuning на отобранной части набора NVIDIA Nemotron Post-Training Dataset v1: примерно 80 тысяч словенских пар «инструкция — ответ» и 20 тысяч английских примеров. Модель предназначена для генерации текста и общения по инструкциям на словенском и английском языках. Она содержит 27,6 млрд параметров, использует плотную архитектуру и принимает контекст длиной до 8192 токенов. Доступна в формате safetensors; лицензия — Gemma. Это исследовательский проект на основе дообученной модели; карточка сообщает, что подробности о проекте будут опубликованы позднее. README не приводит оценок качества или развёрнутых ограничений, поэтому пригодность для конкретных задач следует проверять отдельно.
Это дообученная диалоговая модель Google Gemma 2 на 2,7 млрд параметров, представленная в формате safetensors и предназначенная для генерации текста. Контекст модели составляет до 8192 токенов; в качестве базовой модели указана google/gemma-2-2b-it. README не раскрывает целевые сценарии дообучения, обучающие данные или результаты оценки, поэтому специализацию модели установить нельзя. Базовая Gemma 2 ориентирована на английский язык. Модель распространяется по лицензии Gemma.
Gemma2 9B WangchanLIONv2 Instruct — мультиязычная языковая модель, разработанная Products Pillar и AI Singapore совместно с VISTEC. Это декодер на архитектуре Gemma 2 с 9 млрд параметров, дообученный следовать инструкциям на тайском языке на примерно 3,76 млн пар «инструкция — ответ», включая человеческую разметку, примеры в стиле FLAN и синтетические данные. Модель поддерживает тайский и английский языки и контекст до 8192 токенов. Модель подходит для диалога, ответов на вопросы, понимания прочитанного и генерации текстов на тайском языке, а также для подобных задач на английском. Она не обучена системным промптам и вызову инструментов. Модель может галлюцинировать, выдавать неуместные ответы и непоследовательно рассуждать; защитное выравнивание не проводилось. Распространяется по Gemma Community License.
Gemma 3 12B IT QAT Abliterated — созданная Mlabonne версия Google Gemma 3 12B IT QAT, в которой применена техника abliteration для ослабления отказов на запросы. Модель предназначена для диалогов, генерации текста и ответов на вопросы по изображениям; в метаданных указаны 11,6 млрд параметров, архитектура Gemma 3 и контекст до 131 072 токенов. Автор описывает метод как ортогонализацию скрытых состояний целевых модулей, чтобы вычесть направление отказа. Версия ориентирована на более точное снижение отказов при сохранении связности ответов. Репозиторий использует Transformers и формат safetensors; лицензия указана как gemma. README не приводит сведений о поддерживаемых языках и не сообщает результаты оценки качества, кроме целевого уровня принятия запросов.
Justbackup выпустил разговорную дообученную версию Gemma 3 27B IT на базе coder3101/gemma-3-27b-it-heretic. Это плотная модель класса Gemma3 с поддержкой изображений и текста, рассчитанная на диалог, анализ изображений и генерацию ответов с акцентом на рассуждение. Для включения усиленного режима рассуждений автор рекомендует добавлять к запросу «think deeply:»; в некоторых случаях могут помочь системный промпт или специальный шаблон чата. В README заявлен контекст до 128 тысяч токенов, но метаданные не подтверждают его отдельно. Модель позиционируется как менее склонная к отказам и допускающая генерацию взрослого, грубого и откровенного контента по запросу. Для более явного стиля автор советует задавать нужную лексику и тон. README приводит результаты нескольких бенчмарков и метрику отказов, однако это заявления автора, а не независимая оценка качества. Указаны язык английский и лицензия Apache-2.0; модель распространяется в формате safetensors через Transformers.
Это GGUF-квантизация модели llmfan46/gemma-4-26B-A4B-it-ultra-uncensored-heretic, созданной независимым автором llmfan46 на основе google/gemma-4-26B-A4B-it. Модель преобразована методом Heretic 1.2.0 с использованием Arbitrary-Rank Ablation (ARA), чтобы существенно уменьшить количество отказов и ограничений при сохранении близкого к исходной модели поведения. Указана лицензия Apache-2.0 с отдельной ссылкой на лицензию Gemma 4. Модель предназначена для генерации и понимания текста, а согласно метаданным pipeline_tag также поддерживает сценарии image-text-to-text. В названии и описании заявлен размер 26B с обозначением A4B, однако подробные сведения об архитектуре, контекстном окне и поддерживаемых языках в README не приведены. Доступны варианты GGUF в форматах BF16, Q8_0, Q6_K и Q5_K_M, а также другие квантизации, рассчитанные на запуск с различными требованиями к памяти и качеству. Главное преимущество — значительно меньшее число отказов: в приведённом тесте 3 из 100 против 100 из 100 у оригинальной модели. При этом автор сообщает о небольшом изменении поведения по KL divergence 0,1237. На PIQA модель получила точность 91,29% против 92,06% у оригинала, а на MMLU — 79,99% против 82,48%; это указывает на некоторое снижение качества в задачах общего рассуждения и понимания. Уровень безопасности и ограничения после декорсензуры могут отличаться от исходной Gemma, поэтому модель требует осторожного применения в чувствительных сценариях.
Ex0bit выпустил Ex0bit/Gemma4-26B-A4B-PRISM-PRO-DQ-GGUF — мультимодальную версию Gemma 4 26B-A4B Instruction-Tuned в формате GGUF для запуска через llama.cpp. Это MoE-модель с 26 млрд параметров, из которых 4 млрд активны на токен; в README указаны 128 экспертов и маршрутизация top-8. Модель принимает текст, изображения и видео и отвечает текстом. Для обработки изображений и видео вместе с основным GGUF-файлом нужен файл проектора mmproj. Модель предназначена для диалогов и анализа изображений и видеокадров. Автор заявляет, что PRISM-PRO удаляет чрезмерные отказы и механизмы смещения, а PRISM-DQ распределяет точность квантования по типам тензоров; заявленная точность — 5,73 бита на вес. Эти заявления приведены автором и не подтверждены независимыми оценками в предоставленной карточке. Аудио модель не поддерживает. Лицензия — Apache-2.0.