II.6Документация и сопровождение разработки

Eris Remix 7B — объединённая причинная языковая модель на архитектуре Mistral, опубликованная ChaoticNeutrals. Она предназначена для генерации текста и может использоваться для диалогов, продолжения текста и других задач, решаемых авторегрессионными языковыми моделями. В карточке указано слияние моделей методом SLERP с параметрами для слоёв self-attention и MLP; веса представлены в формате safetensors. Размер модели — 7,1 млрд параметров, длина контекста — 32 768 токенов. Карточка сообщает об английском языке. Модель создана с помощью mergekit из моделей SpecialEdition и Remix, а не обучена с нуля. Лицензия обозначена как other, поэтому конкретные условия использования следует сверить с репозиторием и лицензиями исходных моделей. Карточка содержит мало сведений о качестве, обучающих данных и ограничениях поведения модели.

ERNIE-4.5-0.3B-Base-Paddle — базовая плотная языковая модель Baidu для продолжения текста. Она предварительно обучена на текстовых данных и содержит около 318 млн параметров; веса представлены в формате safetensors для PaddlePaddle. Модель рассчитана на генерацию и понимание текста, а также может служить основой для дообучения инструкциям и предпочтениям с помощью ERNIEKit, включая SFT, LoRA и DPO. Модель принимает текст и выдаёт текст. Заявленная длина контекста — 131 072 токена; в карточке указана поддержка английского и китайского языков. Для базовой версии README рекомендует использовать API завершения текста, а не чатовый API. Лицензия — Apache-2.0.

ERNIE-4.5-0.3B-PT-GGUF — компактная текстовая языковая модель семейства ERNIE 4.5, разработанная Baidu. Это post-trained causal language model, представленная в формате GGUF и предназначенная для локального запуска и генерации текста с использованием совместимых инструментов, включая llama.cpp. Модель рассчитана на задачи понимания и генерации текста, включая диалоговые сценарии, дополнение текста и краткие информационные ответы. Она поддерживает английский и китайский языки. Архитектура плотная, без MoE; заявлено около 0,36 млрд параметров, 18 слоёв, 16 Q-heads и 2 KV-heads. Максимальная длина контекста составляет 131 072 токена. Модель работает только с текстом и не поддерживает обработку изображений. К сильным сторонам относятся небольшой размер, возможность использования в ресурсно-ограниченных средах и длинный контекст. При этом компактный масштаб модели может ограничивать качество сложного рассуждения, точность и полноту ответов по сравнению с более крупными моделями; в README не приведены результаты бенчмарков и подробные сведения об аппаратных требованиях. Модель распространяется по лицензии Apache 2.0.

EuroMoE-2.6B-A0.6-2512 — предварительно обученная мультиязычная языковая модель, разработанная консорциумом университетов и компаний под руководством Instituto Superior Técnico — University of Lisbon при финансировании Европейского союза. Модель предназначена для генерации текста и служит базой для версии EuroLLM-2.6B-A0.6-2512-Instruct. В метаданных указаны архитектура Mixtral с причинной языковой моделью и механизмом mixture-of-experts, 231,7 млн параметров и контекст до 4096 токенов. Модель принимает текст и генерирует текст. Карточка заявляет поддержку 35 естественных языков, включая русский, английский, большинство языков Европы, а также арабский, китайский, хинди, японский и корейский. Модель не выровнена по предпочтениям людей и может выдавать галлюцинации, вредоносный контент или ложные утверждения. Распространяется по лицензии Apache 2.0.

EvolLLM — слитая модель Beyoru на архитектуре Qwen3, объединяющая Qwen/Qwen3-4B-Instruct-2507 и Qwen/Qwen3-4B-Thinking-2507. Это плотная языковая модель примерно на 3,7 млрд параметров с контекстом до 262 144 токенов; она предназначена для генерации текста в диалогах и выполнения инструкций, а автор позиционирует её как основу для дальнейшего SFT- или GRPO-обучения. В карточке приведены результаты авторских сравнений: преимущество около 3% над instruct-моделью в собственном агентном бенчмарке и превосходство над openfree/Darwin-Qwen3-4B и базовой моделью в ACEBench. Описание не сообщает языки, качество на независимых тестах или ограничения применения. Репозиторий использует формат safetensors и библиотеку Transformers; лицензия в предоставленных данных не указана.

EXAONE-4.0-1.2B-GGUF — это компактная языковая модель семейства EXAONE 4.0, разработанная LG AI Research. Данная версия представлена в формате GGUF и предназначена для локального запуска, включая on-device-сценарии. Модель поддерживает генерацию текста, агентное использование инструментов, а также два режима работы: обычный и reasoning mode для решения более сложных задач. Модель содержит около 1,07 млрд параметров без учёта эмбеддингов, 30 слоёв и использует Grouped-Query Attention с 32 attention heads и 8 KV heads. Размер словаря составляет 102 400 токенов, контекст — до 65 536 токенов. Поддерживаются английский, корейский и испанский языки. Архитектурные особенности серии включают QK-Reorder-Norm; гибридная attention-схема с локальным и глобальным вниманием указана для 32B-версии, поэтому её применение к данной 1.2B-модели не подтверждено. Сильные стороны модели — небольшой размер, возможность локального и периферийного развертывания, многоязычность, поддержка reasoning mode и вызова инструментов. Ограничения включают существенно меньший размер по сравнению с 32B-версией, что может снижать качество на сложных задачах; конкретные показатели производительности и требования к ресурсам в README не приведены. Модель распространяется по лицензии EXAONE, обозначенной как other; подробные условия находятся в файле LICENSE.

MaziyarPanahi/Experiment28T3q_Experiment29Experiment24 — объединённая модель генерации текста на архитектуре Mistral, созданная из automerger/Experiment28T3q-7B и automerger/Experiment29Experiment24-7B. В репозитории представлены веса в формате safetensors; модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста. Описание базовых моделей указывает на экспериментальную модель и математическую модель, дообученную методом DPO, однако конкретные способности итогового объединения и его сравнительное качество не приведены. Модель выпущена под лицензией Apache 2.0.

FableForge-1.5B — компактная универсальная языковая модель, разработанная командой fableforge-ai и входящая в экосистему FableForge. Согласно описанию, модель объединяет знания и возможности различных доменов NEXUS, однако подробности о базовой архитектуре и методах обучения в README не приведены. Модель предназначена для генерации текста общего назначения, включая программирование, рассуждения, интерактивные сценарии, создание персонажей и ролевые приложения. Она используется в проектах FableForge Nexus, Infinite NPC, Dual-GM, ShellWhisperer и Ghost Writer. Указан английский язык, поддерживается формат диалогов ChatML; сведения о других языках, размере контекста, точной архитектуре и поддерживаемых модальностях отсутствуют. Модель текстовая и не предназначена для обработки изображений или других типов данных. Для запуска доступны файлы в формате GGUF с разными уровнями квантования и размерами от 0,51 до 3,09 ГБ. Вариант Q4_K_M обозначен как оптимальный по соотношению размера и качества, IQ4_XS — как подходящий для систем с небольшим объёмом оперативной памяти, а Q6_K — как вариант высокого качества. К преимуществам относятся небольшой размер и совместимость с llama.cpp, Ollama и LM Studio; качество зависит от выбранного уровня квантования, а ограничениями являются малый масштаб модели и отсутствие подробных опубликованных характеристик. Модель распространяется по лицензии Apache-2.0.

vilsonrodrigues/falcon-7b-instruct-sharded — переразбитая на шарды версия Falcon-7B-Instruct, подготовленная для загрузки в средах с ограниченной оперативной памятью, например Colab и Kaggle. Это плотная авторегрессионная decoder-only модель семейства Falcon с архитектурой FalconForCausalLM; веса размещены в формате safetensors. В README исходная модель описана как 7-миллиардная, тогда как метаданные репозитория указывают общий размер 10,9 млрд параметров, поэтому размер именно этой версии по источникам расходится. Модель предназначена для диалогов, следования инструкциям и генерации текста на английском и французском языках. Falcon-7B-Instruct создана TII на основе Falcon-7B и дообучена на смеси наборов для чата и инструкций; в исходной архитектуре используются rotary embeddings, multi-query attention и FlashAttention. Apache 2.0 позволяет использовать модель на условиях этой лицензии. README предупреждает о смещениях, унаследованных из веб-данных, слабой обобщающей способности за пределами преимущественно английских данных и необходимости оценивать риски и настраивать защитные ограничения перед использованием в производстве. В нём также указано, что исходной модели требуется не менее 16 ГБ памяти для быстрой инференции; разбиение весов облегчает загрузку в средах с ограниченной памятью, но не гарантирует меньшие требования во время инференции.

OpenAssistant Falcon 7B SFT OASST-TOP1 — языковая модель OpenAssistant, дообученная на Falcon 7B от TII. Это плотный авторегрессионный трансформер с архитектурой decoder-only; в метаданных указано 10,9 млрд параметров. Дообучение выполнено на 11 123 высококачественных демонстрациях OpenAssistant/oasst1 в течение восьми эпох, с dropout в стиле LIMA и контекстом 2048 токенов. Модель предназначена для генерации ответов в диалоге и продолжения текста по запросу. Основные языки — английский, немецкий, испанский и французский; README также отмечает ограниченные возможности на итальянском, португальском, польском, нидерландском, румынском, чешском и шведском. Для обозначения ходов пользователя и ассистента используются специальные токены формата OpenAssistant. Модель доступна в формате PyTorch и распространяется по лицензии Apache 2.0. Она обучена на сравнительно небольшом наборе демонстраций, поэтому качество и охват тем могут быть ограничены; указанный контекст составляет 2048 токенов.

FastContext-4B-RLbase-SFT-Fable5-Glint — дообученная модель генерации текста на архитектуре Qwen3ForCausalLM с 3,7 млрд параметров. Её разработали на основе microsoft/FastContext-1.0-4B-RL и обучили методом SFT на наборе инструкций Fable-5-Glint-Clean. Модель предназначена для диалогов и ответов на инструкции; в метаданных также заявлен интерфейс вызова инструментов. Контекстное окно составляет 262 144 токена. В проверке на отложенной выборке из 199 примеров точность предсказания следующего токена выросла относительно базовой модели: top-1 — с 0,5699 до 0,6952, top-5 — с 0,8201 до 0,9160. Эти результаты относятся только к указанной выборке и не являются сравнением с другими моделями. Поведение за пределами обучающего набора не проверено; модель наследует ограничения и смещения основы. LoRA-адаптеры слиты с весами, поэтому отделить их от дообучения нельзя. Лицензия в доступных данных не указана.

FourOhFour/Fatgirl_8B — дообученная модель для генерации текста на базе jeiku/Magic_8B. Это плотная Mistral-архитектура с 7,9 млрд параметров, рассчитанная на диалоговое использование; контекст — до 8192 токенов. Модель обучена с помощью Axolotl 0.4.1, в карточке указана оценка Loss 1.3029 на наборе для оценки. Карточка не описывает специализацию модели, обучающие данные и ограничения, поэтому её назначение можно определить только как генерацию текста и диалог. Файлы представлены в формате PyTorch; библиотека для работы — Transformers. Лицензия в предоставленных данных не указана.

Ferret-3B — языковая модель разработчика euclaise на архитектуре StableLM Epoch с 2,7 млрд параметров. Это модель с генеративной архитектурой, дообученная для рассуждений в формате Chain-of-Thought (CoT); она поддерживает общение в формате ChatML и задачи генерации текста и ответов на вопросы. Модель принимает текст и генерирует текст, её контекст составляет 4096 токенов. Ferret-3B можно использовать для диалоговых ответов на вопросы и задач, где полезно пошаговое рассуждение, включая научные и математические вопросы. В карточке указаны датасеты MiniCoT, SciCoT, symtune_mini, mathoverflow-accepted и goodwiki. README предлагает свободное использование и называет модель общественным достоянием; отдельный идентификатор лицензии в метаданных не приведён.

Fimbulvetr-Holodeck-Erebus-Westlake-10.7B — плотная языковая модель семейства Mistral с 10,6 млрд параметров, опубликованная Backyard AI как реконструкция по рецепту mergekit. В метаданных указаны базовые модели Sao10K/Fimbulvetr-11B-v2 и Undi95/Mistral-11B-v0.1; тип происхождения — слияние. Репозиторий содержит веса Safetensors и предназначен для генерации текста в Transformers. Модель подходит для диалогов и генерации текста, в том числе в локальном чате с персонажами. Её контекстное окно составляет 32 768 токенов. Карточка описывает приложение Backyard AI и его функции, но не уточняет отдельные качества самой модели. Лицензия в предоставленных данных не указана.

Модель satria-hugging-face/Fine-tuning_submission_PGABL_Satria-ego-vania — дообученная разговорная языковая модель семейства Llama, разработанная satria-hugging-face на базе unsloth/Llama-3.2-3B-Instruct-bnb-4bit с использованием Unsloth и библиотеки TRL. Она предназначена для генерации текста и диалоговых сценариев; в метаданных также отмечен интерфейс вызова инструментов. Модель содержит 3,2 млрд параметров, использует архитектуру LlamaForCausalLM и поддерживает контекст до 131 072 токенов. Указан английский язык. Модель распространяется в формате Safetensors по лицензии Apache-2.0. README не описывает специализацию дообучения, качество на конкретных задачах или дополнительные ограничения, поэтому её следует рассматривать как модель общего назначения для генерации текста и чата.

EpistemeAI2/Fireball-Alpaca-Llama3.1.02-8B-Philos — дообученная текстовая языковая модель семейства Llama 3.1, разработанная на базе Fireball-Alpaca-Llama3.1.01-8B-Philos. Она предназначена для генерации текста и диалогового взаимодействия в формате инструкций Alpaca; карточка рекомендует использовать шаблон Alpaca. Модель содержит 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и поддерживает контекст до 131 072 токенов. Подходит для ассистентских диалогов и генерации текста. В карточке приведено описание возможностей Llama 3.1: поддержка английского, французского, немецкого, хинди, итальянского, португальского, испанского и тайского языков. Для этой конкретной дообученной модели метаданные указывают английский язык. Модель распространяется по лицензии Apache 2.0 согласно метаданным репозитория; README содержит общую информацию о лицензии семейства Llama 3.1, поэтому условия лицензирования самой модели стоит сверять с карточкой репозитория. Как и другие генеративные модели, она может выдавать ошибочные или небезопасные ответы; качество для языков, отличных от английского, отдельно не подтверждено.

Firefly-Llama2-13B — англоязычная плотная авторегрессионная модель семейства Llama 2, выпущенная проектом Firefly и YeungNLP. Она содержит 12,9 млрд параметров и рассчитана на генерацию текста; базовая карточка сообщает о результате 62 балла в Open LLM Leaderboard и третьем месте среди моделей на 13B на момент публикации. Модель обучалась только на английских данных и не получила расширенный словарь для китайского языка. В README указано применение QLoRA при обучении, что снижало требования к ресурсам обучения; репозиторий содержит веса PyTorch. Контекст составляет 4096 токенов. Условия лицензирования в предоставленных сведениях не описаны.

FoFoNet-SuperMayo-MBX-slerp — слитая модель для генерации текста, созданная fterry с помощью LazyMergekit из fterry/FoFoNet-SuperMBX-slerp и kaitchup/Mayonnaise-4in1-022. Это плотная Mistral-архитектура с 7,1 млрд параметров и контекстом до 32 768 токенов; веса опубликованы в формате Safetensors и имеют точность bfloat16. Модель предназначена для генерации текста. Карточка описывает слияние методом SLERP и настройки смешивания слоёв внимания и MLP, но не приводит отдельных сценариев применения или сведений о языках. Лицензия в предоставленных данных не указана.

jaspionjader/fr-7-8b — разговорная языковая модель, созданная разработчиком jaspionjader путём объединения моделей jaspionjader/fct-14-8b и jaspionjader/fr-6-8b методом SLERP с помощью mergekit. Модель построена на плотной архитектуре LlamaForCausalLM и содержит 7,5 млрд параметров; заявленное контекстное окно — 131 072 токена. Она предназначена для генерации текста и диалоговых сценариев. Модель принимает текст и выдаёт текст. Данные не описывают её языковое покрытие или специализацию по предметным областям. В метаданных указаны формат safetensors и библиотека Transformers. Сведения о лицензии и конкретных ограничениях качества в предоставленных источниках отсутствуют.

jaspionjader/fr-9-8b — разговорная языковая модель на архитектуре Llama, созданная объединением предварительно обученных моделей jaspionjader/fr-8-8b и jaspionjader/Kosmos-EVAA-Franken-v38-8B методом SLERP с помощью mergekit. Модель содержит 7,5 млрд параметров и принимает текст для генерации продолжений и диалоговых ответов. Модель предназначена для общения и генерации текста. В метаданных указан контекст до 131 072 токенов, библиотека Transformers и формат весов safetensors. Сведения о лицензии и поддерживаемых естественных языках в предоставленных данных отсутствуют.

FuseChat-Llama-3.2-3B-Instruct-GGUF — набор квантизированных GGUF-версий инструкционной языковой модели FuseChat-Llama-3.2-3B-Instruct, разработанной FuseAI. Квантизацию выполнил bartowski с использованием llama.cpp b4273 и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев, включая запуск локально через llama.cpp или LM Studio. Модель содержит около 3 млрд параметров и работает в текстовой модальности. Доступны версии от F32 и F16 до различных вариантов Q8, Q6, Q5, Q4, Q3 и IQ-квантизации с размером файлов примерно от 1,82 до 12,86 ГБ. Это позволяет выбирать компромисс между качеством, скоростью и требованиями к оперативной памяти; автор рекомендует, в частности, варианты Q4_K_M, Q5, Q6 и IQ4_XS в зависимости от сценария. Для работы следует использовать формат prompt, основанный на специальной разметке Llama 3.2 с ролями system, user и assistant. Сильная сторона набора — широкий выбор оптимизированных квантизаций для локального запуска, включая варианты для ARM и AVX. Более компактные версии экономят память, но могут уступать более точным по качеству. В README не указаны поддерживаемые языки, размер контекста, точная архитектура базовой модели, результаты оценки и лицензия, поэтому эти характеристики нельзя надежно определить по представленным данным.

Карточка модели FuseAI/FuseO1-DeepSeekR1-QwQ-SkyT1-Flash-32B-Preview на Hugging Face совпадает с карточкой FuseAI/FuseO1-DeepSeekR1-QwQ-SkyT1-32B-Preview, поэтому описание составлено по ней. FuseO1-DeepSeekR1-QwQ-SkyT1-32B-Preview — экспериментальная объединённая языковая модель команды FuseAI. Она создана с помощью слияния трёх моделей для рассуждений: DeepSeek-R1-Distill-Qwen-32B, Qwen/QwQ-32B-Preview и NovaSky-AI/Sky-T1-32B-Preview. Модель основана на плотной архитектуре Qwen2 с 32 млрд параметров и предназначена для генерации текста и диалогов с пошаговыми рассуждениями. Основные сценарии — решение математических задач, рассуждения о программном коде и научные вопросы. В README для версии указаны результаты AIME24: 74,0 Pass@1 и 86,7 Cons@32 при описанной авторами схеме оценки. Модель принимает текст и генерирует текст; метаданные указывают контекстное окно 131 072 токена и интерфейс для вызова инструментов. Языки в карточке явно не перечислены. Модель распространяется в формате safetensors по лицензии Apache-2.0. Это предварительная версия, а опубликованные сравнительные показатели относятся к конкретным настройкам и методике оценки; они не гарантируют аналогичных результатов в других задачах или конфигурациях.

unsloth/gemma-2-27b — версия Gemma 2 с 27,6 млрд параметров, опубликованная Unsloth в формате safetensors и заявленная как напрямую квантизированная до 4 бит с помощью bitsandbytes. Это плотная авторегрессионная языковая модель на архитектуре Gemma2ForCausalLM для генерации текста; метаданные указывают английский язык и контекст до 8192 токенов. Модель можно использовать для продолжения текста и диалоговых сценариев. README Unsloth описывает инструменты и ноутбуки для дообучения моделей, но не приводит отдельной оценки качества именно этой версии. Лицензия — Gemma; применяйте модель в соответствии с её условиями.

Gemma-2-2B-it-IMat-GGUF — это квантизированная GGUF-версия языковой модели Gemma 2 2B IT, разработанной Google и преобразованной с помощью llama.cpp пользователем legraphista. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через совместимые инструменты, например llama.cpp. README не указывает поддерживаемые языки и размер контекстного окна. В репозитории доступны варианты от BF16 и FP16 до Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и IQ-квантизаций размером примерно от 1,18 до 5,24 ГБ. Для ряда вариантов применена IMatrix-квантизация, предназначенная для улучшения сохранения качества при уменьшении размера модели; варианты BF16, FP16, Q8_0 и Q6_K используют статическую квантизацию. Снижение точности уменьшает требования к памяти, но может ограничивать качество по сравнению с исходной моделью BF16. Исходная модель имеет тип данных BF16. Модель относится к текстовым, а не мультимодальным системам. Для использования требуется принять лицензию Google Gemma на Hugging Face; конкретные условия лицензии в README не раскрыты, поэтому перед применением необходимо ознакомиться с официальной лицензией.

kykim0/gemma-2-2b-tulu-v2-mix — дообученная модель семейства Gemma 2, созданная на основе google/gemma-2-2b. Это плотная языковая модель с 2,7 млрд параметров и контекстом до 8192 токенов, предназначенная для генерации текста и диалоговых сценариев. Модель подходит для продолжения текста и создания чат-приложений на базе компактной языковой модели. README не содержит подробностей о данных дообучения и заявленных сценариях, кроме результата оценки Loss 0.5420. Модель распространяется в формате safetensors по лицензии Gemma.

fedric95/gemma-2-9b-GGUF — это набор квантизованных файлов модели Gemma 2 9B, разработанной Google и преобразованной пользователем fedric95 в формат GGUF для запуска с помощью llama.cpp. Модель относится к классу текстовых генеративных моделей и предназначена для диалоговых сценариев и генерации текста. В README указана архитектурная база google/gemma-2-9b, однако подробные сведения о контекстном окне, языках и модальностях не приведены; по указанным данным модель является текстовой и не поддерживает описанные мультимодальные входы. Доступны варианты с разными уровнями точности: FP32 размером 37 ГБ, а также Q8_0, Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S, Q3_K_L, Q3_K_M, Q3_K_S и Q2_K размером от 9,83 до 3,81 ГБ. Более сильное квантование уменьшает требования к памяти, но может снижать качество: приведённые значения perplexity растут с 6,9209 у FP32 до 8,7979 у Q2_K. В тестах WinoGrande, HellaSwag и MMLU варианты Q8_0 показывают соответственно 74,43%, 78,39% и 42,51%; у низкобитных вариантов результаты в целом ниже. Для использования требуются совместимое окружение llama.cpp и выбор подходящего GGUF-файла с учётом доступной памяти и допустимой потери качества. Модель распространяется по лицензии Gemma; для доступа на Hugging Face необходимо ознакомиться с лицензией Google и принять её условия. README не содержит сведений о дополнительных ограничениях, системных требованиях или безопасном применении.

Sakalti/Gemma-2-Baku-Finetune — дообученная Sakalti языковая модель на архитектуре Gemma 2, созданная на основе rinna/gemma-2-baku-2b. Модель содержит 2,7 млрд параметров, использует плотную архитектуру Gemma2ForCausalLM и предназначена для генерации и продолжения текста. Для обучения применялись Unsloth и библиотека Hugging Face TRL; в репозитории доступны веса в формате safetensors. Модель поддерживает контекст длиной до 128 000 токенов. В метаданных указан английский язык; базовая модель rinna/gemma-2-baku-2b описана как японско-английская, но наличие поддержки японского у этой дообученной версии не подтверждено. Модель распространяется на условиях Gemma Terms of Use.

MaziyarPanahi/gemma-2b-it-GGUF — это набор файлов модели в формате GGUF, созданный на основе google/gemma-2b-it. Исходную модель разработала Google, а конвертацию и квантованные варианты подготовил MaziyarPanahi. Модель предназначена для генерации текста и ведения диалогов. Ключевая характеристика репозитория — поддержка нескольких уровней квантования: 2, 3, 4, 5, 6 и 8 бит, что позволяет выбирать компромисс между размером файлов, требованиями к памяти и качеством генерации. Формат GGUF ориентирован на локальный запуск с помощью llama.cpp и совместимых инструментов, включая text-generation-webui, KoboldCpp, GPT4All, LM Studio, llama-cpp-python и других клиентов. Данные о количестве параметров, поддерживаемых языках, контекстном окне и мультимодальности в README не указаны; по представленным сведениям модель является текстовой. К сильным сторонам относятся компактные квантованные варианты и возможность локального запуска на широком спектре систем с использованием CPU или GPU, в зависимости от выбранного программного обеспечения. Более агрессивное квантование уменьшает требования к ресурсам, но может снижать точность и качество ответов. Репозиторий содержит лицензионную метку «other», однако конкретные условия лицензии в README не раскрыты.

gemma-3-12b-it-heretic — модифицированная версия Google Gemma 3 12B Instruct, опубликованная пользователем saidutta69 и созданная с помощью Heretic 1.4.0. Модель предназначена для локальных агентов, диалоговых приложений, генерации текста, ответов на вопросы по изображениям и исследований механизмов выравнивания и отказов моделей. Она сохраняет мультимодальность базовой модели: работает с текстом и изображениями; заявлен английский язык. Модель рассчитана на запуск через Transformers, llama.cpp, Ollama, LM Studio, Jan, vLLM и SGLang. Это модель примерно на 12,2 млрд параметров с архитектурой Gemma 3 и поддержкой инструкций. Вариант heretic получен не дообучением, а направленным редактированием весов attention output-проекций и MLP down-проекций методом abliteration. Цель изменения — подавить поведение, связанное с отказами, сохранив знания и следование инструкциям базовой модели. Для запуска рекомендуются GPU с 16–24 ГБ памяти; доступны полновесные BF16-файлы и GGUF-квантизации Q4_K_M и Q5_K_M. Точный размер контекстного окна в README не указан. По заявленным тестам, модель отказала в 40 из 100 проверочных adversarial-запросов против 99 отказов у базовой Gemma 3 12B Instruct; KL-дивергенция относительно базы составила 0,1006. Сильной стороной является сочетание мультимодальных возможностей Gemma 3 с существенно сниженным количеством отказов. Ограничения включают неполное устранение отказов, более широкое изменение поведения по сравнению с некоторыми другими abliteration-моделями, унаследованные от базовой модели фактические ограничения и смещения, а также отсутствие дополнительной фильтрации безопасности. README предупреждает о рисках неограниченного публичного развертывания. Лицензия — Gemma, унаследованная от базовой модели; условия приведены в связанной лицензии Google.

Io2007/gemma-3-1b-big — объединённая текстовая модель, созданная автором с помощью mergekit и метода Passthrough из слоёв Google Gemma 3 1B PT, Gemma 3 1B IT и NuclearAi/Nuke_X_Gemma3_1B_Reasoner_v1.0. Это плотная авторегрессионная архитектура Gemma3ForCausalLM с 1,1 млрд параметров, предназначенная для генерации текста и диалогов. Метаданные указывают контекст до 32 768 токенов и библиотеку Transformers. Модель принимает текст и выдаёт текст; карточка описывает её как объединение предварительно обученной языковой модели, а базовая instruct-модель рассчитана на диалоги и запуск при ограниченных ресурсах. Данные не уточняют отдельные языки или специализированные области применения, а также не приводят оценок качества объединённого чекпойнта. Лицензия в предоставленных данных не указана.