II.2Создание и понимание программного кода

Карточка модели BrushStone/DeepSeek-R1-Distill-Qwen-1.5B на Hugging Face совпадает с карточкой deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B, поэтому описание составлено по ней. DeepSeek-R1-Distill-Qwen-1.5B — плотная языковая модель на 1,5 млрд параметров, выпущенная DeepSeek и построенная на архитектуре Qwen2. Она дообучена на примерах рассуждений, сгенерированных DeepSeek-R1, а её базовая модель — Qwen2.5-Math-1.5B. Модель предназначена для генерации текста в диалогах и решения задач, требующих пошаговых рассуждений, в частности по математике и программированию. Модель принимает текст и генерирует текст; карточка также заявляет поддержку чата и интерфейса вызова инструментов. Контекстное окно составляет 131 072 токена. Веса опубликованы в формате Safetensors, лицензия — MIT. Результаты для семейства дистиллированных моделей приведены в README, но отдельные показатели именно версии 1.5B в доступном фрагменте не указаны.

Карточка модели Lord1337iuu/DeepSeek-R1-Distill-Qwen-1.5B на Hugging Face совпадает с карточкой deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B, поэтому описание составлено по ней. DeepSeek-R1-Distill-Qwen-1.5B — плотная языковая модель на 1,5 млрд параметров, выпущенная DeepSeek и построенная на архитектуре Qwen2. Она дообучена на примерах рассуждений, сгенерированных DeepSeek-R1, а её базовая модель — Qwen2.5-Math-1.5B. Модель предназначена для генерации текста в диалогах и решения задач, требующих пошаговых рассуждений, в частности по математике и программированию. Модель принимает текст и генерирует текст; карточка также заявляет поддержку чата и интерфейса вызова инструментов. Контекстное окно составляет 131 072 токена. Веса опубликованы в формате Safetensors, лицензия — MIT. Результаты для семейства дистиллированных моделей приведены в README, но отдельные показатели именно версии 1.5B в доступном фрагменте не указаны.

Карточка модели OppokJr/DeepSeek-R1-Distill-Qwen-1.5B на Hugging Face совпадает с карточкой deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B, поэтому описание составлено по ней. DeepSeek-R1-Distill-Qwen-1.5B — плотная языковая модель на 1,5 млрд параметров, выпущенная DeepSeek и построенная на архитектуре Qwen2. Она дообучена на примерах рассуждений, сгенерированных DeepSeek-R1, а её базовая модель — Qwen2.5-Math-1.5B. Модель предназначена для генерации текста в диалогах и решения задач, требующих пошаговых рассуждений, в частности по математике и программированию. Модель принимает текст и генерирует текст; карточка также заявляет поддержку чата и интерфейса вызова инструментов. Контекстное окно составляет 131 072 токена. Веса опубликованы в формате Safetensors, лицензия — MIT. Результаты для семейства дистиллированных моделей приведены в README, но отдельные показатели именно версии 1.5B в доступном фрагменте не указаны.

unsloth/DeepSeek-R1-Distill-Qwen-1.5B — компактная языковая модель от Unsloth на архитектуре Qwen2, дообученная на примерах рассуждений, созданных DeepSeek-R1. Она предназначена для генерации текста и диалоговых сценариев, особенно для решения задач по математике, программированию и логическим рассуждениям. Модель содержит 1,5 млрд параметров и поддерживает контекст до 131 072 токенов. Модель принимает текст и генерирует текст; в метаданных также отмечен интерфейс для вызова инструментов. В README описано семейство DeepSeek-R1-Distill, обученное на открытых моделях, включая Qwen, однако точная базовая модель этого репозитория указана в метаданных как deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B. Репозиторий распространяется по лицензии MIT. README рекомендует следовать настройкам запуска семейства для ожидаемого качества.

Карточка модели Vipvamps/DeepSeek-R1-Distill-Qwen-1.5B на Hugging Face совпадает с карточкой deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B, поэтому описание составлено по ней. DeepSeek-R1-Distill-Qwen-1.5B — плотная языковая модель на 1,5 млрд параметров, выпущенная DeepSeek и построенная на архитектуре Qwen2. Она дообучена на примерах рассуждений, сгенерированных DeepSeek-R1, а её базовая модель — Qwen2.5-Math-1.5B. Модель предназначена для генерации текста в диалогах и решения задач, требующих пошаговых рассуждений, в частности по математике и программированию. Модель принимает текст и генерирует текст; карточка также заявляет поддержку чата и интерфейса вызова инструментов. Контекстное окно составляет 131 072 токена. Веса опубликованы в формате Safetensors, лицензия — MIT. Результаты для семейства дистиллированных моделей приведены в README, но отдельные показатели именно версии 1.5B в доступном фрагменте не указаны.

SirSahOl подготовил конверсию DeepSeek-R1-Distill-Qwen-1.5B в формат MLX для запуска на компьютерах Apple Silicon. Это плотная причинно-языковая модель семейства Qwen2 с 1,5 млрд параметров, рассчитанная на генерацию текста и диалоговое взаимодействие. Исходная модель дообучена DeepSeek на примерах рассуждений; её сильные стороны включают решение задач на рассуждение, математику и программирование. Заявленная длина контекста — 131 072 токена. Репозиторий содержит веса safetensors в 16-битном представлении и использует библиотеку MLX. Версия 16-bit рассчитана на устройства Apple Silicon с большим объёмом памяти; для компактных систем автор README рекомендует варианты с меньшей разрядностью. В README приведены замеры на Apple M1 с 8 ГБ памяти, но эти результаты относятся к указанной конфигурации. Модель распространяется по лицензии MIT.

unsloth/DeepSeek-V3-0324-GGUF — это набор динамически квантованных GGUF-версий модели DeepSeek-V3-0324, подготовленный Unsloth на основе базовой модели deepseek-ai/DeepSeek-V3-0324. Модель предназначена для локального запуска в llama.cpp, LM Studio, Open WebUI и других фреймворках инференса, включая задачи генерации текста и кода. В README указан английский язык; сведения о других языках и мультимодальных возможностях отсутствуют. Доступны варианты с квантованием от 1,78 до 4,5 бит и размером файлов примерно от 186 до 405 ГБ. Используется динамическое селективное квантование, призванное сохранить более высокую точность по сравнению со стандартными вариантами. Рекомендуются конфигурации IQ2_XXS 2,42 бит и Q2_K_XL 2,71 бит как удачный баланс размера и производительности; версия Q4_K_XL 4,5 бит получила наивысшую оценку качества. Для запуска желательно иметь не менее 180 ГБ совокупной VRAM и RAM. Ограничения включают очень высокие требования к памяти, а предварительные версии 1,78 и 1,93 бит могут хуже справляться с некоторыми задачами программирования. Лицензия модели — MIT.

DeepSeek-V3.2-Speciale — крупная языковая модель, разработанная DeepSeek AI. Она представляет собой высокоресурсный вариант DeepSeek-V3.2, дообученный на базе DeepSeek-V3.2-Exp-Base, и ориентирована на сложное рассуждение, решение математических и алгоритмических задач, использование инструментов и работу в агентных сценариях. Модель использует механизм разреженного внимания DeepSeek Sparse Attention (DSA), предназначенный для снижения вычислительной сложности при работе с длинным контекстом. В DeepSeek-V3.2 также применяются масштабируемое обучение с подкреплением и конвейер синтеза данных для агентных задач, включая взаимодействие с инструментами. В README не указаны размер модели, точная архитектура, максимальная длина контекста, поддерживаемые языки и модальности; заявлена текстовая работа с сообщениями и инструментами. К сильным сторонам относятся развитое рассуждение, эффективность на длинном контексте и способность выполнять сложные интерактивные задачи. Для версии Speciale заявлены результаты на уровне или выше GPT-5, а также золотые медали на IMO и IOI 2025, однако эти утверждения приведены в README без подробностей о методике оценки. Ограничения включают отсутствие встроенного Jinja-шаблона чата и необходимость использовать предоставленный Python-код для кодирования сообщений и разбора ответов; функция разбора рассчитана только на корректно оформленный вывод. Модель распространяется по лицензии MIT.

Это экспериментальная селективно-квантованная GGUF-сборка DeepSeek-V4-Flash-0731 REAP-150B от Tinker-Stack. Модель основана на обрезанном варианте REAP-150B с архитектурой DeepSeek4 и MoE: 150 млрд параметров, 132 эксперта, из которых активны 6 на токен, и один общий эксперт. Веса упакованы в контейнер TurboQuant TQ3_4S с рецептом квантования примерно 3,49 бит на параметр; для запуска нужна специальная версия llama.cpp с поддержкой этого формата. Сборка предназначена для генерации текста, диалогов, агентного использования инструментов, программирования, анализа длинных документов и задач на рассуждение. Заявлена работа с контекстом до 256 тысяч токенов при использовании подходящего KV-кэша. В README приведены внутренние сравнительные тесты и показатели perplexity, однако они не являются стандартизированными оценками; качество зависит от режима рассуждения и настроек инференса. Модель компактнее полноразмерных вариантов благодаря обрезке и квантованию, но квантование может снижать точность, а REAP-вариант может уступать исходной модели в некоторых возможностях. Сборка экспериментальная, требует нестандартного форка llama.cpp; контекст 1 млн токенов на описанном оборудовании не подтверждён. Лицензия репозитория — MIT.

DeepSeek-V4-Flash-Vision-Exp — экспериментальная мультимодальная модель семейства DeepSeek-V4, созданная разработчиками DeepSeek на основе DeepSeek-V4-Flash с добавлением визуальных модулей и дополнительным обучением. Она предназначена для понимания изображений и работы с мультимодальными агентными задачами, сохраняя сопоставимые возможности базовой версии в текстовых агентных сценариях. В карточке приведены результаты на отдельных текстовых агентных тестах, включая Terminal Bench 2.1 и NL2Repo. Модель имеет плотную архитектуру DeepseekV4ForCausalLM, содержит 10,7 млрд параметров и принимает изображения вместе с текстом, выдавая текст. Заявленная длина контекста — 1 048 576 токенов. Репозиторий включает веса safetensors в формате FP8, токенизатор и минимальную реализацию инференса; в README также описано использование с vLLM и SGLang. Лицензия — MIT.

GaelicThunder/DeepSeek-V4-Flash-Vision-Exp-ablit-EXL3-Kalibrated — квантизированная версия DeepSeek-V4-Flash-Vision-Exp от DeepSeek, подготовленная GaelicThunder на основе MixedK-пака vcruz305 и abliterated-варианта drowzeys. Модель предназначена для мультимодальных задач «текст плюс изображение», включая анализ изображений и генерацию текста, а также для обычных сценариев работы с текстом, математикой и кодом. Это MoE-модель с 256 маршрутизируемыми экспертами в каждом слое, представленная в формате EXL3 с mixed-precision-квантизацией: экспертные веса распределены между 2- и 3-битным представлением, при этом 22 слоя дополнительно переквантизированы в калиброванный 3-битный формат. Остальные тензоры используют BF16 или FP8 в зависимости от компонента. Пакет занимает около 106 GB и рассчитан на запуск на одной NVIDIA DGX Spark с GB10 и 128 GB памяти. Поддерживаются контекст до 245 760 токенов, speculative decoding, CUDA graphs и обработка от одного до трёх изображений на запрос. Языки явно не указаны. По приведённым измерениям модель сохраняет около 90% вероятности токенов оригинальной модели в среднем, с особенно сильными результатами на математике; заявлены также показатели для прозы и кода. Ограничения включают высокие требования к памяти и специализированному стеку запуска, длительную первичную компиляцию ядер и известную ошибку декодирования, из-за которой иногда появляется токен «)Skip»; в рекомендуемом сценарии она подавляется прокси. Модель распространяется по лицензии MIT.

Distil Labs разработала эту модель на основе Qwen3-0.6B, дообучив её для преобразования вопросов на естественном языке в SQL-запросы с помощью дистилляции ответов DeepSeek-V3. Это компактная причинная языковая модель архитектуры Qwen3ForCausalLM с 507,9 млн параметров и контекстом до 40 960 токенов. Она принимает текстовые вопросы и схемы баз данных и генерирует SQL; карточка ориентирует её на английский язык и синтаксис SQLite. Модель подходит для текстовых интерфейсов к базам данных, помощников по SQL, разговорной аналитики и учебных инструментов. По описанию, она поддерживает базовые агрегаты и фильтрацию, JOIN, группировку, сортировку, подзапросы и UNION; автор приводит результаты сравнения с базовой моделью и учителем на своих оценках. Ограничения: модель оптимизирована для SQLite, лучше работает со схемами из одной-двух таблиц и может ошибаться на сложных вложенных подзапросах. Лицензия — Apache-2.0.

Distil-Qwen3-4B-Text2SQL-GGUF-4bit — 4-битная квантизированная GGUF-версия модели distil-labs/distil-qwen3-4b-text2sql от Distil Labs. Она преобразует вопросы на английском языке в SQL-запросы для SQLite; поддерживает запросы с SELECT, фильтрами, агрегатами, JOIN, группировкой, сортировкой, подзапросами и UNION. Формат Q4_K_M и размер около 2,5 ГБ рассчитаны на локальный запуск на потребительских компьютерах и устройствах с ограниченными ресурсами; заявлена совместимость с Ollama. В README приведены результаты внутренних сравнений с базовой Qwen3-4B и моделью-учителем DeepSeek-V3, включая exact match 60%. Это специализированная модель для Text-to-SQL, поэтому сгенерированные запросы следует проверять на соответствие схеме базы данных и требованиям безопасности. Лицензия — Apache-2.0.

Dolphin 2.9.4 Gemma2 2B — диалоговая языковая модель, подготовленная Эриком Хартфордом и Cognitive Computations на базе Google Gemma 2 2B. Это плотная авторегрессионная модель с 2,7 млрд параметров, обученная с контекстом 8192 токена; для диалога использует шаблон ChatML. В метаданных указаны формат safetensors и задача генерации текста. Модель предназначена для следования инструкциям, диалогов, написания и анализа кода, а также сценариев с функциями и агентными действиями. Разработчик отмечает обучение на данных для разных языков и особое внимание к соблюдению системных инструкций. Упомянуто применение GrokAdamW и Liger Kernel, но автор не утверждает, что обучение привело к ожидаемому обобщению. Модель описана разработчиком как uncensored и может охотно выполнять вредоносные или неэтичные запросы; перед предоставлением пользователям рекомендуется добавить собственный слой выравнивания. Она распространяется по лицензии Gemma, условия которой следует учитывать при использовании.

Ektome-Qwen2.5-Coder-7B-Instruct-PristinelyUncensored — текстовая instruction-модель, разработанная Zynerji на основе Qwen/Qwen2.5-Coder-7B-Instruct. Она предназначена для генерации текста и решения задач программирования, следования инструкциям, рассуждений, арифметики и работы с общими знаниями. В README указана поддержка английского языка и размер 7B параметров; сведения о длине контекста и мультимодальности не приведены. Модель подвергнута процедуре Ektome, которая, согласно описанию, удаляет компонент, связанный с отказами, без дополнительного обучения и с сохранением общих возможностей. Для неё заявлен сертифицированный результат PASS в сравнении с исходной моделью на 2800 примерах: проверялись арифметика, следование инструкциям, знания и рассуждения, при пределе ухудшения 3%. Доступны GGUF-квантизации от 3 до 8 бит, включая варианты с imatrix. Модель является uncensored и по замыслу не отказывается от запросов, поэтому не предоставляет встроенных гарантий безопасности; ответственность за применение лежит на пользователе. Сертификат подтверждает только сохранение возможностей и не гарантирует безопасность, фактическую точность или пригодность для конкретных задач. Для модели не записаны отдельные проверки качества генерации и receipt по compliance/MMLU. Лицензия — Apache-2.0.

EpistemeAI2/Fireball-Phi-3-medium-4k-inst-Philos — дообученная на базе Phi-3 Medium Instruct модель для генерации ответов в диалоговом формате. Карточка описывает семейство Phi-3 Medium как плотную авторегрессионную языковую модель примерно на 13,8 млрд параметров; контекст составляет 4096 токенов. Эта версия ориентирована на английский язык и общие коммерческие и исследовательские сценарии, включая работу в условиях ограниченных вычислительных ресурсов и низкой задержки. Модель подходит для диалоговых помощников, ответов на вопросы, а также задач рассуждения, математики, логики и программирования. Базовая Phi-3 Medium Instruct прошла supervised fine-tuning и direct preference optimization для следования инструкциям и повышения безопасности. Репозиторий содержит веса в формате safetensors; лицензия — Apache 2.0. Как и другие языковые модели, она может выдавать неточные или вымышленные сведения, предвзятые или оскорбительные ответы. Качество на языках помимо английского ниже; сгенерированный код и ответы для чувствительных или высокорисковых сценариев требуют проверки. README преимущественно описывает базовую Phi-3 Medium Instruct, поэтому отдельные характеристики дообучения EpistemeAI2 на философских данных в предоставленной карточке подробно не раскрыты.

FuseChat-Llama-3.1-8B-Instruct — разговорная языковая модель FuseAI, созданная методом неявного объединения знаний нескольких крупных языковых моделей. В основе лежит плотная архитектура Llama с 7,5 млрд параметров; модель обучена на основе Llama-3.1-8B-Instruct с этапами дообучения с учителем и оптимизации предпочтений (DPO). Для репозитория указаны библиотека Transformers и формат Safetensors, а заявленный контекст составляет 131 072 токена. Модель предназначена для диалога и следования инструкциям, а также для общих задач, математики, программирования и работы с китайским языком. В описании FuseChat-3.0 сообщается об улучшениях на тестах разговорных навыков и следования инструкциям по сравнению с целевой базовой моделью. Модель принимает текст и генерирует текст. Модель распространяется по лицензии Apache-2.0. Результаты, указанные в карточке для серии FuseChat-3.0, не гарантируют аналогичного качества на всех задачах и языках; подробные сведения о качестве именно этого чекпойнта в предоставленном фрагменте карточки отсутствуют.

FuseO1-DeepSeekR1-Qwen2.5-Coder-32B-Preview-v0.1-GGUF — это GGUF-квантизации языковой модели FuseAI/FuseO1-DeepSeekR1-Qwen2.5-Coder-32B-Preview, подготовленные пользователем bartowski с помощью llama.cpp. Модель предназначена для генерации текста и, судя по названию базовой модели, ориентирована прежде всего на программирование и задачи рассуждения, однако подробные сведения о поддерживаемых языках, длине контекста и точной архитектуре в README не указаны. Доступны варианты от полного BF16 размером 65,54 ГБ до квантизаций Q3–Q8 и IQ4 с размером примерно от 17,69 до 34,82 ГБ. Для квантизации использовался imatrix, а для запуска рекомендуется LM Studio; также указана совместимость с llama.cpp. В README приведён специальный формат промпта. Более качественными и рекомендуемыми названы варианты Q5, Q6 и Q4_K_M, тогда как облегчённые варианты позволяют снизить требования к оперативной памяти ценой качества. Модель текстовая; поддержка других модальностей не заявлена. Репозиторий распространяется по лицензии Apache-2.0. Ограничения включают значительные требования к памяти для 32B-модели и возможное снижение качества у компактных квантизаций. README не содержит результатов тестирования, точных характеристик базовой архитектуры, сведений о языках и контекстном окне.

MAISAAI/gemma-2b-coder — языковая модель для генерации кода, созданная дообучением Gemma 2B на 20 тысячах инструкций из набора CodeAlpaca с помощью QLoRA и PEFT. Модель использует плотную decoder-only архитектуру Gemma, содержит 2,5 млрд параметров и рассчитана на контекст до 8192 токенов. Модель предназначена для генерации кода по запросам на естественном языке и ответов на вопросы о программировании. Компактный размер позволяет запускать её на персональном компьютере или собственной облачной инфраструктуре. README указывает английский как язык исходного семейства Gemma; качество именно этой версии отдельно не оценено, а результаты проверки обозначены как находящиеся в работе. Лицензия в предоставленных данных не указана.

Это квантизированная NVFP4-версия Gemma 4 12B, дообученной для агентных сценариев и использования инструментов. Исходный fine-tune разработан yuxinlu1, а данная сборка переупакована и квантизирована Sourav Singh для локального запуска в Krill — движке инференса на Swift и MLX для Apple Silicon. Модель предназначена для генерации текста и кода, программирования, агентных задач и tool-use, включая сценарии, ориентированные на τ²-bench. Архитектура gemma4_unified объединяет текстовые, визуальные и аудиокомпоненты, однако конкретные поддерживаемые пользовательские режимы в этой сборке README подробно не описывает. Контекст модели также не указан. Основные веса представлены в NVFP4 с группировкой 16, а чувствительные модули используют 8-битное affine-представление с группировкой 64. Заявлены загрузка примерно за 1,7 секунды и скорость декодирования около 28 токенов в секунду на Apple Silicon. Сильная сторона модели — результаты в генерации кода: в приведённых тестах она показывает 83,5% на HumanEval и 84,1% на MBPP без reasoning и 86,0% и 83,6% соответственно с reasoning. Ограничения связаны с совместимостью: это MLX-чекпойнт, рассчитанный прежде всего на Krill, и он не предназначен для vanilla mlx-lm, mlx-vlm, llama.cpp, Ollama, transformers или vLLM. Лицензия — Gemma license; условия распространяются на базовую модель Google Gemma 4 и производный fine-tune.

Это объединённая модель на архитектуре Gemma 4, опубликованная пользователем tepirale в формате SafeTensors для Transformers. Метаданные связывают её с двумя моделями: yuxinlu1/gemma-4-12B-coder-fable5-composer2.5-v1-GGUF и yuxinlu1/gemma-4-12B-it-Claude-4.6-4.8-Opus-GGUF. README описывает преобразование весов из GGUF в SafeTensors, но не приводит подробностей об обучении или оценке качества. Модель предназначена для генерации текста и, согласно pipeline_tag, работы с изображениями вместе с текстом. Теги указывают на сценарии программирования, агентных задач, использования инструментов и терминала. Репозиторий использует библиотеку Transformers; лицензия — Apache 2.0. Подтверждённых сведений о поддерживаемых языках, контекстном окне и точном числе параметров в предоставленных данных нет.

Это дообученная и затем модифицированная абляцией отказов версия Gemma-4 12B Coder, опубликованная tpls. Модель предназначена для генерации кода и агентных сценариев с вызовом инструментов. Веса доступны в формате safetensors; README также указывает на отдельные готовые GGUF-квантизации. Архитектура — плотная Gemma4 Unified. Размер 12 млрд параметров указан в названии модели. Модель обучена методом SFT с QLoRA для работы с нативной разметкой вызова инструментов Gemma-4, после чего из весов удаляли направление отказа. Для обработки вызовов инструментов в llama.cpp требуется серверный shim: без него парсер может не распознать нативную разметку. Автор сообщает о прохождении 8 тестовых сценариев с shim, но это ограниченная выборка, а не общая оценка качества. Поддерживаемый язык карточки — английский. Лицензия — Gemma. Ответы и аргументы инструментов могут быть ошибочными или вымышленными, поэтому их следует проверять до выполнения. Из-за существенно ослабленных защитных механизмов модель не подходит для систем, где требуется поведение отказа.

Gemma-4 12B Coder — SFT v5 + abliterated (GGUF) — это локальная квантизированная версия кодовой модели семейства Gemma-4, разработанная на базе модели tpls/gemma-4-12B-coder-fable5-composer2.5-v1-sft-v5-abliterated и подготовленная triplezrobotics. Модель распространяется в формате GGUF для запуска через llama.cpp и Ollama; заявленный основной язык — английский. Модель предназначена для генерации кода, текстовых задач и агентских сценариев с использованием инструментов и function calling. Она сочетает дообучение SFT v5, abliteration и imatrix-квантизацию. Доступны варианты от IQ4_XS и Q3_K_M до Q8_0; Q4_K_M обозначен как сбалансированный вариант для примерно 12 ГБ видеопамяти. В README приведён пример запуска с контекстом 16 384 токена. Ключевое преимущество модели — поддержка вызова инструментов и локального развёртывания. В тесте на наборе из восьми случаев заявлен результат 8/8 при использовании recovery shim, преобразующего нативную разметку Gemma-4 в стандартные tool_calls; без shim-парсера llama.cpp показатель составил 0,125 из-за неполной обработки формата. Ответы могут содержать ошибки или вымышленные данные, поэтому аргументы инструментов необходимо проверять до выполнения. Вариант является uncensored: из весов удалено направление отказа, поэтому защитные ограничения существенно ослаблены. Это делает модель непригодной для сценариев, где обязательна встроенная политика отказа, и требует контроля со стороны пользователя. В README указана лицензия Gemma.

Карточка модели belltechsoft/gemma-4-12B-it-assistant на Hugging Face совпадает с карточкой google/gemma-4-12B-it-assistant, поэтому описание составлено по ней. Gemma 4 12B IT Assistant — мультимодальная модель с открытыми весами от Google DeepMind, предназначенная для диалогов и генерации текста. Эта карточка описывает вариант Multi-Token Prediction (MTP): компактная черновая модель для speculative decoding, которая предлагает несколько токенов заранее, а целевая модель проверяет их параллельно. Такой режим может ускорять декодирование до 3 раз без изменения качества относительно обычной генерации. Модель семейства Gemma 4 использует плотную архитектуру и поддерживает ввод текста, изображений и аудио; на выходе генерирует текст. Она предназначена для рассуждений, программирования, распознавания и понимания речи, работы с изображениями и агентных сценариев с вызовом инструментов. Семейство поддерживает длинный контекст до 256 тысяч токенов и многоязычную работу; в карточке указана поддержка более 140 языков при обучении. MTP-вариант рассчитан на использование в speculative decoding с соответствующей целевой моделью, а не как самостоятельная замена обычному checkpoint для всех сценариев. Лицензия — Apache 2.0.

Карточка модели RichardHuu/gemma-4-12B-it-assistant на Hugging Face совпадает с карточкой google/gemma-4-12B-it-assistant, поэтому описание составлено по ней. Gemma 4 12B IT Assistant — мультимодальная модель с открытыми весами от Google DeepMind, предназначенная для диалогов и генерации текста. Эта карточка описывает вариант Multi-Token Prediction (MTP): компактная черновая модель для speculative decoding, которая предлагает несколько токенов заранее, а целевая модель проверяет их параллельно. Такой режим может ускорять декодирование до 3 раз без изменения качества относительно обычной генерации. Модель семейства Gemma 4 использует плотную архитектуру и поддерживает ввод текста, изображений и аудио; на выходе генерирует текст. Она предназначена для рассуждений, программирования, распознавания и понимания речи, работы с изображениями и агентных сценариев с вызовом инструментов. Семейство поддерживает длинный контекст до 256 тысяч токенов и многоязычную работу; в карточке указана поддержка более 140 языков при обучении. MTP-вариант рассчитан на использование в speculative decoding с соответствующей целевой моделью, а не как самостоятельная замена обычному checkpoint для всех сценариев. Лицензия — Apache 2.0.

Это объединённая модель семейства Gemma 4 Unified, созданная автором репозитория tepirale с помощью mergekit. В качестве основы использована google/gemma-4-12B-it; методом DARE TIES объединены также модели tepirale/gemma-4-12B-coder-fable5-composer2.5-v1-safetensors-yuxinlu1 и tepirale/gemma-4-12B-agentic-fable5-composer2.5-v2-3.5x-tau2-safetensors-yuxinlu1. Веса сохранены в формате safetensors, тип данных — bfloat16. Модель предназначена для генерации текста по текстовым и визуальным входам, включая сценарии, сочетающие агентные возможности и генерацию кода. Метаданные указывают поддержку image-text-to-text и vision; базовая Gemma 4 поддерживает диалог, анализ изображений, видео и аудио, однако README этой объединённой модели не подтверждает отдельно все эти возможности. Для модели не приведены результаты оценки качества или подробные инструкции по применению. Лицензия в предоставленных данных не указана.

Gemma4-12B-QAT-Uncensored-HauhauCS-Balanced — мультимодальная версия модели Gemma 4 12B от Google DeepMind, модифицированная HauhauCS. Это GGUF-сборка с уменьшенным количеством отказов в ответах, предназначенная для агентного программирования, рассуждений, творческого письма, ролевого общения и диалоговых сценариев, где важны следование инструкциям и надёжность. Модель поддерживает текстовый ввод и изображения через отдельный mmproj-модуль; заявленный язык — английский. Модель имеет плотную архитектуру размером 12B параметров и контекстное окно 256K токенов. Основной файл использует QAT-квантизацию Q4_K_M и занимает около 6,9 ГБ; заявляется сохранение качества, близкого к полной точности. В комплект входит MTP-голова для speculative decoding, которая в llama.cpp, по данным автора, обеспечивает примерно на 60% более высокую скорость генерации без изменения проверенного результата. Поддерживаются llama.cpp, LM Studio, Jan, koboldcpp и другие GGUF-совместимые среды. К сильным сторонам относятся большое контекстное окно, поддержка изображений, оптимизация под 4-битную квантизацию, ускоренная генерация с MTP и настройка для кодинга, рассуждений и творческих задач. Ограничения включают зависимость визуального режима от отдельного mmproj-файла, экспериментальный характер заявлений об отсутствии отказов и ограниченность тестирования ускорения llama.cpp. Для LM Studio отмечена возможная нестабильность в режиме tensor-split на нескольких GPU; рекомендуется использовать один GPU или альтернативное распределение слоёв. Модель распространяется по лицензии Gemma.

EmanuelOverride/gemma-4-19b-a4b-it-REAP-heretic-APEX-GGUF — это GGUF-квантизированная версия Gemma 4 19B-A4B-it REAP, созданная на основе модели coder3101/gemma-4-19b-a4b-it-REAP-heretic. В основе лежит Gemma 4 от Google, подвергнутая 30% pruning экспертов методом Cerebras REAP, а затем декензурированная с помощью Heretic v1.2.0 и метода Arbitrary-Rank Ablation. Репозиторий поддерживает текстовую генерацию и ориентирован на англоязычные сценарии. Модель использует mixture-of-experts архитектуру: около 19,02 млрд общих параметров, примерно 4 млрд активных параметров на токен, 90 экспертов на слой и 8 активируемых экспертов на токен. Удаление 38 из 128 экспертов на слой уменьшает общий размер модели примерно на 31%, при этом число активных параметров на токен сохраняется. README не указывает размер контекстного окна и полный перечень поддерживаемых модальностей; по имеющимся данным, модель предназначена для работы с текстом, включая программирование, рассуждения, математику, научные и биомедицинские вопросы, tool calling и агентные сценарии. Главная особенность версии GGUF — пользовательские APEX-квантизации с неравномерным распределением точности: маршрутизаторы и важные общие эксперты сохраняются в более высокой точности, а более сильное сжатие применяется к менее значимым тензорам средних слоёв. Доступны варианты от i-Mini размером около 8,7 ГиБ и 3,94 BPW до i-Balanced размером около 13,9 ГиБ и 6,30 BPW, а также промежуточные профили. Это позволяет выбирать баланс между размером, потреблением памяти и качеством, однако фактическая производительность зависит от оборудования и выбранной квантизации. По заявленным тестам, декензурированная версия значительно реже отказывается отвечать: 6 отказов из 100 против 94 у исходной модели, при KL divergence 0,029. Ограничениями являются возможная потеря качества из-за pruning, декензурирования и квантизации, а также отсутствие подробных данных о контексте и комплексных бенчмарках. Указана лицензия Gemma; условия применения следует проверять по лицензии исходной модели и требованиям Google.

DuoNeural разработала Gemma-4-26B-A4B-Abliterated — изменённую версию диалоговой Gemma 4 от Google DeepMind. Это модель генерации текста на архитектуре MoE с 26 млрд параметров, из которых около 3,8 млрд активны при обработке токена; в README указано 128 маршрутизируемых экспертов и один общий, из которых одновременно задействуются восемь. Модель принимает текстовые запросы и предназначена для диалога, следования инструкциям, рассуждений, генерации кода, работы с инструментами и структурированного вывода. От базовой Gemma-4-26B-A4B-it она отличается удалением отказов с помощью изменения весов методом representation engineering. README заявляет сохранение общих возможностей и многоязычной генерации, но не приводит конкретного перечня поддерживаемых языков; метаданные отмечают английский и многоязычность. В карточке также приведён пример запуска GGUF через llama.cpp с контекстом 16 384 токена, однако метаданные этого репозитория указывают формат safetensors и библиотеку Transformers. Модель рассчитана на пользователей, которым нужна инструкция-следующая языковая модель с менее ограничительным поведением. Удаление отказов означает, что она может отвечать на запросы, которые базовая модель отклонила бы; качество и безопасность таких ответов требуют проверки. README указывает исследовательское и образовательное применение и отсылает к условиям Google Gemma Terms of Use; метаданные обозначают лицензию как gemma.

Это экспериментальная дообученная версия Gemma 4 26B A4B IT, подготовленная glyphsoftware с помощью Unsloth. Модель обучена методом supervised fine-tuning на примерно 8,7 тыс. примеров рассуждений, дистиллированных из Claude Opus 4.6 и 4.7. Она предназначена для диалогов и генерации текста с упором на многошаговое рассуждение, планирование и самопроверку; поддерживает интерфейс вызова инструментов. Основа — мультимодальная архитектура Gemma4ForConditionalGeneration с экспертной архитектурой MoE. Базовая модель принимает текст, изображения, аудио и видео; README заявляет контекст до 262 тыс. токенов. Метаданные указывают формат safetensors и лицензию GPL-3.0. Обучающие примеры акцентируют математику, код, логику и разбиение задач на шаги. Мультимодальные возможности унаследованы от базовой модели и специально не улучшались этим дообучением. Небольшой обучающий набор скорее влияет на стиль рассуждений, чем обеспечивает широкий прирост возможностей; возможны ошибки и перенос особенностей стиля и отказов Claude. Дополнительная настройка безопасности не проводилась, поэтому для высокорисковых сценариев нужны проверка человеком и собственные защитные меры.