II.2Создание и понимание программного кода

Dolphin 2.9.2 Mixtral 8x22B GGUF — это квантизированная версия языковой модели Dolphin 2.9.2, созданная сообществом cognitivecomputations на базе mistral-community/Mixtral-8x22B-v0.1. Репозиторий bartowski содержит варианты модели в формате GGUF, подготовленные с помощью llama.cpp и imatrix-квантизации. Модель предназначена для генерации текста в диалогах, выполнения инструкций, программирования, математических задач, function calling и агентских сценариев. В обучении использовались наборы данных для чат-взаимодействия, кода, обратной связи по программированию, математики, системных инструкций и работы агентов. Указан английский язык, а формат запросов основан на ChatML с ролями system, user и assistant. Архитектура и максимальный размер контекста в README не указаны. Доступны варианты квантизации от Q8_0 до IQ1_M размером примерно от 32,73 до 149,42 ГБ. Более качественными и рекомендуемыми названы Q5_K_M, Q4_K_M и IQ4_XS; варианты с более низкой разрядностью требуют меньше памяти, но могут заметно уступать по качеству. Модель предназначена для запуска через совместимые инструменты, включая llama.cpp, однако большие размеры файлов предъявляют высокие требования к оперативной памяти и видеопамяти. Модель распространяется по лицензии Apache-2.0. Ограничения включают зависимость качества от выбранной квантизации и значительные требования к ресурсам; сведения о специализированных мультимодальных возможностях и поддержке других языков отсутствуют.

Dolphin-2.9.3-Mistral-7B-32k-GGUF — это квантизированная версия языковой модели Dolphin-2.9.3-Mistral-7B-32k, созданной Cognitive Computations на базе Mistral-7B-v0.3 от Mistral AI. Репозиторий GGUF подготовлен и квантизирован bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста в диалоговом формате, выполнения инструкций, программирования, решения математических задач, function calling и агентских сценариев. Модель содержит около 7 млрд параметров, работает с текстовой модальностью и поддерживает контекст до 32 000 токенов. Для обучения или дообучения использовались наборы Dolphin-2.9, OpenHermes-2.5, CodeFeedback-Filtered-Instruction, dolphin-coder, samantha-data, Orca Math, Locutusque/function-calling-chatml и Agent-FLAN. README не указывает полный перечень поддерживаемых языков, поэтому языковые возможности нельзя надежно уточнить. Главное преимущество репозитория — широкий выбор GGUF-квантизаций с разным компромиссом между качеством и потреблением памяти: от высококачественных Q8_0 и Q6_K до более компактных вариантов Q4, Q3 и IQ3. Более низкие уровни квантизации экономят память, но могут заметно снижать качество ответов; некоторые варианты отмечены как экспериментальные. Для работы требуется совместимый inference-движок, например llama.cpp. Лицензия — Apache-2.0.

Dolphin 3.0 Llama 3.2 3B — инструктивно дообученная языковая модель, созданная Eric Hartford, Ben Gitter, BlouseJury и Cognitive Computations на основе Meta Llama 3.2 3B. Это плотная авторегрессионная модель семейства Llama с 3,2 млрд параметров и контекстом до 131 072 токенов; веса доступны в формате Safetensors. Модель предназначена для локального использования как универсальный диалоговый помощник. Она подходит для генерации текста, программирования, математических задач и работы в агентных сценариях, включая интерфейс вызова функций. Для диалогов используется шаблон ChatML; системный промпт позволяет задавать тон и правила поведения. Обучение опиралось на наборы данных для инструкционного диалога, кода, математики и вызова функций. Модель рассчитана на текстовый ввод и выдаёт текст. В карточке указан английский язык. Количественные результаты оценки качества не приведены. Лицензия — Llama 3.2; условия использования определяются этой лицензией.

dpo5k3 — дообученная модель на базе deepseek-ai/deepseek-coder-1.3b-base, созданная с использованием набора данных generator. Это плотная авторегрессионная модель семейства Llama с 1,3 млрд параметров, предназначенная для генерации текста; базовая модель ориентирована на продолжение и автодополнение кода, а также заполнение пропусков в коде. Модель опубликована в формате safetensors и поддерживает контекст до 16 384 токенов. Карточка не уточняет сценарии дообучения, оценку качества или ограничения. Лицензия указана как other, поэтому перед использованием следует проверить условия лицензии в репозитории модели.

Dracarys2-72B-Instruct — языковая модель Abacus.AI для генерации кода и диалоговых сценариев. Это дообученная версия Qwen2.5-72B-Instruct с плотной архитектурой Qwen2; модель содержит 71,5 млрд параметров и работает с контекстом до 32 768 токенов. Репозиторий содержит веса в формате Safetensors. Модель предназначена для генерации кода, рассуждений о выполнении программ и предсказания вывода тестов. В опубликованных результатах LiveCodeBench она превосходит исходную Qwen2.5-72B-Instruct по общему результату генерации кода и предсказанию тестового вывода, но результаты на сложных задачах генерации кода остаются ограниченными. Карточка также указывает интерфейс для вызова инструментов. Основной язык, заявленный в метаданных, — английский. Модель разработала Abacus.AI; лицензия указана как other, поэтому конкретные условия использования следует сверить с лицензией репозитория. Приведённые оценки получены на LiveCodeBench и сами по себе не гарантируют качество на других задачах или в производственной среде.

DataSoul/DwQ-R1-32B-v0.1 — слитая модель генерации текста, созданная с помощью mergekit методом Linear из huihui-ai/DeepSeek-R1-Distill-Qwen-32B-abliterated и huihui-ai/QwQ-32B-Coder-Fusion-9010. В конфигурации слияния веса моделей составляют 0,9 и 0,1 соответственно; архитектура — плотная Qwen2ForCausalLM, размер — 32 млрд параметров, формат весов — safetensors, библиотека — Transformers. Модель предназначена для диалоговой генерации текста и может применяться для рассуждений и помощи с задачами программирования благодаря объединению двух исходных моделей. Она принимает текст и выдаёт текст; заявленная длина контекста — 131 072 токена. Карточка не сообщает лицензию, поэтому условия использования по имеющимся данным определить нельзя.

Карточка модели elyza/ELYZA-japanese-CodeLlama-7b на Hugging Face совпадает с карточкой elyza/ELYZA-japanese-CodeLlama-7b-instruct, поэтому описание составлено по ней. ELYZA-japanese-CodeLlama-7b-instruct — компания ELYZA дообучила на базе Code Llama дополнительным предварительным обучением, чтобы расширить поддержку японского языка. Это плотная авторегрессионная модель семейства Llama для генерации текста, включая ответы на инструкции и создание кода. Модель содержит 6,6 млрд параметров и поддерживает контекст длиной до 16 384 токенов. В карточке указаны японский и английский языки. Модель подходит для генерации и объяснения кода, а также для ответов на текстовые запросы на японском и английском языках. Модель распространяется в формате safetensors по лицензии Llama 2. Карточка не приводит оценки качества или подробные ограничения; результаты генерации кода и фактические ответы следует проверять.

ELYZA-japanese-CodeLlama-7b-instruct — компания ELYZA дообучила на базе Code Llama дополнительным предварительным обучением, чтобы расширить поддержку японского языка. Это плотная авторегрессионная модель семейства Llama для генерации текста, включая ответы на инструкции и создание кода. Модель содержит 6,6 млрд параметров и поддерживает контекст длиной до 16 384 токенов. В карточке указаны японский и английский языки. Модель подходит для генерации и объяснения кода, а также для ответов на текстовые запросы на японском и английском языках. Модель распространяется в формате safetensors по лицензии Llama 2. Карточка не приводит оценки качества или подробные ограничения; результаты генерации кода и фактические ответы следует проверять.

jasperan/embeddinggemma-code-search — дообученная модель эмбеддингов на базе google/embeddinggemma-300m для семантического поиска по коду. Она обучалась на graded retrieval traces из сессий coding-агента: запросы на естественном языке сопоставлялись с фрагментами кода, размеченными по степени релевантности. Модель предназначена для поиска нужных функций и фрагментов в кодовой базе по описанию задачи или намерения. Модель использует плотную текстовую архитектуру Gemma 3 и библиотеку Sentence Transformers; содержит 302,8 млн параметров и принимает до 2048 токенов. Поддерживает Matryoshka-эмбеддинги с усечением до 128, 256 или 768 измерений, что позволяет выбирать баланс между качеством поиска и стоимостью индекса. В README приведены результаты на отложенных запросах по recall@5: после дообучения качество выросло на всех указанных размерностях, особенно при усечении до 128 измерений. Модель принимает текстовые запросы и фрагменты кода и выдаёт эмбеддинги для поиска по близости; метаданные также указывают задачу sentence-similarity. README описывает эксперимент на одной реальной Python-кодовой базе и не подтверждает качество на других корпусах или языках программирования. Лицензия — Gemma.

Eurus-7B-SFT — языковая модель с открытыми весами, разработанная OpenBMB и дообученная на базе Mistral-7B. Она предназначена для генерации ответов с упором на рассуждения, в том числе для задач программирования и математики; также поддерживает диалог. Модель содержит 7,1 млрд параметров, использует плотную архитектуру Mistral и имеет контекст длиной до 32 768 токенов. Для дообучения использованы корректные действия из UltraInteract-SFT и небольшая доля примеров UltraChat, ShareGPT и OpenOrca. В карточке авторы сообщают о высоких результатах среди открытых моделей сопоставимого размера; это заявление основано на их оценке и не гарантирует качество на конкретных задачах. Для программирования и математики рекомендуется формат промптов из UltraInteract. Модель распространяется в формате safetensors по лицензии Apache-2.0. Как и другие генеративные языковые модели, она может ошибаться в рассуждениях, вычислениях и коде; результаты следует проверять.

Eurux-8x22B-KTO — языковая модель семейства Mixtral, разработанная OpenBMB. Это дообученная версия Mixtral-8x22B: сначала выполнено SFT, затем KTO на многоходовых траекториях UltraInteract и парах предпочтений UltraFeedback. Модель предназначена для генерации текста, рассуждений, диалогов и следования инструкциям; в карточке заявлены сильные результаты в задачах программирования, математики, знаний и рассуждений. Модель использует архитектуру Mixtral MoE, распространяется в формате safetensors, содержит 22 млрд параметров и поддерживает контекст до 65 536 токенов. Для запуска в README приведён пример использования через Transformers и PyTorch. Лицензия — Apache-2.0. Оценочные результаты приведены для набора бенчмарков по коду, математике, рассуждениям, знаниям, следованию инструкциям и диалогу; они не гарантируют качество на конкретных пользовательских данных. Языки обучения или поддерживаемые языки в предоставленных сведениях не перечислены.

Eve-4B — языковая модель для программирования и анализа безопасности кода, разработанная TitleOS. Это дообученная версия Qwen3-4b-Heretic на наборе Eve-Secure-Coder с архитектурой Qwen3ForCausalLM и 3,7 млрд параметров. Модель предназначена для локальной работы, в том числе на видеокартах с 8 ГБ VRAM, и поддерживает контекст до 262 144 токенов. Модель генерирует и проверяет код, ищет уязвимости и предлагает исправления; также она рассчитана на диалоговое взаимодействие и задачи программирования на разных языках. В карточке приведён результат LiveCodeBench Pass@1 26,22% для квантованной версии Q8_0, но набор оценок ещё формируется. По описанию разработчика, после процесса Heretic у модели нет защитных отказов, поэтому её ответы могут включать небезопасный код и другие нежелательные результаты. Репозиторий содержит safetensors и GGUF F16. Указана лицензия MPL-2.0 с дополнительным некоммерческим условием в README; перед использованием следует учитывать оба условия.

Falcon3-3B-Instruct — языковая модель семейства Falcon3, разработанная Technology Innovation Institute. Она предназначена для диалогов и выполнения инструкций, а также для задач рассуждения, понимания языка, программирования и математики. Модель содержит 2,8 млрд параметров и принимает текст, формируя текстовые ответы; поддерживает интерфейс вызова инструментов. Это трансформерный авторегрессионный декодер с 22 блоками, Grouped Query Attention, SwiGLU и RMSNorm. Контекстное окно — до 32 768 токенов. Модель подготовлена на веб-данных, коде, STEM-материалах и многоязычных данных, а затем дообучена на диалогах, инструкциях, коде, математике, безопасности и вызовах функций. Поддерживаемые языки: английский, французский, испанский и португальский. Для практического применения доступны веса в формате safetensors и библиотека Transformers. Лицензия — TII Falcon-LLM License 2.0; перед использованием следует ознакомиться с её условиями. Качество ответов может различаться в зависимости от языка и задачи; заявленные сильные результаты не гарантируют точности в каждом конкретном случае.

Falcon-H1R-7B — языковая модель Technology Innovation Institute, предназначенная для рассуждений и генерации ответов. Она построена на Falcon-H1-7B-Base и дообучена методом supervised fine-tuning на длинных цепочках рассуждений, а затем усилена обучением с подкреплением GRPO. Модель имеет причинную декодерную архитектуру, сочетающую Transformer и Mamba2, и содержит 6,4 млрд параметров. Она принимает текст и поддерживает контекст до 262 144 токенов. В README заявлена специализация на математике, программировании, следовании инструкциям и общей логике; модель также поддерживает диалоговый режим. Основной язык — английский, при этом заявлена многоязычная поддержка. Для использования указаны Transformers, vLLM и SGLang. Модель может выводить ход рассуждений перед итоговым ответом; для уменьшения повторов README рекомендует настраивать параметры повторения и присутствия. Лицензия — Falcon-LLM License.

FastContext-1.0-4B-SFT — плотная языковая модель для исследования репозиториев кода в роли вспомогательного агента для LLM-систем разработки. Это вариант на 3,7 млрд параметров, дообученный методом SFT на базе Qwen/Qwen3-4B-Instruct-2507; модель семейства Qwen3 использует архитектуру Qwen3ForCausalLM и принимает контекст до 262 144 токенов. Она анализирует запрос разработчика, ищет релевантные файлы и фрагменты через операции чтения и поиска, а затем возвращает компактные пути и диапазоны строк с цитатами, чтобы основной агент мог решать задачу с меньшим объёмом нерелевантного контекста. Модель рассчитана на работу как субагент с инструментами чтения и поиска, включая параллельные вызовы инструментов; её карточка также описывает сбор доказательств в несколько шагов и генерацию точных ссылок на строки. README сообщает об улучшении результатов решения задач и снижении расхода токенов при интеграции с Mini-SWE-Agent, но это показатели конкретных бенчмарков и конфигураций. Модель распространяется в формате Safetensors по лицензии MIT; заявленный язык — английский.

FlashModel-Qwen3.5-9B-GGUF — набор GGUF-квантизаций модели FlashModel-Qwen3.5-9B, подготовленный flashback2k на базе Qwen/Qwen3.5-9B. Исходная модель дообучена методом LoRA с RSLoRA на проекциях внимания и MLP, затем объединена с базовой моделью. Дообучение выполнено на 9 638 примерах и примерно 45 млн токенов, включая математические задачи, соревновательное программирование, агентные сценарии, следование инструкциям и научные данные. Модель ориентирована на рассуждения, генерацию и анализ кода, диалоги и вызовы инструментов. В карточке указан английский язык; поддержка других языков не заявлена. Модель имеет около 9 млрд параметров и распространяется в нескольких вариантах GGUF с разным уровнем квантизации и размером файлов примерно от 4,42 до 6,74 ГБ. Для квантизации использована собственная importance matrix, рассчитанная на этой дообученной модели. Варианты предназначены для локального запуска через llama.cpp, Ollama и LM Studio; заявлена совместимость с инструментальными вызовами и контекстом до 32 768 токенов при использовании рекомендованной конфигурации. Модель текстовая: vision tower отсутствует, поэтому мультимодальный ввод изображений не поддерживается. Сильными сторонами являются специализация на reasoning, coding и tool-calling, выбор вариантов под разные объёмы VRAM или RAM, а также оптимизация GGUF для локального запуска. Ограничения включают неизбежную потерю качества при низкой квантизации, необходимость оставлять память под KV-кэш, отсутствие заявленной поддержки изображений и ограниченность опубликованных сведений об оценках качества. Рекомендуемые параметры генерации взяты из карточки базовой модели и не перенастраивались специально для этого fine-tune; влияние тегов reasoning budget отмечено как экспериментальное. Модель распространяется по лицензии Apache-2.0.

Карточка модели ApocalypseParty/G4-31B-SFT-v6-1 на Hugging Face совпадает с карточкой ApocalypseParty/G4-31B-SFT-v6-2, поэтому описание составлено по ней. ApocalypseParty/G4-31B-SFT-v6-2 — дообученная версия мультимодальной Gemma 4 31B от Google DeepMind. Модель принимает текст и изображения и генерирует текст; её можно использовать для диалога, рассуждений, программирования и анализа визуальных данных, включая распознавание текста в документах, понимание диаграмм и интерфейсов. Поддерживаются вызовы инструментов и длинные контексты; для семейства Gemma 4 31B заявлено до 256K токенов. Gemma 4 обучена работать со многими языками, однако конкретные языки и настройки этого дообучения не описаны. Репозиторий содержит веса Safetensors и использует лицензию Apache 2.0. Карточка не приводит отдельных оценок качества или ограничений именно этой версии.

Gemma 3 Text-to-SQL — адаптер LoRA для преобразования вопросов на естественном языке в SQL-запросы. В карточке он описан как дообученный вариант Gemma 3 27B Instruct, предназначенный для работы с запросами, условиями фильтрации, сортировкой, агрегатами и соединениями таблиц; при наличии схемы базы данных модель может использовать её в контексте. README указывает базовую модель lmstudio-community/gemma-3-27b-it-GGUF и адаптер размером около 70 МБ, а метаданные HF связывают репозиторий с google/gemma-3-1b-it и помечают его как GGUF и PEFT. Эти сведения о базе и формате расходятся, поэтому точную конфигурацию следует сверять с файлами репозитория. Модель рассчитана на разработчиков и аналитиков, которым нужно получать SQL по текстовому описанию запроса. README сообщает об обучении на синтетических и отобранных наборах text-to-SQL; метаданные называют gretelai/synthetic_text_to_sql. Лицензия в метаданных — MIT. Английский указан как язык карточки и примеров. Качество зависит от того, насколько полно в запросе передана схема базы данных и насколько знакома модели предметная терминология. Вложенные запросы могут потребовать уточнения промпта, а SQL-синтаксис может зависеть от конкретной СУБД. Сгенерированные запросы следует проверять перед выполнением.

unsloth/gemma-4-12b — мультимодальная версия Gemma 4 12B, подготовленная Unsloth на базе google/gemma-4-12B. Это плотная модель семейства Gemma 4 с архитектурой Gemma4UnifiedForConditionalGeneration, предназначенная для обработки изображений и текста и генерации текстовых ответов. В карточке указаны гибридное внимание с локальными скользящими окнами и глобальными слоями, поддержка контекста до 256K токенов для Gemma 4 12B, а также возможности понимания изображений и видео, распознавания текста на изображениях, работы с кодом и вызова инструментов. Модель подходит для диалогов, анализа документов и графиков, распознавания объектов, чтения экранов интерфейсов, генерации и исправления кода, а также для агентных сценариев со структурированным вызовом инструментов. Семейство Gemma 4 поддерживает более 35 языков «из коробки»; README также указывает аудиовозможности для 12B, включая распознавание речи и перевод речи в текст. Формат файлов этого репозитория — safetensors. Лицензия — Apache-2.0. Качество ответов зависит от формулировки запроса и охвата обучающих данных; модель может ошибаться в фактах, испытывать трудности с тонкими языковыми нюансами и сложными открытыми задачами, а также воспроизводить смещения данных. README описывает возможности семейства Gemma 4 в целом, поэтому отдельные заявления о сценариях следует сверять с поведением именно этого чекпойнта.

gemma-4-12B-coder-fable5-composer2.5-nvfp4 — это квантизированная MLX-версия дообученной модели Gemma 4-12B coder. Исходную fine-tune-модель разработал yuxinlu1, а данный вариант подготовил Sourav Singh для локального инференса на Apple Silicon. Модель ориентирована прежде всего на генерацию кода, задачи программирования и алгоритмическое рассуждение; заявлена поддержка reasoning channel. Модель использует архитектуру Gemma 4 Unified с текстовыми, визуальными и аудиокомпонентами, однако конкретные языки и размер контекстного окна в README не указаны. Основная часть весов представлена в формате NVFP4 с 4-битной плавающей точностью и group size 16; attention-модули o_proj и vision/audio projectors сохранены в 8-битном формате. Заявлены загрузка примерно за 1,7 секунды, объём около 6,8 ГБ и скорость декодирования около 28 токенов в секунду на M4 Pro. В тестах модель показала высокие результаты на HumanEval и MBPP, существенно превосходя базовую Gemma 4-12B-it в задачах программирования, но уступая ей на математическом бенчмарке GSM8K. Это специализированный MLX-чекпойнт для работы через Krill и не является совместимым с vanilla mlx_lm, mlx_vlm, llama.cpp, Ollama, transformers или vLLM. Для запуска требуется движок с поддержкой архитектуры gemma4_unified и смешанной конфигурации NVFP4. Модель распространяется по лицензии Gemma; права на исходную fine-tune-модель принадлежат её автору, а данный репозиторий изменяет квантизацию и упаковку.

Карточка модели utkarsh2439/gemma-4-12B-it на Hugging Face совпадает с карточкой RedHatAI/gemma-4-12B-it, поэтому описание составлено по ней. Gemma 4 12B IT — мультимодальная модель Google DeepMind на архитектуре Gemma4 Unified, дообученная для следования инструкциям. Она принимает текст, изображения, видео и аудио и генерирует текст; поддерживает диалоги, рассуждения, программирование и вызов инструментов. Модель подходит для локального развёртывания на потребительских устройствах и для задач с длинным контекстом до 256 тыс. токенов. Модель может анализировать изображения и документы, распознавать текст и рукописный ввод, разбирать диаграммы и интерфейсы, а также анализировать видео по кадрам. Для аудио доступны распознавание речи и перевод речи в текст. Семейство Gemma 4 поддерживает более 140 языков в обучении, а карточка сообщает о мультиязычных возможностях; точный список языков для этой версии не приведён. Модель распространяется под лицензией Apache 2.0. Как и другие генеративные модели, она может допускать фактические ошибки; результаты распознавания, перевода и анализа следует проверять. Для видеовхода анализ выполняется по последовательностям кадров.

Это объединённая модель семейства Gemma 4 на основе инструкционной google/gemma-4-12B-it. Её создали методом Model Stock с помощью mergekit, объединив варианты Gemma 4, настроенные для генерации кода и агентных сценариев. Модель предназначена для диалогового взаимодействия, работы с изображениями и текстом, генерации кода и выполнения агентных задач. Модель использует плотную архитектуру Gemma4UnifiedForConditionalGeneration и распространяется в формате safetensors; в конфигурации слияния указан тип bfloat16. Метаданные относят её к задаче image-text-to-text и отмечают поддержку изображений. README не приводит конкретных результатов оценки или подробностей о языковом охвате. Условия лицензирования в предоставленных данных не описаны.

Gemma 4 12B Reviewer — MLX 4-bit — это дообученная модель на базе google/gemma-4-12B-it, разработанная для ревью программных проектов и исходного кода. Модель распространяется в формате MLX и оптимизирована для локального запуска на устройствах Apple Silicon; веса дообучения объединены с базовыми, поэтому отдельный адаптер не требуется. Модель предназначена для поиска замечаний в коде, включая нарушения политик комментариев и именования, подготовки сфокусированных и actionable-рекомендаций, а также работы с инструментами репозитория. В карточке указаны текстовая генерация и практический стартовый контекст 16 384 токена. Размер модели — 12B параметров; сведения о поддерживаемых языках и мультимодальности не указаны. По данным в README, на специализированном наборе проверки модель набрала 97/100: выявила все 50 случаев, требовавших изменений, и корректно обработала 47 из 50 чистых примеров. В отдельной выборке она вернула NO_COMMENT для всех 10 корректных изменений. Ограничение заключается в том, что при одновременном наличии в небольшом diff нарушения комментария и непрозрачного имени модель может сообщить только об одном из них; для исчерпывающей проверки рекомендуется выполнять отдельные проходы по политикам. Лицензия в предоставленных данных не указана.

0xSero/Gemma-4-19B — вариант Google Gemma 4 26B-A4B-it, сокращённый разработчиком 0xSero методом REAP (Router-weighted Expert Activation Pruning) при участии Cerebras. Это диалоговая модель MoE для генерации текста: из 128 экспертов в каждом слое удалено 38, осталось 90; на токен по-прежнему активируются 8 экспертов. Модель содержит около 19 млрд параметров, поставляется в BF16 и занимает примерно на 31% меньше места, чем исходная версия. Модель подходит для диалога, генерации кода и математических рассуждений. Она принимает текст и изображения, поддерживает режим рассуждений и контекст до 262 144 токенов. В опубликованной оценке после сокращения экспертов сохранились сильные результаты по элементарной математике и кодированию, но заметно снизились показатели на задачах, требующих широких знаний, включая философию и мировые религии. Указанная лицензия — Gemma; применяются её условия использования.

Gemma-4-21B — разреженная мультимодальная модель семейства Gemma 4, подготовленная 0xSero на основе google/gemma-4-26b-a4b-it. Авторы удалили 20% экспертов Mixture-of-Experts с помощью метода REAP от Cerebras: осталось 103 эксперта на слой, из которых активируются 8 на каждом токене. Всего в модели около 21,34 млрд параметров, формат весов — BF16; активное число параметров на токен осталось около 4 млрд. Модель предназначена для диалоговой генерации текста, рассуждений, программирования, математики и работы с изображениями. В архитектуре 30 трансформерных слоёв с чередованием скользящего и полного внимания; заявленное окно контекста — 262 144 токена. Модель поддерживает режим внутреннего рассуждения с разделением каналов thought и response. Карточка приводит результаты ограниченных сравнительных оценок, в которых качество генерации в целом было близко к исходной модели, но на отдельных задачах отмечалось заметное снижение точности. Для запуска указаны Transformers и vLLM; пример настройки vLLM ограничивает контекст 16 384 токенами. Лицензия — Gemma. Поддержка изображений указана в README, хотя основной pipeline-тег модели — text-generation.

TeichAI разработала Gemma 4 26B A4B IT Claude Opus Distill — мультимодальную диалоговую модель на базе unsloth/gemma-4-26B-A4B-it, дообученную методом SFT на примерах рассуждений Claude Opus и Sonnet. Модель ориентирована на сложные многошаговые задачи, где полезны структурированный анализ и подробное следование инструкциям. Модель предназначена для генерации и отладки кода, научных рассуждений, анализа сложных вопросов и исследовательского синтеза. Она принимает текст и изображения и формирует текстовые ответы; доступна в формате safetensors и поддерживает чат и работу с изображениями. В README отдельно описан режим рассуждений и приведены рекомендации для многоходовых диалогов и мультимодальных запросов. Качество и устойчивость исходной версии ограничены: автор рекомендует перейти на v2 из-за улучшенного качества данных и исправлений шаблона чата; окончательные результаты сравнительных тестов не приведены. Лицензия — Apache-2.0.

Google DeepMind Gemma 4 26B A4B IT QAT Q4_0 Unquantized — мультимодальная instruction-tuned модель семейства Gemma 4, связанная с базовой моделью google/gemma-4-26B-A4B-it. Это контрольная точка QAT: веса извлечены из конвейера обучения с учётом квантования, но сами хранятся в формате safetensors; вариант предназначен для последующей компиляции и исследований. Лицензия — Apache 2.0. Модель принимает текст и изображения и выдаёт текст. Она подходит для диалогов, рассуждений, генерации и исправления кода, анализа изображений и документов, распознавания текста на изображениях и вызова инструментов. Для варианта 26B A4B в карточке семейства заявлено контекстное окно до 256K токенов; аудиовозможности относятся только к меньшим моделям семейства. QAT-обучение нацелено на сохранение качества, близкого к bfloat16, при снижении требований к памяти в соответствующих вариантах квантованных контрольных точек. Этот репозиторий содержит unquantized QAT-веса, поэтому сам по себе не является готовым GGUF или мобильным квантованным вариантом. Карточка описывает возможности семейства в целом; отдельные показатели качества для этого чекпойнта не приведены.

Gemma 4 26B A4B IT QAT Q4_0 Unquantized — мультимодальная инструктивная модель семейства Gemma 4, разработанная Google DeepMind. Это вариант Gemma 4 26B A4B IT с весами, полученными из конвейера обучения с учётом квантования (QAT): веса сохранены в половинной точности, а не в готовом квантованном формате. Репозиторий предназначен для последующей компиляции и исследовательской работы с QAT-чекпойнтами. Модель принимает текст и изображения и генерирует текст. Она подходит для диалогов, рассуждений, программирования, анализа изображений, распознавания текста в документах и на изображениях, понимания диаграмм и интерфейсов, а также агентных сценариев с вызовом инструментов. Для варианта 26B A4B README указывает контекст до 256K токенов; семейство поддерживает более 140 языков в обучающих данных. Для Gemma 4 заявлены гибридное внимание с локальными и глобальными слоями и режим рассуждений; вариант 26B A4B относится к MoE-линейке семейства. QAT-чекпойнты призваны снижать требования к памяти при сохранении качества, близкого к bfloat16, однако этот конкретный репозиторий содержит не готовый GGUF или другой формат для прямого развёртывания, а веса для последующей обработки. Лицензия — Apache 2.0. Аудио для этой модели не заявлено: в README оно поддерживается только вариантами E2B, E4B и 12B.

coder3101/gemma-4-26B-A4B-it-qat-q4_0-unquantized-heretic — производная мультимодальная модель Gemma 4, созданная coder3101 на основе google/gemma-4-26B-A4B-it-qat-q4_0-unquantized. Это диалоговая модель с архитектурой Gemma4ForConditionalGeneration и поддержкой анализа изображений; она принимает текст и изображения и выдаёт текст. Базовое семейство Gemma 4 разработано Google DeepMind. Модель предназначена для диалогов, рассуждений, программирования и понимания изображений. Возможные сценарии включают ответы на вопросы по изображениям, извлечение данных из документов, распознавание текста и объектов на изображениях, анализ диаграмм и интерфейсов, генерацию и исправление кода, составление резюме и работу с инструментами. В карточке базового семейства заявлена поддержка более 35 языков и контекст до 256 тысяч токенов для варианта 26B A4B; аудиовозможности указаны только для других размеров Gemma 4, а README описывает видео для семейства в целом, поэтому эти возможности не приписываются данной модели. Модель помечена как uncensored/decensored/abliterated, что указывает на изменение поведения относительно базовой модели, но подробности обучения и конкретные эффекты не раскрыты. Возможны фактические ошибки, смещения и трудности с нюансами языка; ответы следует проверять, особенно в сложных или критичных задачах. Лицензия — Apache-2.0.

Gemma-4-31B-Fable-5-Distilled — мультимодальная модель AutoTrust AI Lab, обученная Hai Yu на базе google/gemma-4-31B-it методом LoRA. Это плотная модель с 31,27 млрд параметров в формате bfloat16 и архитектурой Gemma4ForConditionalGeneration, объединяющей текстовый декодер и визуальный энкодер. Адаптеры обучались на верхних слоях трансформера, чтобы улучшить генерацию кода и работу с инструментами, сохранив способности базовой модели к анализу изображений. Модель предназначена для агентной генерации и объяснения кода, планирования структурированных вызовов инструментов, визуального рассуждения и общего диалога. В README заявлен результат HumanEval pass@1 92,7%; он получен в конкретной конфигурации оценки и не гарантирует аналогичного качества на других задачах. Для обучения использовано 308 отобранных пар диалогов из Fable 5. Известные ограничения: небольшой обучающий набор может сужать переносимость на разные области программирования, качество ответов может снижаться без режима thinking, вызовы инструментов сериализуются в JSON и требуют отдельного слоя исполнения, а модель может допускать фактические ошибки и галлюцинации. Лицензия Gemma.