II.1Анализ требований и архитектура ПО

VICIOUS_MESH-12B-BETA — объединённая модель генерации текста на архитектуре Mistral, созданная автором репозитория с помощью mergekit и метода TIES. В слияние вошли VICIOUS_MESH-12B-ALPHA и Infermatic/MN-12B-Inferor-v0.1 на базе Khetterman/DarkAtom-12B-v3. Модель содержит 12,1 млрд параметров, распространяется в формате Safetensors, а в README также указана GGUF-квантизация Q4_K_M. Модель предназначена для диалогов и генерации текста, включая ответы на запросы и работу через интерфейс вызова инструментов. Метаданные указывают поддержку английского, японского, русского, китайского, корейского и испанского языков. Заявленная длина контекста — 1 024 000 токенов; это значение значительно выше контекста, указанного для базовой Inferor 0.1, поэтому фактическую работу с таким объёмом следует проверять в используемой конфигурации. Лицензия — Apache-2.0. В README приведены результаты Open LLM Leaderboard, включая IFEval и BBH; это ограниченный набор оценок и он не гарантирует качество на конкретных задачах. Метаданные помечают модель как не предназначенную для всех аудиторий.

XVERSE-7B — многоязычная большая языковая модель, разработанная Shenzhen Yuanxiang Technology. Это плотный Decoder-only Transformer примерно с 6,9 млрд параметров, обученный предсказывать продолжение текста. Модель поддерживает контекст до 8192 токенов и предназначена для диалогов, ответов на вопросы, суммаризации и других задач генерации текста. В обучающих данных были представлены более 40 языков, включая китайский, английский, русский и испанский; разработчики сообщают о более сильных результатах на китайском и английском при поддержке других языков. Модель подходит для многоязычных текстовых приложений, которым нужна генерация в пределах указанного контекста. Репозиторий содержит веса PyTorch, лицензия — Apache-2.0. Как и другие большие языковые модели, XVERSE-7B может выдавать неточную, предвзятую или оскорбительную информацию. Разработчики рекомендуют проверять результаты и проводить тестирование безопасности перед внедрением.

Larryvrh опубликовал версию Yi-34B-200K от 01.AI, адаптированную для работы с архитектурой Llama и удобства использования. Это плотная языковая модель на 33,9 млрд параметров для генерации текста; репозиторий содержит веса Safetensors. Заявленная длина контекста — до 200 000 токенов. Модель подходит для диалога и генерации текста на китайском и английском языках, ответов на вопросы по длинным документам, чтения с пониманием, рассуждений, математики и задач по программированию. В README приведены результаты бенчмарков для разных моделей, но отдельные результаты Yi-34B-200K здесь не выделены. Модель может выдавать ошибочные или проблематичные ответы. Лицензия — Apache-2.0.

mncai/yi-34B-v2 — инструкционно дообученная модель MindsAndCompany на базе Yi-34B для генерации текста и ответов на запросы. В карточке приводится пример вопроса на корейском языке; модель может использоваться в диалоговых и корпоративных приложениях, включая чат-ботов и помощников по коду, которые разрабатывает компания. Модель имеет плотную архитектуру LlamaForCausalLM и около 33,9 млрд параметров. Она принимает текст, выдаёт текст и поддерживает контекст до 8192 токенов. Репозиторий содержит веса safetensors. Лицензия — Apache-2.0.

ZEUS-8B-V14 — объединённая модель для генерации текста и диалогов на базе семейства Llama 3.1. Согласно карточке, её создали методом DARE TIES, объединив unsloth/Meta-Llama-3.1-8B-Instruct с моделями Llama-3.1-SuperNova-Lite, Llama-3.1-Storm-8B и Llama-3.1-8B-Lexi-Uncensored-V2. Модель содержит 7,5 млрд параметров, построена на архитектуре LlamaForCausalLM и работает с контекстом до 131 072 токенов. Модель предназначена для генерации текста и ведения диалогов; метаданные также указывают интерфейс вызова инструментов. В README приведены результаты оценки на IFEval и BBH, однако подробные сравнительные данные и описание целевого поведения ограничены. Модель опубликована в формате safetensors; дата публикации — 30 декабря 2024 года. Лицензия в предоставленных данных не указана.

ZEUS 8B V27 — языковая модель, созданная автором репозитория T145 слиянием нескольких моделей через mergekit и метод DARE TIES. В качестве основы использована unsloth/Meta-Llama-3.1-8B-Instruct; в слияние также вошли модели Skywork, HuatuoGPT, SuperNova Lite, SauerkrautLM, Lexi Uncensored и Storm. Это плотная авторегрессионная архитектура Llama с 7,5 млрд параметров, предназначенная для генерации текста и диалогов. Метаданные указывают контекст до 131 072 токенов и интерфейс для вызова инструментов. Модель подходит для диалоговых приложений и генерации ответов по инструкциям. В README приведены результаты Open LLM Leaderboard, включая IFEval и BBH; эти оценки не гарантируют качество на конкретных пользовательских задачах. Языки, на которых модель специально оптимизирована, в предоставленных данных не обозначены. Лицензия в предоставленной карточке и метаданных отсутствует, поэтому условия использования здесь определить нельзя.

ZEUS-8B-V7 — языковая модель семейства Llama 3.1, созданная объединением нескольких моделей методом DARE TIES. Автор стремился улучшить предыдущую версию ZEUS, повысив плотность слияния и включив менее ограниченную модель Llama 3.1. В качестве базовой использована unsloth/Meta-Llama-3.1-8B-Instruct; также в слияние вошли LLAMA-3_8B_Unaligned_BETA, Llama-3.1-Storm-8B и Llama-3.1-SuperNova-Lite. Модель содержит 7,5 млрд параметров, использует плотную архитектуру LlamaForCausalLM и работает через Transformers. Она предназначена для генерации текста и диалогов; метаданные также отмечают интерфейс вызова инструментов. Заявленная длина контекста — до 131 072 токенов. README приводит результаты оценивания, включая IFEval и BBH, но не сообщает языковой охват. Модель распространяется в формате Safetensors по лицензии Llama 3.1. Показатели слияния и отдельные результаты бенчмарков не гарантируют качество на конкретных задачах; README не описывает систематические ограничения или языки, на которых модель проверена.

Модель joannetai520/16_bit_model_try4 — дообученная языковая модель семейства Llama на основе unsloth/meta-llama-3.1-8b-instruct-unsloth-bnb-4bit. Её разработал joannetai520; обучение выполнялось с использованием Unsloth и библиотеки TRL. Модель предназначена для генерации текста и диалогового взаимодействия, а интерфейс поддерживает вызов инструментов. Модель содержит 7,5 млрд параметров, использует плотную архитектуру LlamaForCausalLM и принимает контекст длиной до 131072 токенов. В метаданных указан английский язык. Модель распространяется в формате safetensors по лицензии Apache-2.0.

CausalLM/35b-beta2ep — разговорная языковая модель на архитектуре Cohere, разработчик в карточке не уточнён. Модель содержит 35 млрд параметров, распространяется в формате safetensors и использует шаблон диалога ChatML. Метаданные указывают контекст 8192 токена; упоминание в README обучения на длинных данных не означает, что эта версия рассчитана на контекст 128K. Модель предназначена для генерации текста в диалоге, общих вопросов, задач на знания и программирование. В README указано обучение на синтетических данных и веб-корпусе в течение одной эпохи; метаданные перечисляют среди обучающих наборов данные для диалогов, математики, инструкций и кода. Поддерживаемые языки по карточке — английский, китайский, японский и немецкий. Модель выпущена под лицензией GPL-3.0. README отмечает, что эта версия не ориентирована на очень длинный контекст; дополнительных сведений о качестве и ограничениях применения в карточке нет.

Это 65-миллиардная языковая модель семейства LLaMA, опубликованная ycros. Она получена дообучением модели airoboros-65b-gpt4-1.4.1 с помощью QLoRA и масштабирования RoPE; веса представлены в формате PyTorch fp16. Обучающие данные airoboros-gpt4-1.4.1 синтетически созданы GPT-4. Модель предназначена для генерации ответов в диалогах, следования инструкциям, ответов на вопросы по предоставленному контексту, написания кода и творческих задач. В обучении уделено внимание многоходовым разговорам, ролевым диалогам, загадкам, шуткам и вариантам запросов на код с выводом в формате PLAINFORMAT. README приводит рекомендованный формат диалога и отмечает, что исходная версия ещё не была протестирована. Указанный нативный контекст составляет 2048 токенов. Карточка описывает вариант с RoPE scaling на 8192 токена, однако не приводит подтверждения его проверки. Модель основана на LLaMA-65B; отдельные квантизованные варианты упомянуты в README, но данный репозиторий содержит PyTorch fp16. Условия лицензии в предоставленных данных не указаны.

Arcee-SuperNova-v1 — текстовая модель Arcee AI для диалогов и выполнения инструкций. В основе лежит Llama-3.1-70B-Instruct; модель объединяет дистиллированную версию Llama-3.1-405B-Instruct, вариант, дообученный на синтетических данных Evol-Kit, и вариант, оптимизированный с помощью Direct Preference Optimization (DPO). В метаданных указаны архитектура LlamaForCausalLM, 69,5 млрд параметров и контекст до 131 072 токенов. Модель предназначена для ответов на разнообразные запросы, следования инструкциям, математических задач и использования как основы для дальнейшего обучения с подкреплением на основе человеческой обратной связи. Поддерживает генерацию текста и диалоговый сценарий; в метаданных также заявлен интерфейс вызова инструментов. Для использования указана лицензия Llama 3. Карточка описывает объединение нескольких подходов к обучению, но не приводит количественных оценок качества или результатов сравнительных тестов.

Lambent/arsenic-v1.5-dpo-qwen2.5-14B — диалоговая модель на архитектуре Qwen2.5 с 14 млрд параметров, дообученная командой Lambent на основе Lambent/arsenic-v1-qwen2.5-14B. Карточка описывает её стиль ответов как более точный по сравнению с предыдущей версией при сохранении большей части её возможностей; обучение проводилось с использованием Axolotl 0.4.1. Модель принимает текст и генерирует текст, поддерживает чат и интерфейс вызова инструментов. Контекстное окно составляет до 32 768 токенов. Модель подходит для диалоговых приложений и генерации текстовых ответов, в том числе структурированных. Карточка отмечает, что модель всё ещё достаточно ограничена в генерируемом содержимом; тег «not-for-all-audiences» относится к набору данных. Данные о конкретном наборе обучения и результаты оценки не приведены. Условия лицензии в предоставленных материалах не указаны.

bruhzair/Behemoth-Gigaber-SLERP — объединённая языковая модель на архитектуре Mistral, созданная методом SLERP с помощью mergekit на основе Behemoth-123B-v1.2 и Gigaberg-Mistral-Large-123B. Репозиторий содержит веса в формате safetensors; размер модели — 122,2 млрд параметров, заявленный контекст — до 131 072 токенов. Модель предназначена для генерации текста и диалогового общения. Её можно использовать для ответов на вопросы, написания и продолжения текстов, а также для сценариев с интерфейсом вызова инструментов. Карточка не приводит оценки качества или подробностей о специализации объединённых моделей. Лицензия в предоставленных данных не указана.

Карточка модели ehristoforu/BigFalcon3-18B на Hugging Face совпадает с карточкой ehristoforu/BigFalcon3-36B, поэтому описание составлено по ней. BigFalcon3-36B — объединённая языковая модель для генерации текста и диалогов, созданная с помощью mergekit на основе tiiuae/Falcon3-10B-Instruct. В репозитории указано слияние методом passthrough; метаданные описывают архитектуру как плотную LlamaForCausalLM и указывают 17,5 млрд параметров. Модель принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов и доступна в формате safetensors для Transformers. Модель подходит для диалоговых сценариев и генерации текста; метаданные также отмечают интерфейс вызова инструментов. Карточка не описывает отдельную специализацию или результаты оценки качества. Лицензия в предоставленных данных не указана.

Blind Text 1 — русско- и англоязычная языковая модель семейства Blind, представленная разработчиком Blind. Это универсальный текстовый ассистент для диалога, объяснений, ответов на вопросы, выполнения инструкций и создания писем, публикаций, статей и кратких пересказов. Модель имеет MoE-архитектуру с 20,9 млрд параметров и 32 экспертами, из которых для каждого токена активны четыре; контекст составляет до 131 072 токенов. Весы распространяются в формате GGUF с квантизацией MXFP4 для экспертных весов и Q8_0 для эмбеддингов и выходного слоя. Модель предназначена для локального запуска через llama.cpp, Ollama или llama-cpp-python, включая работу без облачного сервиса. Карточка заявляет хорошее удержание контекста и естественные ответы на русском и английском. По приведённому в README замеру на RTX 5080 скорость генерации составляет около 10 токенов в секунду; CPU-запуск также возможен, но медленнее. Количественные результаты MMLU и других инструментальных бенчмарков пока не приведены. Лицензия — Apache-2.0.

Solshine/Brimful-12B-merged-replete — языковая модель для генерации текста, созданная с помощью mergekit на основе Replete-AI/Replete-LLM-V2.5-Qwen-7b. В README указан метод слияния passthrough; модель построена на архитектуре Qwen2 и содержит 11,7 млрд параметров. Она принимает текст и генерирует текст, поддерживает диалоговый режим и интерфейс вызова инструментов. Размер контекста составляет 32 768 токенов. Модель может использоваться для диалогов и генерации ответов, а также в сценариях, где приложению требуется передавать вызовы инструментов через соответствующий интерфейс. README предупреждает, что merge пока не тестировался, поэтому качество и надёжность результатов не подтверждены. Репозиторий содержит веса safetensors; сведения о лицензии в предоставленных данных отсутствуют.

Code-Writer-V2-Obliterated-BF16 — модель на базе Qwen3.5, опубликованная groxaxo. Согласно README, это результат слияния базовой модели llmfan46/Qwen3.5-27B-Writer-V2-uncensored-heretic с LoRA-адаптером для программирования; веса сохранены в BF16 без квантизации. Метаданные указывают архитектуру Qwen3.5 с плотной моделью типа Qwen3_5ForConditionalGeneration и формат safetensors. В README заявлен размер 27 млрд параметров и контекст до 200 000 токенов; эти значения не подтверждены метаданными. Модель предназначена для генерации кода и творческих текстов, а также для работы с длинными запросами, например с крупными фрагментами кодовой базы или рукописями. Метаданные классифицируют её как text-generation и отмечают поддержку чата и кода. README описывает визуальный модуль, но указывает, что обработка изображений не проверена; поэтому основное подтверждённое назначение — текстовое. Естественный язык в метаданных карточки — английский. Модель выпущена по лицензии Apache-2.0. Возможны неточные или неподходящие ответы; результаты кода и текста следует проверять. Визуальные сценарии требуют отдельной проверки совместимости и качества.

Citaman/command-r-12-layer — разговорная языковая модель на архитектуре Cohere, созданная автором репозитория с помощью слияния SLERP модели Citaman/command-r-13-layer. В метаданных указано 12 млрд параметров, контекст до 8192 токенов и формат safetensors; модель предназначена для генерации текста и диалогового взаимодействия, включая интерфейс вызова инструментов. Модель принимает текст и генерирует текст. Карточка не приводит отдельной оценки качества, перечня поддерживаемых языков или отраслевой специализации. Лицензия в доступных данных не указана.

Citaman/command-r-14-layer — языковая модель CohereForCausalLM на 13,6 млрд параметров, созданная автором репозитория слиянием слоёв модели Citaman/command-r-15-layer методом SLERP через mergekit. Она предназначена для генерации текста и диалогового взаимодействия; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и выдаёт текст, поддерживает контекст до 8192 токенов. Репозиторий содержит веса в формате safetensors. В карточке не приведены сведения о лицензии или конкретных целевых языках, поэтому условия использования и языковой охват по имеющимся данным определить нельзя. Характеристики и качество результата могут зависеть от шаблона диалога и способа запуска.

Citaman/command-r-19-layer — объединённая методом SLERP языковая модель на архитектуре Cohere, созданная с помощью mergekit на основе Citaman/command-r-20-layer. В конфигурации объединения используются срезы слоёв одной базовой модели; в метаданных указано 17,7 млрд параметров. Модель предназначена для генерации текста и диалогового взаимодействия, включая интерфейс вызова инструментов. Она принимает текст и выдаёт текст. Максимальная длина контекста — 8192 токена. Модель опубликована в формате safetensors и использует библиотеку Transformers. Карточка не приводит сведений о лицензии, языковой специализации или результатах оценки качества, поэтому их нельзя определить по доступным данным.

Citaman/command-r-28-layer — текстовая модель на архитектуре Cohere, созданная методом слияния SLERP из весов Citaman/command-r-29-layer. Конфигурация объединяет сдвинутые диапазоны слоёв 0–28 и 1–29; сохранённые веса имеют формат safetensors и точность bfloat16. Модель содержит 25,1 млрд параметров и рассчитана на контекст до 8192 токенов. Модель предназначена для генерации текста и диалогового взаимодействия; метаданные также указывают интерфейс вызова инструментов. Подходит для чат-сценариев и генерации ответов на текстовые запросы. Языки в доступных сведениях не определены. Модель выпущена 16 апреля 2024 года. Условия лицензирования в предоставленной карточке не указаны. Поскольку это слияние весов с нестандартной перестановкой диапазонов слоёв, поведение и совместимость могут отличаться от исходной модели; оценок качества в карточке нет.

Это GGUF-квантизированная версия языковой модели cogito-v1-preview-qwen-32B, разработанной deepcogito и подготовленной пользователем bartowski. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты на базе llama.cpp. Она может применяться для диалогов, написания и преобразования текста, а также других сценариев текстовой генерации, поддерживаемых базовой моделью. Модель содержит около 32 млрд параметров и доступна в вариантах от BF16 до различных уровней квантования Q8, Q6, Q5, Q4, Q3 и IQ. Квантизация выполнена с использованием imatrix, что позволяет уменьшить требования к памяти при сохранении высокого качества; варианты Q6_K_L, Q6_K, Q5 и Q4 отмечены автором как рекомендуемые, а Q3 предназначены для систем с ограниченным объёмом RAM и дают более низкое качество. В README не указаны поддерживаемые языки, размер контекста, мультимодальные возможности и специализированные ограничения базовой модели. Для работы следует использовать формат prompt с маркерами ролей ChatML. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-27B-Uncensored-HauhauCS-Aggressive — модификация базовой модели Qwen3.6-27B, разработанная HauhauCS. Это мультимодальная модель для работы с текстом, изображениями и видео, представленная в формате GGUF и предназначенная для запуска в llama.cpp, LM Studio и других совместимых средах. Она ориентирована на агентное программирование, использование инструментов, рассуждения, творческое письмо и ролевые сценарии, а версия Aggressive специально настроена на прямые ответы без предварительных оговорок на жёсткие запросы. README заявляет отсутствие отказов в тесте из 465 запросов, однако это утверждение следует считать характеристикой автора сборки, а не независимой гарантией поведения модели. Модель содержит 27 млрд плотных параметров, 64 слоя и гибридную архитектуру с 48 слоями линейного внимания Gated DeltaNet и 16 слоями полноценного Gated Attention. Нативный контекст составляет 262 тыс. токенов и может быть расширен примерно до 1 млн с помощью YaRN. Указана поддержка английского, китайского и других языков, а также встроенная мультимодальность; для обработки визуальных данных поставляется отдельный компонент mmproj. Доступны квантизированные варианты от Q8 до Q2, включая специализированные K_P-квантизации, оптимизированные для сохранения качества. Сильными сторонами являются большой контекст, поддержка текста, изображений и видео, широкий выбор вариантов квантизации и отсутствие изменений в заявленных исходных возможностях Qwen3.6-27B. Ограничение версии Aggressive — менее сдержанная манера поведения и отсутствие защитных отказов, что повышает риски при использовании. Модель распространяется по лицензии Apache-2.0; сведения о требованиях к аппаратному обеспечению в README не приведены, но размер файлов квантизаций составляет примерно от 10 до 32 ГБ, не считая mmproj размером 928 МБ.

Lambent/Eidolon-v3.1-14B — объединённая разговорная языковая модель, созданная разработчиком Lambent с помощью mergekit из Lambent/Eidolon-v3-14B-wyrd и Lambent/Eidolon-v3-14B-abliterated. В README указано, что слияние линейное, с равными весами; работа также проверяла восстановление словаря до дополненного размера. Модель построена на архитектуре Qwen2, содержит 14 млрд параметров и поддерживает контекст до 131 072 токенов. Модель предназначена для генерации текста и диалогов; метаданные также указывают интерфейс вызова инструментов. Вариант abliterated описан в каталоге как модель с уменьшенным количеством отказов. README характеризует компонент wyrd как вмешательство, связанное с направлением креативности, однако не приводит количественной оценки качества. Репозиторий содержит веса Safetensors для использования с Transformers. Лицензия в предоставленных данных не указана.

Falcon3-MoE-2x7B-Instruct — инструктивная языковая модель с архитектурой Mixture of Experts, созданная объединением двух моделей Falcon3-7B-Instruct. В README заявлено 13,4 млрд параметров и формат BF16; метаданные указывают 7,1 млрд параметров. Модель основана на Falcon3-7B-Instruct от TII, а репозиторий содержит веса в формате safetensors. Модель предназначена для диалогов и генерации ответов по инструкциям. Базовая Falcon3-7B-Instruct рассчитана на задачи понимания языка, следования инструкциям, рассуждений, программирования и математики; контекст составляет до 32 768 токенов. В карточке для базовой модели перечислены английский, французский, испанский и португальский языки. Метаданные также отмечают интерфейс для вызова инструментов. Лицензия указана как other, поэтому конкретные условия использования следует уточнять в репозитории. Описание не содержит отдельных оценок качества или ограничений для MoE-версии; заявленные возможности базовой модели не следует считать подтверждёнными сравнительными результатами этой сборки.

Gemma4-12B-Reasoning-Distill — это производная от Google Gemma 4 12B Instruct, подготовленная пользователем yuxinlu1 и распространяемая в формате GGUF. Модель предназначена для локального и офлайн-использования через llama.cpp и совместимые приложения, включая LM Studio, Jan и Ollama. Она ориентирована на диалоги, генерацию текста, программирование и задачи, требующие рассуждений; дообучение выполнено на синтетических данных рассуждений, связанных с Claude Opus 4.6, 4.7 и 4.8. Модель использует архитектуру Gemma 4 и имеет размер 12B параметров. Доступны варианты квантования Q2_K, Q4_K_M, Q6_K, Q8_0 и F16 размером примерно от 4,5 до 22,2 ГБ. Максимальная длина контекста заявлена до 131K токенов и зависит от квантования, объёма памяти и типа KV-кэша. Поддерживается режим рассуждений через нативный thought channel Gemma; рекомендованные параметры генерации — temperature 1.0, top_p 0.95 и top_k 64. Дополнительно доступен MTP draft-модель для speculative decoding, способная ускорять генерацию без изменения результата при использовании свежей версии llama.cpp. Сильные стороны модели — небольшой объём по сравнению с полноразмерными моделями, возможность запуска на локальном оборудовании, приватность и отсутствие зависимости от облачного API. Ограничения включают англоязычную направленность, стилистический характер синтетических рассуждений, необходимость перепроверять факты и числа, а также сниженную безопасность: модель менее склонна к отказам и не считается safety-aligned, поэтому для production-сценариев нужны собственные защитные механизмы. Производительность и доступный контекст зависят от выбранного квантования и оборудования. В README указана лицензия Apache 2.0 для производной модели и базовой модели Google Gemma 4.

Gemma-4-1-E4B-it-heretic — производная от мультимодальной Gemma 4 E4B Instruct модели Google DeepMind, подготовленная eshucode. Это версия с ослабленным механизмом отказов: к весам применили оптимизированное удаление направления отказа, не проводя дообучение. Архитектура — плотная Gemma4ForConditionalGeneration; репозиторий содержит веса safetensors и классифицируется как any-to-any. Базовая модель поддерживает диалог, рассуждения, программирование, анализ изображений и обработку аудио. Версия предназначена для диалоговых и мультимодальных сценариев, где требуется меньше отказов на запросы. В оценке автора сборка показала 25 отказов из 100 на тесте harmful_behaviors при KL-дивергенции 0,0219 относительно базы; это результаты конкретной оценки, а не гарантия качества. README называет её trial 198 из серии экспериментов по подбору компромисса между снижением отказов и сохранением поведения базовой модели. Лицензия — Apache 2.0.

google/gemma-4-31B-it-assistant — вариант Gemma 4 от Google DeepMind с инструкционной настройкой и поддержкой Multi-Token Prediction (MTP). В спекулятивном декодировании небольшой черновой модуль предлагает несколько следующих токенов, которые основная модель проверяет параллельно; карточка заявляет ускорение генерации до 3 раз при сохранении того же качества, что и при обычной генерации. Архитектура плотная, веса опубликованы в формате safetensors, библиотека — Transformers. Модель предназначена для ускорения генерации текста с низкой задержкой, в том числе при локальном развёртывании. Семейство Gemma 4 поддерживает работу с текстом и изображениями, а также генерацию кода, рассуждения и вызов инструментов; у модели заявлено контекстное окно до 256 тысяч токенов и многоязычная поддержка. Карточка семейства также описывает видео и аудио, но аудио поддерживается только вариантами E2B, E4B и 12B, а не 31B. Лицензия — Apache 2.0. Ускорение зависит от использования в совместимом конвейере спекулятивного декодирования; MTP-черновик не является самостоятельной заменой целевой модели. В карточке не приведены отдельные сведения об оценках и ограничениях именно этого чекпойнта.

Gemma-4-E2B-it-qat-MXFP4-CRACK — мультимодальная модель dealignai на базе Google Gemma 4 E2B Instruct. Она предназначена для диалогов, ответов на вопросы, многошаговых рассуждений и генерации кода, а также принимает изображения и аудио. В карточке заявлены сохранённые возможности работы с изображениями и аудио, поддержка нескольких языков и архитектура Gemma 4 с плотной сетью и гибридным скользящим и глобальным вниманием. Модель представлена в формате MXFP4 с 4-битной квантизацией и рассчитана на запуск через vMLX на компьютерах Apple Silicon с достаточной объединённой памятью. Автор сообщает о сохранении результатов MMLU почти на уровне базовой модели и об удалении отказов на HarmBench; эти оценки приведены в README и не являются независимой проверкой. Для запуска требуется vMLX с поддержкой Gemma 4; стандартные mlx_lm и mlx_vlm, согласно карточке, не обеспечивают полной поддержки. Модель опубликована под лицензией Gemma. Автор указывает исследовательское назначение и возлагает на пользователей ответственность за соблюдение применимых законов и правил.

Gemma 4 E4B Agentic Opus Reasoning GeminiCLI MLX 4bit — дообученная и объединённая с весами модель на базе deadbydawn101/gemma-4-E4B-mlx-4bit, разработанная RavenX AI Labs. Модель предназначена для агентских сценариев, программирования, отладки, структурированного диалога и работы с инструментами через tool calling и function calling, включая интеграцию с OpenHarness, OpenClaw, Hermes Agent и Gemini CLI. Модель поддерживает текст и изображения, ориентирована на английский язык и использует архитектуру Gemma 4 E4B. Веса содержат встроенное рассуждение в стиле Opus и Claude Code с поддержкой тегов <think>, поэтому отдельный адаптер не требуется. Заявлены контекст до 131K токенов, размер около 10,5 ГБ и 4-битная MLX-квантизация для Apple Silicon, однако в README также указано, что объединённые веса имеют формат bfloat16, что может влиять на фактический размер файлов. Сильные стороны модели — встроенные паттерны рассуждения, агентское поведение, вызов инструментов, поддержка vision и совместимость с экосистемой MLX. Ограничения включают заявленную ориентацию на английский язык, зависимость от MLX и Apple Silicon для описанного сценария использования, а также отсутствие подробных независимых оценок качества. Модель распространяется по лицензии Gemma; условия приведены по ссылке на документацию Google.