II.1Анализ требований и архитектура ПО

Диалоговая языковая модель ShenaoZ, дообученная на базе ShenaoZ/0.0001_sft_nodpo_5iters_bs256_5102lr_iter_2 на обновлённом и исходном наборах данных. Модель построена на плотной архитектуре MistralForCausalLM и содержит 7,1 млрд параметров; она предназначена для генерации текста в диалоговом режиме и поддерживает контекст до 32 768 токенов. Модель принимает текст и генерирует текст, поэтому подходит для ведения диалогов и ответов на запросы. Репозиторий содержит веса в формате safetensors. Лицензия — MIT. Сведений о конкретных языках, качестве на бенчмарках и специальных ограничениях в доступных материалах нет.

jaromer/0bserverx-Qwen3.8-27B-Heretic-Abliterated-Uncensored-GGUF — это модифицированная версия Qwen3.8-27B от Qwen, дополнительно обработанная методом ARA (Arbitrary-Rank Ablation). Основой послужила версия trohrbaugh/Qwen3.8-27B-heretic-ara, созданная Tim Rohrbaugh; текущая сборка получила ещё два прохода ARA для уменьшения остаточных отказов. Точные сведения об авторах текущей доработки в README не указаны. Модель предназначена для генерации текста, исследовательских задач, творческого письма и ролевых сценариев, где требуется сниженное количество отказов. Это модель на 27 млрд параметров с архитектурой Qwen3.8 и гибридом Gated DeltaNet: 64 слоя, включая 16 стандартных attention-слоёв и 48 слоёв линейного внимания Gated DeltaNet. Используются GQA с 24 attention-heads и 4 KV-heads, размер скрытого состояния — 5120, словарь содержит 248 320 токенов, контекст — до 262 144 токенов. Модель поставляется в формате GGUF для llama.cpp; тензоры MTP/NextN исключены. Главное преимущество — существенно сниженная склонность к отказам при сохранении поведения базовой модели: по приведённым независимым измерениям, число отказов на наборе из 100 вредоносных запросов снизилось до 0–1, а отклонение KL составило около 0,0085. Ограничения связаны с намеренно ослабленными защитными механизмами, поэтому модель не подходит для сценариев, требующих строгих встроенных ограничений безопасности; отдельные guardrails сохранены. README указывает, что модель предназначена для совершеннолетних пользователей и должна применяться ответственно и в соответствии с местным законодательством. Лицензия — Apache-2.0, унаследованная от Qwen3.8-27B.

lilmeaty/5 — объединённая языковая модель, созданная с помощью mergekit из предварительно обученных весов lilmeaty/4 методом passthrough. Модель построена на плотной архитектуре Mistral и содержит 8,9 млрд параметров; она предназначена для генерации текста и диалогового взаимодействия. Заявленная длина контекста составляет 131 072 токена, формат весов — safetensors. Модель можно использовать для генерации продолжений текста и ведения диалога на основе текстовых запросов. Карточка не описывает специализированные области применения или языковую поддержку. Лицензия в предоставленных данных не указана.

72B-Qwen2.5-Kunou-v1-GGUF — это набор GGUF-квантизаций текстовой генеративной модели 72B-Qwen2.5-Kunou-v1, подготовленный пользователем bartowski на основе модели Sao10K. Квантизация выполнена с помощью llama.cpp и метода imatrix; файлы предназначены для локального запуска, в том числе через LM Studio, с использованием формата чата Qwen2.5. Модель предназначена для генерации текста и диалоговых сценариев. Исходя из названия и указанных данных, она имеет около 72 миллиардов параметров и работает с текстовой модальностью. Сведения о языках, длине контекста, точной архитектуре и специализированных задачах в README не приведены. Доступны варианты квантизации от Q8_0 до Q2_K с размером файлов примерно от 29,81 до 77,26 ГБ, что позволяет выбирать между качеством и требованиями к памяти. В README рекомендуются, в частности, Q6_K, Q5_K_M, Q5_K_S и варианты Q4. Сильной стороной являются большой размер модели и широкий выбор квантизаций, включая варианты, оптимизированные для отдельных ARM-конфигураций. Ограничения связаны с высокими требованиями к оперативной памяти и заметным снижением качества у наиболее компактных вариантов; некоторые сборки не предназначены для Mac или GPU. Лицензия указана как other с названием qwen; ссылка ведёт на лицензию Qwen/Qwen2.5-72B-Instruct.

ByteDance-Seed/academic-ds-9B — плотная языковая модель семейства DeepSeek V3, разработанная ByteDance Seed и обученная с нуля на более чем 350 млрд токенов из полностью открытых англоязычных наборов данных. Карточка описывает её как модель для разработки и отладки в сообществе открытого исходного кода. Модель предназначена для генерации текста и диалогового взаимодействия; в метаданных также отмечен интерфейс вызова инструментов. Она принимает текст и выдаёт текст, поддерживает английский язык и имеет контекстное окно 8192 токена. В репозитории указаны веса Safetensors и библиотека Transformers. Метаданные каталога оценивают число параметров в 1,6 млрд, тогда как название и README заявляют размер 9 млрд; размер модели в источниках расходится. Модель распространяется по лицензии Apache-2.0. Карточка позиционирует её для разработки и отладки, поэтому её пригодность для иных сценариев и качество ответов следует проверять на целевых задачах.

Это GGUF-квантизированная версия языковой модели Olmo-3-7B-Instruct, разработанной Allen Institute for AI (AI2) и подготовленной квантизатором bartowski. Модель предназначена для генерации текста и диалоговых сценариев на английском языке, включая работу через LM Studio, llama.cpp и другие проекты на базе llama.cpp. Модель содержит 7 миллиардов параметров и распространяется в формате GGUF с вариантами от BF16 до различных уровней квантования Q8, Q6, Q5, Q4, Q3 и Q2. Квантизация выполнена с использованием llama.cpp и метода imatrix; доступны файлы размером примерно от 3,26 до 14,60 ГБ. Для общения следует использовать шаблон с ролями system, user и assistant в формате специальных токенов im_start и im_end. Сведения о длине контекста, архитектурных деталях, мультимодальности и поддержке других языков в README не указаны. Сильной стороной модели является широкий выбор квантизированных вариантов, позволяющий адаптировать качество, размер файла и требования к оперативной памяти; варианты Q4 и выше описаны как рекомендуемые для большинства сценариев. Более компактные варианты экономят память, но обеспечивают более низкое качество. Модель предназначена для локального запуска, однако конкретные требования к производительности зависят от выбранного варианта квантования и оборудования. Лицензия — Apache-2.0.

AlloyIngotNeoY — объединённая языковая модель, созданная с помощью mergekit на основе ammarali32/multi_verse_model с включением yam-peleg/Experiment26-7B. Это плотная модель архитектуры Mistral с 7,1 млрд параметров, предназначенная для генерации текста; заявленный размер контекста — 32 768 токенов. Веса опубликованы в формате safetensors, библиотека для работы — Transformers. Модель подойдёт для генерации продолжений текста и диалоговых ответов в приложениях на базе языковых моделей. README указывает метод объединения task_swapping_ties и доли весов источников, но не приводит оценок качества или сведений о специализированных навыках. Модель распространяется по лицензии Apache-2.0.

ArliAI_GLM-4.5-Air-Derestricted-GGUF — это квантизированная версия текстогенерационной модели GLM-4.5-Air-Derestricted, разработанной ArliAI. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix; модель распространяется в формате GGUF и предназначена для локального запуска через llama.cpp, LM Studio и совместимые проекты. Модель подходит для генерации текста и диалоговых сценариев, включая использование с указанным шаблоном prompt format. Доступны варианты квантизации от Q8_0 до Q2_K_L с размером файлов примерно от 50 до 117 ГБ: более высокие разрядности обычно обеспечивают лучшее качество, а низкие требуют меньше оперативной памяти. В README не указаны архитектурные детали, число параметров, поддерживаемые языки, размер контекста и модальности, поэтому эти характеристики нельзя достоверно оценить. Лицензия — MIT.

Asherah — языковая модель ResplendentAI на архитектуре Mistral с 7,1 млрд параметров и контекстом до 8192 токенов. Модель создана слиянием четырёх моделей Sanji Watsuki, после чего дообучена на наборах Gnosis и Synthetic Soul. Модель предназначена для генерации текста и стандартного использования как LLM. В репозитории также есть mmproj для мультимодального использования в формате GGUF; автор рекомендует Koboldcpp. Мультимодальные возможности доступны только пользователям GGUF, а без них модель можно применять как обычную языковую модель. Доступны файлы Safetensors и GGUF F16. Лицензия — Apache-2.0. Карточка не приводит оценки качества или подробных ограничений генерации.

BenchmarkEngineering-F2-7B-slerp — объединённая языковая модель, созданная weezywitasneezy методом SLERP с помощью LazyMergekit на основе BenchmarkEngineering-7B-slerp и WestLake-7B-v2. Модель использует плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и принимает текст для генерации текста. Длина контекста составляет 32 768 токенов. Модель предназначена для генерации текста и ответов на вопросы; объединение было направлено на улучшение результатов BenchmarkEngineering, в частности показателя Winogrande. По README, улучшение этого показателя сопровождалось снижением результатов на других тестах. В таблице приведены результаты Open LLM Leaderboard, включая AI2 Reasoning Challenge и HellaSwag. Репозиторий распространяется по лицензии CC BY-NC 4.0, которая требует указания авторства и ограничивает коммерческое использование.

BLOOM-v3.1-mistral-7b — разговорная языковая модель, разработанная проектом Blossom и дообученная на Mistral-7B-v0.1. Это плотная авторегрессионная модель на 7,1 млрд параметров для генерации ответов в формате продолжения диалога; её контекстное окно составляет 32 768 токенов. Обучение проходило в два этапа на смешанных наборах Blossom Chat, Math, Wizard и Orca: использовались одноходовые инструкции, многоходовые диалоги и примеры математических рассуждений. Модель рассчитана на китайский и английский языки и предназначена для чат-ботов, ответов на вопросы, следования инструкциям и решения математических задач. В README отмечены широкие разговорные возможности и понимание контекста. При этом авторы предупреждают, что базовая Mistral-7B-v0.1 слабее знает китайский язык, и рекомендуют для китайских сценариев другую модель Blossom. Весы доступны в формате PyTorch по лицензии Apache-2.0.

blossom-v3_1-mistral-7b-Mistral-7B-Instruct-v0.2-slerp — объединённая диалоговая модель на архитектуре Mistral, созданная слиянием Mistral-7B-Instruct-v0.2 и Azure99/blossom-v3_1-mistral-7b методом SLERP. Модель содержит 7,1 млрд параметров, опубликована в формате safetensors и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации текста в диалоге и ответов на инструкции. Её можно использовать в чат-ботах и для создания связных текстовых ответов на текстовые запросы. В карточке указана лицензия Apache-2.0. README не описывает дополнительные специализированные задачи или языковые возможности.

Brinebreath-Llama-3.1-70B — экспериментальная объединённая диалоговая модель, созданная автором карточки на основе Meta-Llama-3.1-70B-Instruct, Hermes 3, Dracarys и SauerkrautLM. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM и 69,5 млрд параметров; она предназначена для генерации текста и ответов на запросы в диалоговом формате. В метаданных указан контекст 8192 токена и основной язык карточки — английский. Автор сообщает о приросте на MMLU-PRO относительно Llama 3.1 70B в тестировании квантованных Q4_0-файлов: 49% против 42% на 100 вопросах. Также приведены результаты на PubmedQA и ручных проверках, но эти оценки ограничены небольшими выборками и не гарантируют аналогичного качества в других сценариях. Модель может подойти для общих диалогов, ответов на вопросы и задач рассуждения; специализированных гарантий для права или медицины нет. Лицензия — Llama 3.1; для использования необходимо учитывать её условия.

bruphin-epsilon — объединённая языковая модель на архитектуре Mistral, созданная nbeerbower методом SLERP с помощью mergekit. В объединении использованы BarryFutureman/WildMarcoroni-Variant1-7B и nbeerbower/bruphin-delta. Модель предназначена для генерации текста и диалогового взаимодействия. Она содержит 7,1 млрд параметров, принимает текст и выдаёт текст, а длина контекста составляет 32 768 токенов. Веса доступны в формате safetensors; модель распространяется по лицензии Apache-2.0. Карточка приводит результаты нескольких тестов Open LLM Leaderboard, включая AI2 Reasoning Challenge и HellaSwag, но не описывает языковое покрытие и конкретные области специализации. Результаты тестов не гарантируют качество на прикладных задачах.

MaziyarPanahi/calme-2.2-phi3-4b — языковая модель Maziyar Panahi, дообученная методом DPO на microsoft/Phi-3-mini-4k-instruct. Она предназначена для диалогов и генерации текста, включая ответы на инструкции; карточка приводит результаты оценивания на наборах IFEval, BBH, AI2 Reasoning Challenge и HellaSwag. Модель использует плотную архитектуру Phi-3 с 3,7 млрд параметров и контекстом до 4096 токенов, работает с библиотекой Transformers и форматом safetensors. Для диалогов применяется шаблон ChatML. Модель принимает текст и генерирует текст. В карточке указан английский язык; метаданные также отмечают возможности чата и генерации кода, но отдельная специализация на коде не заявлена. Распространяется по лицензии MIT.

CausalLM-14B-DPO-alpha-GGUF — это версия языковой модели CausalLM 14B-DPO-alpha в формате GGUF, подготовленная разработчиком CausalLM. Модель предназначена для генерации текста и диалоговых сценариев; поддерживает использование через llama.cpp и совместимые приложения и библиотеки. Для взаимодействия в README указан шаблон ChatML. Модель содержит около 14 миллиардов параметров и обучалась с применением DPO для лучшего соответствия человеческим предпочтениям. Заявлены английский и китайский языки. В обучении использовались разнообразные наборы данных для диалогов, следования инструкциям, математики, энциклопедических и общих текстовых задач, включая GuanacoDataset, OpenOrca, UltraChat, MetaMathQA и другие источники. Размер контекста и точные архитектурные параметры в README не указаны. Согласно приведённым результатам MT-Bench, модель получила оценку 7,618868, превысив указанные результаты Zephyr-7B и приблизившись к заявленным ориентирам GPT-3.5. При этом модель обучалась на неотфильтрованных интернет-данных и может генерировать нежелательный, оскорбительный, порнографический или насильственный контент; встроенные механизмы этической безопасности и отказов не реализованы, поэтому необходимы собственная модерация и фильтрация вывода. В карточке указана лицензия WTFPL, однако отдельно отмечено, что использование также регулируется условиями Meta Llama 2 License.

Cerebrum-1.0-12.25B — языковая модель, опубликованная Joseph717171 и созданная с помощью mergekit как объединение с чередованием слоёв на основе Cerebrum-1.0-7b. Модель построена на архитектуре MistralForCausalLM, содержит 12,3 млрд параметров и принимает контекст до 32 768 токенов. Она предназначена для диалоговой генерации текста и задач рассуждения, а также как основа для дальнейшего дообучения или замена исходной версии Cerebrum на 7 млрд параметров. В карточке Cerebrum описана как модель для решения задач, требующих рассуждений, включая математические задачи, ARC Challenge, ответы на вопросы и творческие задания. Для общения рекомендуется шаблон Alpaca-style. Модель работает с текстом; сведения о поддерживаемых естественных языках в карточке не приведены. Лицензия — Apache-2.0. Результаты бенчмарков относятся к исходной версии Cerebrum-7b и не подтверждают такое же качество версии 12,25B.

Модель thuyduongjoe123/checkpoints_vi_km_logit — компактная языковая модель для генерации текста на базе семейства Qwen3. Она опубликована в формате, совместимом с библиотекой Transformers, и содержит около 1,7 млрд параметров. Модель относится к классу conversational и предназначена для диалоговой генерации и других сценариев text-generation. Модель может использоваться для создания черновиков текста, продолжения заданных фрагментов, генерации ответов в диалогах и прототипирования приложений на базе языковых моделей. Максимальная заявленная длина контекста составляет 40 960 токенов, что позволяет обрабатывать достаточно длинные входные последовательности. В README отсутствуют сведения о разработчике, языках, лицензии, данных обучения, методике дообучения и результатах оценки. Поэтому перед применением в продуктивных системах необходимо самостоятельно проверить поддерживаемые языки, качество на целевых данных, корректность диалогового поведения и условия распространения модели.

DeepSeek-R1-Distill-Qwen-7B-Uncensored-Reasoner-GGUF — это GGUF-версия дистиллированной 7-миллиардной модели рассуждений на базе Qwen, подготовленная h34v7 на основе модели nicoboss/DeepSeek-R1-Distill-Qwen-7B-Uncensored-Reasoner. Модель ориентирована на локальный запуск и генерацию ответов общего назначения с акцентом на рассуждения; README отдельно указывает возможность запуска на Android-устройствах с Snapdragon 8 Gen 2, Snapdragon 8 Gen 3 или Snapdragon Elite через Ollama и Termux. Для работы рекомендуется не менее 8,4 ГБ оперативной памяти, при этом на менее производительных устройствах возможна более низкая скорость. Ключевые сведения об архитектуре, точном размере файла, формате квантования, максимальном контексте, поддерживаемых языках и модальностях в README не приведены; по имеющимся данным, это текстовая языковая модель. В описании заявлена «uncensored»-настройка, однако её фактическое поведение и качество не подтверждены отдельными тестами. Модель распространяется по лицензии MIT.

Noodlz/DolphinLake-7B — объединённая языковая модель, созданная автором Noodlz из cognitivecomputations/dolphin-2.8-mistral-7b-v02 и senseable/WestLake-7B-v2 с помощью mergekit. В основе лежит плотная архитектура Mistral с 7,1 млрд параметров; модель распространяется в формате Safetensors и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогов. Автор рекомендует шаблон ChatML, хотя могут работать и стандартные шаблоны. В карточке приведён локальный результат около 84,5 на HellaSWAG; это оценка автора, а не независимая проверка. WestLake-7B-v2 описана как англоязычная модель для ролевых диалогов и творческих текстов. Модель выпущена под лицензией Apache-2.0. Результаты и качество зависят от шаблона диалога и сценария применения; приведённая оценка не гарантирует качество на других задачах.

ErisepBeagleNuBuRPInfinWestLakev2-IreneRP-Neural-7B-slerp — объединённая методом SLERP модель семейства Mistral, созданная Smuggling1710 с помощью LazyMergekit на основе BeagleNuBuRPInfinWestLakev2-IreneRP-Neural-7B-slerp и Eris_PrimeV3.075-Vision-7B. Она предназначена для генерации текста, включая диалоговые и творческие сценарии. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и поддерживает контекст до 32 768 токенов. README указывает на объединение весов в формате bfloat16; метаданные указывают формат файлов safetensors. Лицензия и сведения о языках не приведены в доступных материалах. Специальные ограничения применения не описаны.

Experiment26Neuralsirkrishna_Experiment24Ognoexperiment27 — объединённая языковая модель, созданная слиянием automerger/Experiment26Neuralsirkrishna-7B и automerger/Experiment24Ognoexperiment27-7B. Модель построена на архитектуре Mistral и содержит 7,1 млрд параметров; она предназначена для генерации текста и диалогов с контекстом до 32 768 токенов. Модель опубликована в формате Safetensors под лицензией Apache-2.0. Карточка не описывает конкретные специализированные сценарии или языковую поддержку, поэтому её назначение можно определить как генерацию текста общего назначения.

MaziyarPanahi/Experiment26Neuralsirkrishna_OgnoExperiment27 — слитая модель семейства Mistral, созданная на основе automerger/Experiment26Neuralsirkrishna-7B и automerger/OgnoExperiment27-7B. Она предназначена для генерации текста и диалогов; модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Веса опубликованы в формате Safetensors. Модель подходит для генерации ответов, продолжения текста и диалоговых сценариев. README не сообщает о специализации на конкретных языках или областях. Модель распространяется по лицензии Apache-2.0.

MaziyarPanahi/Experiment26Neuralsirkrishna_YamStrangemerges_32 — объединённая автором репозитория модель Mistral для генерации текста и диалогов. Она содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и принимает контекст длиной до 32 768 токенов. Модель объединяет automerger/Experiment26Neuralsirkrishna-7B и automerger/YamStrangemerges_32-7B. Модель предназначена для генерации продолжений текста и диалоговых ответов на входные текстовые запросы. Язык применения по имеющимся сведениям не установлен. Модель опубликована в формате Safetensors и распространяется по лицензии Apache-2.0.

MaziyarPanahi/Experiment28M7_YamshadowExperiment28 — слитая языковая модель на архитектуре Mistral, объединяющая automerger/Experiment28M7-7B и automerger/YamshadowExperiment28-7B. Она предназначена для генерации текста и диалогов по текстовым запросам. Модель содержит 7,1 млрд параметров, использует формат safetensors и поддерживает контекст длиной до 32 768 токенов. Карточка описывает объединение моделей, но не приводит сравнительных оценок качества или подробных сценариев применения. Репозиторий распространяется по лицензии Apache-2.0.

MaziyarPanahi/Experiment28T3q_Experiment24Experiment26 — объединённая модель семейства Mistral с плотной архитектурой MistralForCausalLM и 7,1 млрд параметров. Она создана слиянием automerger/Experiment28T3q-7B и automerger/Experiment24Experiment26-7B. Модель предназначена для генерации текста. Контекстное окно составляет 32 768 токенов; репозиторий содержит веса в формате safetensors. Модель подходит для диалогов и других сценариев генерации текста, однако README не описывает отдельные специализации или сравнительные результаты. Лицензия — Apache-2.0. Поскольку модель является экспериментальным слиянием, качество может зависеть от задачи и настроек генерации.

f-7-8b — объединённая языковая модель семейства Llama, созданная jaspionjader с помощью mergekit методом SLERP из jaspionjader/f-6-8b и jaspionjader/Kosmos-EVAA-mix-v35-8B. Модель содержит 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и предназначена для генерации текста и диалогового общения. Контекстное окно составляет 8192 токена. Модель подходит для ведения диалога и генерации ответов на текстовые запросы. В репозитории представлены веса в формате safetensors; для использования заявлена библиотека Transformers. Сведений о специальной предметной области или поддерживаемых языках нет. Условия лицензии в предоставленных данных не указаны.

unsloth/gemma-2b — текстовая генеративная модель семейства Gemma с плотной архитектурой GemmaForCausalLM и 2,5 млрд параметров. Репозиторий подготовлен Unsloth и содержит веса в формате safetensors; README Unsloth описывает инструменты для дообучения моделей Gemma и других семейств, в том числе разговорные и текстовые сценарии. Модель предназначена для генерации текста и может служить основой для диалоговых и текстовых приложений или дальнейшего дообучения. Она поддерживает английский язык, имеет контекстное окно 8192 токена и распространяется по лицензии Apache-2.0. Карточка не приводит отдельных оценок качества или подробных ограничений применения.

TouchNight/gemma-2-Ifable-abliterated-9B-untied — 9-миллиардная плотная языковая модель семейства Gemma 2 для генерации текста и диалогов. По карточке это объединение TouchNight/gemma-2-Ifable-9B-untied и TouchNight/gemma-2-9b-it-abliterated-LoRA-untied; каталог связывает её с первой моделью как с базовой. Модель принимает текст и генерирует текст, поддерживает контекст до 8192 токенов и опубликована в формате safetensors. Модель подойдёт для диалоговых приложений и генерации ответов на текстовые запросы. В названии и описании указано abliterated, но README не поясняет, какие ограничения поведения были изменены и каковы результаты такого изменения. Языки и специализированные области применения в предоставленных данных не обозначены. Лицензия в метаданных и карточке не указана.

Gemma-3-27B-Derestricted-i1-GGUF — квантизированная версия модели Nabbers1999/Gemma-3-27B-it-NP-Abliterated, подготовленная и опубликованная mradermacher. Модель предназначена для генерации текста и диалоговых сценариев; в README она также обозначена как vision-модель, поэтому может обрабатывать изображения при наличии совместимого mmproj-файла. Указан английский язык. Модель основана на Gemma 3 с 27 млрд параметров и поставляется в формате GGUF, включая варианты квантизации i1 и imatrix. Доступны уровни от IQ1_S до Q6_K размером примерно от 6,4 до 22,3 ГБ. Квантизации различаются компромиссом между размером, скоростью и качеством: низкие уровни требуют меньше памяти, но могут заметно снижать качество, тогда как i1-Q4_K_S отмечен как оптимальный по соотношению размера, скорости и качества, а i1-Q4_K_M — как быстрый и рекомендуемый вариант. Сильными сторонами являются большой размер базовой модели, поддержка текстовых и визуальных сценариев и широкий выбор квантизаций для локального запуска. Ограничения включают возможное снижение качества при агрессивной квантизации, необходимость совместимого программного обеспечения для GGUF и mmproj-файла для обработки изображений. Лицензия указана как gemma; конкретные условия следует проверять в лицензии Gemma.