I.2Синтез, понимание и проверка знаний

Bernstein-120b — объединённая языковая модель, созданная с помощью mergekit линейным слиянием моделей ShinojiResearch/Senku-70B-Full и Sao10K/Euryale-1.3-L2-70B. Модель разработана авторами карточки bcse/Bernstein-120b; архитектура — плотная LlamaForCausalLM, размер — 120,1 млрд параметров, формат весов — Safetensors. Она предназначена для генерации текста и диалогового взаимодействия, поддерживает контекст до 32 764 токенов. Модель принимает текст и генерирует текст; заявленный pipeline — text-generation. Карточка также указывает доступность квантованных вариантов Bernstein-120b в репозиториях mradermacher. Данные не описывают конкретную специализацию по предметной области или языкам. Лицензия в предоставленных сведениях не указана; условия использования следует сверить с карточкой модели и лицензиями исходных моделей.

Bielik-11B-v3.0-Instruct — разговорная генеративная модель на 11 млрд параметров, разработанная SpeakLeash совместно с центром ACK Cyfronet AGH. Это плотная авторегрессионная модель архитектуры LLaMA, дообученная следовать инструкциям на базе speakleash/Bielik-11B-v3-Base-20250730. Она предназначена для диалогов, ответов на вопросы и других задач генерации текста; особенно хорошо ориентирована на польский язык и обучена на текстах на 32 европейских языках. Модель дообучали на инструкциях и многоходовых диалогах, а затем применяли методы DPO и обучения с подкреплением для улучшения стиля ответов и аналитических способностей, в том числе на задачах логики, STEM, математики и использования инструментов. Метаданные указывают нативный контекст 32 768 токенов. Для чата используется шаблон ChatML; веса доступны в формате safetensors, библиотека — Transformers. Модель может давать фактически неверные, предвзятые или оскорбительные ответы; встроенных механизмов модерации нет, поэтому её ответы требуют проверки. Распространяется по лицензии Apache 2.0.

bling-falcon-1b-0.1 — инструктивно дообученная языковая модель серии BLING от llmware, созданная на базе tiiuae/falcon-rw-1b. Это плотная авторегрессионная модель Falcon примерно с 1,7 млрд параметров и контекстом 2048 токенов; она работает с текстом и рассчитана на запуск локально на ноутбуке, в том числе на CPU без специальной квантизации. Основной язык модели — английский. Модель предназначена для локальных прототипов и автоматизации сценариев RAG: ответов на вопросы по предоставленному контексту, извлечения ключей и значений и базового суммирования. В опубликованном тесте RAG-Instruct-Benchmark-Tester указана оценка 89 из 100; качество суммирования охарактеризовано как связное и экстрактивное, а в тестовых прогонах галлюцинаций не наблюдалось. Эти результаты относятся к описанному тесту и не гарантируют точность в других задачах. Лицензия — Apache 2.0.

BLING StableLM 3B 4E1T v0.1 — дообученная llmware инструктивная decoder-модель на базе stabilityai/stablelm-3b-4e1t. Она предназначена для локального запуска на ноутбуке и целевых задачах RAG: ответов на вопросы по переданному контексту, извлечения значений и краткого суммирования. Модель содержит 2,7 млрд параметров, использует архитектуру StableLM Epoch и принимает текст для генерации текста; контекст — до 4096 токенов. В карточке заявлен английский язык. По тесту RAG-Instruct-Benchmark-Tester модель набрала 94 из 100 баллов; математика и логика оказались слабой стороной, а суммирование было связным, но преимущественно извлекающим. Модель рассчитана на прототипирование и локальную автоматизацию, в том числе при работе с чувствительными корпоративными данными без обращения к внешнему API. Результаты могут быть неполными или неточными, поэтому ответы следует проверять. Лицензия — CC BY-SA 4.0.

bling-tiny-llama-v0 — разработанная llmware модель серии BLING, дообученная для инструкций RAG на базе TinyLlama-1.1b. Это плотная авторегрессионная модель семейства Llama примерно с 1 млрд параметров и контекстом 2048 токенов; она принимает текстовый контекст и запрос, а затем генерирует текстовый ответ. Модель предназначена для быстрого тестирования и прототипирования сценариев поиска с дополненной генерацией, включая ответы на вопросы, извлечение ключевых значений и краткое изложение предоставленных материалов. В карточке указано, что модель рассчитана на английский язык и на применение в корпоративной автоматизации, в частности при работе с насыщенными знаниями источниками в финансовой, юридической и нормативной областях. На приведённом RAG-Instruct-Benchmark-Tester средний результат составил 86,5 балла из 100; качество математических и логических ответов было заметно ниже. Эти результаты получены всего в двух тестовых запусках и не гарантируют точность на других данных. Лицензия — Apache 2.0.

Breeze-7B-Instruct-v0_1 — диалоговая языковая модель MediaTek Research, построенная на архитектуре Mistral и дообученная на базе MediaTek-Research/Breeze-7B-Base-v0_1. Модель содержит 7,2 млрд параметров и предназначена прежде всего для традиционного китайского языка, также поддерживает английский. В версии v0.1 словарь расширен до 62 тысяч токенов для лучшей работы с традиционным китайским; метаданные указывают контекст до 32 768 токенов. Модель рассчитана на использование без дополнительной настройки в типовых сценариях: ответы на вопросы, многошаговый диалог, суммаризация и генерация текста. Её можно применять для ответов по документам в системах RAG. Разработчики сообщают о хороших результатах в бенчмарках на традиционном китайском и английском по сравнению с моделями похожего размера. README отмечает, что для диалога нет специальной обработки вредоносных запросов, поэтому модель может отвечать на них без защитных механизмов. Лицензия — Apache-2.0. Описанная в карточке версия v0.1 не является текущим выпуском Breeze-7B: README указывает на v1.0 как более позднюю версию.

calme-3.2-instruct-78b — экспериментальная текстовая модель MaziyarPanahi для диалогов и генерации ответов в общих областях. Она основана на Qwen2.5-72B: базовую модель сначала объединили с её копией, затем дообучили на пользовательских наборах данных. В репозитории указана плотная архитектура Qwen2 с 76,7 млрд параметров; модель распространяется в формате safetensors и поддерживает контекст до 32 768 токенов. Для диалогов используется шаблон ChatML. Модель предназначена для общения и генерации текста на английском языке, включая ответы на запросы и следование инструкциям. Автор характеризует её как экспериментальную и отмечает, что качество может зависеть от запроса и гиперпараметров. Следует учитывать возможные смещения и проверять ответы с участием человека. Лицензия указана как other, конкретные условия в предоставленных данных не раскрыты.

ryanfortin/community-blend-qwen3-8b — это плотная языковая модель семейства Qwen3 с 7,6 млрд параметров, разработанная путём эволюционного слияния моделей. По README, автор получил её после 781 поколения автоматического отбора и 749 слияний дообученных моделей Qwen3-8B; итоговый вариант создан методом SLERP из двух промежуточных чемпионов. Модель предназначена для диалоговой генерации текста, ответов на вопросы и рассуждений в разных областях. Контекст составляет 40 960 токенов; репозиторий содержит веса в safetensors и использует библиотеку Transformers. README сообщает об улучшении относительно исходной Qwen3-8B на шести из восьми бенчмарков, включая HellaSwag и ARC, и описывает сохранённые навыки в медицине, математике и прогнозировании. Это результаты тестирования автора, а не гарантия качества для конкретных пользовательских задач. Модель доступна по лицензии Apache-2.0.

danskgpt-v4-31b — дообученная на датских данных текстовая модель syvai на базе google/gemma-4-31B-it. Это плотная причинная языковая модель Gemma4ForCausalLM с 27,4 млрд параметров, поддерживающая диалоги и контекст до 262 144 токенов. Для работы следует использовать шаблон чата Gemma-4. Модель предназначена для задач на датском языке: понимания текста, ответов на вопросы по знаниям и рассуждениям, классификации, распознавания именованных сущностей и работы в роли общего помощника. Она также подходит для перефразирования и краткого пересказа датских текстов. Чекпойнт описан как текстовый; формат файлов — safetensors, обучение выполнено методом QLoRA. На открытых запросах модель может отвечать более кратко и категорично, чем исходная модель. Она наследует смещения и ограниченность знаний базовой модели; для решений с высокими последствиями требуется проверка человеком. Лицензия — CC BY 4.0.

AMAImedia/DeepSeek-V4.1-Flash-FP8-GGUF — GGUF-квантизированная версия мультимодальной модели DeepSeek-V4.1-Flash, опубликованная AMAImedia в рамках платформы NOESIS. Модель основана на разработках DeepSeek AI и связана с базовыми моделями Tencent/Hy4-preview и AngelSlim/Hy4-preview-GGUF, указанными в карточке. Дата выпуска — 20 сентября 2026 года. Модель предназначена для работы с текстом и изображениями: она принимает изображения и текст, а генерирует текст авторегрессивно. Заявлена поддержка контекстов до одного миллиона токенов и широкого набора языков, включая английский, русский, китайский, вьетнамский, японский и многие другие. Архитектура представляет собой мультимодальную Mixture-of-Experts с 552 млрд параметров в backbone и структурой Causal Encoder-Decoder из 40 Transformer-слоёв: 20 слоёв причинного энкодера и 20 слоёв декодера. Ключевая особенность — оптимизация KV-кэша и вычислений для длинного контекста и input-heavy агентских сценариев. Во время prefill активируется около 8 млрд параметров на токен, а во время decode — около 16 млрд; механизм SWA Bounded Replay уменьшает постоянный объём KV-кэша примерно до одной восьмой от DeepSeek-V4-Flash. Используется Compressed Sparse Attention 2 с режимами Full, Reindex и Reuse. GGUF и FP8 ориентированы на эффективное локальное или специализированное инференс-развёртывание, однако требования к памяти и производительности для модели такого масштаба в карточке не указаны. Лицензия, указанная в метаданных этой версии, — Apache 2.0. Полные сведения о качестве, бенчмарках, точных характеристиках квантизации и ограничениях применения в представленном README отсутствуют.

Модель Карла Вайнмайстера — англоязычная версия DistilBERT, дообученная на наборе MultiNLI для классификации текстовых последовательностей и оценки сходства предложений. Она принимает текст и выдаёт оценки классов; подходит для сравнения предложений и задач понимания текстовых пар. Модель основана на DistilBERT с архитектурой DistilBertForSequenceClassification, опубликована в формате safetensors и поддерживает контекст до 512 токенов. Лицензия — Apache-2.0.

ECE-TW3-JRGL-V3 — языковая модель на архитектуре Llama, созданная объединением моделей Tess-72B-v1.5b и Smaug-72B-v0.1 с помощью mergekit. Она предназначена для генерации текста, диалогов и ответов на вопросы, а также для общих сценариев работы с текстом. Модель содержит 71 млрд параметров и поддерживает контекст до 32 768 токенов. Модель принимает и генерирует текст. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. Данные карточки не описывают отдельные ограничения или целевые языки модели.

educa-ai-nemo-sft — языковая модель Digital Learning GmbH, полученная дообучением Mistral-Nemo-Instruct-2407 методом SFT на внутренних и общедоступных инструкционных данных. Это плотная decoder-only Transformer семейства Mistral с 12,1 млрд параметров; модель предназначена для диалога и генерации текста, в том числе для анализа учебных материалов и помощи учащимся при выполнении текстовых заданий. В карточке заявлена поддержка английского, французского, немецкого, испанского, итальянского, португальского, русского, китайского и японского языков. Модель поддерживает контекст до 1 024 000 токенов по метаданным; обучающие примеры имели длину до 16 384 токенов. В опубликованных сравнениях показатели различаются по языкам и тестам: например, модель показала более высокий результат базовой модели на некоторых заданиях по немецкому и испанскому, но уступила ей в ряде англоязычных и французских тестов. Разработчик называет выпуск предварительным и не рекомендует использовать его в производственной среде, пока продолжаются бенчмаркинг и улучшение данных. Дообучение не включало выравнивание предпочтений, поэтому модель может генерировать вредоносный контент. Лицензия — Apache License 2.0.

ERNIE-4.5-300B-A47B-2Bits-Paddle — текстовая языковая модель семейства ERNIE 4.5 от Baidu, представленная в репозитории в формате safetensors. Это модель генерации текста с архитектурой MoE: всего 300 млрд параметров, из которых для каждого токена активируется около 47 млрд; в конфигурации указаны 54 слоя и контекст до 131 072 токенов. Она предназначена для диалогов, понимания языка и генерации ответов, в том числе на английском и китайском языках. Семейство ERNIE 4.5 обучалось на текстовых и визуальных данных, однако этот вариант описан как текстовая модель и имеет задачу text-generation. Карточка рекомендует развёртывание через FastDeploy на PaddlePaddle и приводит параметры генерации Temperature=0.8 и TopP=0.8. Для репозитория указана лицензия Apache-2.0. Название содержит обозначение 2Bits, но метаданные сообщают только о формате safetensors, поэтому точный способ и степень квантизации файлов этого репозитория не подтверждены.

ERNIE-4.5-300B-A47B-2Bits-TP2-Paddle — текстовая MoE-модель семейства ERNIE 4.5 от Baidu для диалогов, понимания языка и генерации текста. В карточке описана конфигурация ERNIE-4.5-300B-A47B с 300 млрд параметров, из которых активируется около 47 млрд на токен; метаданные репозитория указывают 47,1 млрд параметров. Архитектура использует 54 слоя и контекст до 131 072 токенов. Модель обучалась совместно на текстовых и визуальных данных, однако этот вариант обозначен как текстовый, поэтому его основной сценарий — текстовые запросы и ответы. Карточка описывает поддержку английского и китайского языков, а также развёртывание через FastDeploy на PaddlePaddle. Указана лицензия Apache-2.0. В README заявлена эффективная 2-битная квантизация, но метаданные форматов указывают safetensors, а не отдельный формат квантованных весов. Это крупная MoE-модель, для развёртывания которой требуется значительная инфраструктура; конкретные показатели качества и подробные ограничения в карточке не приведены.

Eurydice 24b v3 — диалоговая языковая модель от Aixon Lab, созданная дообучением Mistral Small 3.1 24B Instruct. Это плотная трансформерная причинная модель с 23,4 млрд параметров и контекстом до 131 072 токенов. Она предназначена для многосторонних диалогов, генерации текста, ответов на вопросы и анализа; автор отмечает сильные стороны в понимании контекста, творческом письме, естественном общении и рассказывании историй. Модель принимает текст и генерирует текст. В карточке основным языком назван английский; также может поддерживаться ряд других языков. Модель опубликована в формате Safetensors под лицензией Apache 2.0. Результаты сравнительных оценок не приведены. Возможны смещения и ошибки, поэтому ответы следует проверять.

EXAONE-4.5-33B-FP8 — открытая мультимодальная vision-language модель, разработанная LG AI Research. Она предназначена для обработки текста и изображений, включая визуальные вопросы и ответы, анализ документов, контекстное рассуждение и общие задачи понимания мультимодального контента. Модель может применяться в ассистентах, системах работы с документами и исследовательских приложениях. Модель имеет плотную архитектуру causal language model с выделенным vision encoder: 31,7 млрд параметров приходится на языковую часть и 1,29 млрд — на визуальный энкодер, всего около 33 млрд параметров. Используются hybrid attention со sliding window размером 4096 токенов и global attention, Grouped Query Attention, 2D RoPE для визуальных представлений и контекст до 262 144 токенов. Модель поддерживает английский, корейский, испанский, немецкий, японский и вьетнамский языки. Знания ограничены декабрём 2024 года, а веса представлены в FP8-квантизации. Сильными сторонами заявлены конкурентоспособные результаты на общих мультимодальных бенчмарках, понимание документов и рассуждение с учётом корейского контекста; при этом показатели зависят от задачи, а FP8-квантизация и размер модели предъявляют повышенные требования к вычислительным ресурсам. Модель лицензирована по условиям EXAONE; точные ограничения следует уточнять в файле LICENSE.

MaziyarPanahi/Experiment26Yam_ShadowCalme — объединённая модель для генерации текста, созданная на основе automerger/Experiment26Yam-7B и automerger/ShadowCalme-7B. Это плотная архитектура Mistral с 7,1 млрд параметров, предназначенная для генерации текста и имеющая контекстное окно до 32 768 токенов. Модель подходит для генерации продолжений текста и ответов на текстовые запросы. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. README и метаданные не уточняют языковую специализацию модели или дополнительные ограничения.

Faro-Yi-34B — чат-модель на основе Yi-34B-200K, разработанная Wenbopan и дообученная на больших объёмах синтетических инструкционных данных из Fusang-V1. Она предназначена для диалогов и широкого круга задач по инструкциям, включая работу с длинными документами и сложными запросами. Модель использует плотную архитектуру семейства Llama с 33,9 млрд параметров и поддерживает контекст до 200 000 токенов. Она рассчитана на китайский и английский языки; для длинных входов автор рекомендует запуск через vLLM. Репозиторий содержит веса в формате safetensors, лицензия — MIT. Карточка заявляет улучшенное выполнение различных задач и устойчивую работу с длинным контекстом, но не приводит количественных оценок или результатов бенчмарков. Качество на других языках не заявлено.

FINAL-Bench_Darwin-28B-Opus-GGUF — GGUF-квантизации модели Darwin-28B-Opus, разработанной FINAL-Bench и подготовленной квантизатором bartowski. Модель создана как эволюционное объединение Qwen/Qwen3.6-27B и варианта Qwen3.6-27B с дистиллированным стилем рассуждений Claude Opus. Она предназначена для генерации текста, решения сложных задач и углублённого рассуждения, включая сценарии, требующие пошагового анализа и режима thinking. В основе лежит плотная архитектура поколения Qwen3.6 с гибридным сочетанием линейного и полноформатного внимания: 64 слоя, соотношение три линейных слоя к одному слою полного внимания, размер скрытого состояния 5120 и 27,6 млрд параметров в исходной BF16-версии. Заявлены поддержка английского, китайского, корейского и японского языков, а также многоязычных сценариев. Точная длина контекста в карточке не указана и унаследована от базовой модели. Для GPQA Diamond заявлена точность 88,89% по протоколу адаптивной оценки из трёх этапов, однако результат помечен как непроверенный. Сильные стороны модели — крупный объём параметров, ориентация на продвинутое рассуждение и сочетание возможностей Qwen3.6 с дистиллированным стилем Claude Opus. Ограничения включают высокие требования к ресурсам по сравнению с небольшими моделями, отсутствие точных сведений о длине контекста в данной карточке и то, что доступные GGUF-квантизации являются статическими, без imatrix. Модель распространяется по лицензии Apache 2.0.

dleemiller/finecat-nli-l — англоязычная модель для вывода по естественному языку (NLI), разработанная как дообучение tasksource/ModernBERT-large-nli на наборе FineCat-NLI с дистилляцией логитов от MoritzLaurer/DeBERTa-v3-large-mnli-fever-anli-ling-wanli. Она сравнивает посылку и гипотезу и определяет, следует ли гипотеза из посылки, противоречит ей или остаётся нейтральной. Модель подходит для zero-shot классификации: можно задавать описания классов в виде гипотез и ранжировать их по отношению к входному тексту. Модель основана на плотном двунаправленном энкодере ModernBERT-large с архитектурой ModernBertForSequenceClassification, содержит 394,7 млн параметров и поддерживает контекст до 2048 токенов. По карточке, она показывает результаты на наборах MNLI, SNLI, ANLI, WANLI и других NLI-бенчмарках; для ряда сравнений в README рекомендована более новая версия finecat-nli-v2-l. Доступна в формате safetensors через Sentence Transformers. Лицензия в предоставленных данных не указана.

FRED-T5-Summarizer — русскоязычная модель для суммаризации текста, обученная SberDevices. Она основана на архитектуре T5 и имеет около 870,1 млн параметров. Модель обучалась на смеси открытых русскоязычных наборов данных для суммаризации, включая RussianNLP/Mixed-Summarization-Dataset, и использует префиксный токен «\». Репозиторий содержит веса в формате safetensors. Модель предназначена для создания краткого изложения исходного текста на русском языке. Её можно применять для подготовки выжимок из статей, документов и других текстовых материалов. Распространяется по лицензии MIT. В карточке не приведены сведения о длине контекста и результаты оценки качества.

GaMS3-12B-Instruct — языковая модель команды исследователей Факультета компьютерных и информационных наук Люблянского университета. Она основана на Google Gemma 3 и дообучена на корпусах на словенском и английском языках, а также на части хорватских, сербских и боснийских данных. Модель содержит 11,6 млрд параметров, использует плотную архитектуру Gemma 3 для генерации текста и поддерживает контекст до 131 072 токенов. Модель предназначена для диалогов и генерации текста, включая создание черновиков, суммаризацию, ответы на вопросы, помощь в обучении языкам и исследовательские NLP-сценарии. Карточка описывает обучение и настройку чата на словенских и английских наборах данных; также заявлена работа с хорватским, сербским и боснийским языками. Это текстовая модель, несмотря на мультимодальные возможности исходной Gemma 3. Ответы могут содержать фактические ошибки, отражать смещения обучающих данных и хуже справляться с неоднозначностью, сарказмом и сложными открытыми задачами. Лицензия — Gemma; при использовании следует учитывать политику запрещённого использования моделей Gemma.

gemma-2-2b-dolly-sft — языковая модель, разработанная Адитьей Анилом Раутом на основе Gemma 2 от Google. Это плотный трансформер-декодер для генерации текста, дообученный методом supervised fine-tuning на датасете databricks/databricks-dolly-15k, чтобы лучше следовать инструкциям и вести диалог. Модель содержит 2,7 млрд параметров и поддерживает контекст до 8192 токенов. Модель предназначена для англоязычных задач общего назначения: ответов на открытые вопросы, суммаризации, творческого письма и диалогового общения. Она может выдавать неточные или вымышленные сведения и унаследовать смещения базовой модели и обучающих данных. Не следует полагаться на неё при принятии критически важных медицинских, юридических или финансовых решений без проверки человеком; при публичном развёртывании рекомендуется использовать фильтры безопасности. Лицензия — Apache 2.0, с условиями базовой модели.

martimfasantos/gemma-2-2b-Sum-SFT — дообученная модель Google Gemma 2, подготовленная для суммаризации на наборе martimfasantos/openai-summarize-tldr. Она предназначена для создания кратких изложений текста и может использоваться в сценариях, где нужно сжать длинный материал до более компактного пересказа. Это плотная авторегрессионная языковая модель архитектуры Gemma2ForCausalLM с 2,7 млрд параметров и контекстом до 8192 токенов; формат весов — safetensors. Базовая Gemma 2 ориентирована на английский язык, поэтому модель подходит прежде всего для англоязычных текстов. Указанная лицензия — Gemma; применяйте модель на условиях этой лицензии.

ThomasBaruzier/gemma-2-9b-it-GGUF — это набор GGUF-квантизаций инструкционно дообученной текстовой модели Gemma 2 9B IT, первоначально разработанной Google. Квантизации созданы с помощью llama.cpp и метода imatrix на основе калибровочного файла Bartowski; исходная модель — google/gemma-2-9b-it. Модель представляет собой decoder-only большую языковую модель для генерации и преобразования текста. Она предназначена для диалогов, ответов на вопросы, суммаризации, рассуждений и других задач текстовой генерации на английском языке. Доступны варианты с разными уровнями квантизации и размером примерно от 2,3 до 17,6 ГБ: от IQ1_S и IQ1_M до Q8_0 и F16. Более компактные варианты требуют меньше ресурсов, но могут сильнее терять качество; по приведённой таблице варианты Q4–Q8 близки к F16 по измеренным показателям perplexity и accuracy. Сильная сторона набора — возможность запускать Gemma 2 9B IT локально или на инфраструктуре с ограниченными ресурсами через llama.cpp, выбирая компромисс между размером и качеством. README не содержит сведений о длине контекста, точной архитектуре, поддерживаемых модальностях кроме текста или полном наборе языков; указано только, что модель доступна на английском языке. Использование регулируется лицензией Gemma от Google; для доступа к модели на Hugging Face требуется принять условия этой лицензии.

Gemma 3 12B IT — мультимодальная instruction-tuned модель Google, представленная в формате GGUF для запуска через llama.cpp и совместимые приложения, включая LM Studio. Квантизацию выполнил bartowski на основе llama.cpp; исходная модель — google/gemma-3-12b-it. Модель предназначена для генерации текста и понимания изображений. Поддерживаемые сценарии включают ответы на вопросы, суммаризацию, рассуждения и другие задачи обработки текста с учётом визуального контекста. Заявлена длина контекста до 128 000 токенов и максимальная длина вывода 8192 токена. Изображения обрабатываются в разрешении 896 × 896. Поддержка конкретных языков в README не указана. К сильным сторонам относятся сочетание текстовых и визуальных возможностей, большой контекст и возможность локального запуска в экосистеме llama.cpp. Ограничениями являются зависимость от совместимого runtime, требование llama.cpp версии 1.19.0 или более новой beta-версии, а также возможные компромиссы качества и скорости, связанные с квантизацией GGUF. Модель может выдавать неточные, вредные или неподходящие ответы. Для доступа к Gemma на Hugging Face требуется принять лицензию Google. В README указана лицензия Gemma; дополнительные условия её использования следует учитывать перед развёртыванием модели.

m8than/gemma-3-12b-it-lenientchatfix — мультимодальная разговорная модель сообщества на архитектуре Gemma 3, дообученная на предобученной модели Google google/gemma-3-12b-pt. Она принимает текст и изображения и генерирует текст; объём модели — 12 млрд параметров. Карточка описывает возможности семейства Gemma 3: контекст до 128 тыс. токенов и поддержку более 140 языков. Модель предназначена для диалогов, ответов на вопросы по изображениям и тексту, суммаризации и генерации текста. Её можно использовать для извлечения сведений из изображений, создания черновиков и разговорных интерфейсов. Название указывает на вариант с более lenient-настройкой поведения, но README не уточняет, как она реализована и оценивалась. К ограничениям относятся возможные фактические ошибки, смещения в ответах и трудности с неоднозначными запросами и сложными задачами. В метаданных указана лицензия Gemma; использование регулируется её условиями и политикой запрещённого использования Gemma.

unsloth/gemma-3-4b-pt — мультимодальная модель семейства Gemma 3, подготовленная Unsloth на основе предварительно обученной google/gemma-3-4b-pt. Она принимает текст и изображения и генерирует текстовые ответы. В метаданных указаны архитектура Gemma 3 с плотной моделью, библиотека Transformers и формат весов Safetensors; базовая модель имеет 4 млрд параметров по идентификатору репозитория. Для Gemma 3 заявлено контекстное окно 128 тыс. токенов и поддержка более 140 языков. Модель подходит для вопросов по изображениям, извлечения и обобщения визуальной информации, а также генерации и суммаризации текста. README описывает семейство Gemma 3 в целом, поэтому характеристики контекста и языковой поддержки относятся к семейству; эта версия обозначена как предварительно обученная, а не настроенная для следования инструкциям. Возможны фактические ошибки, пробелы и смещения, а также трудности с неоднозначными запросами и сложными задачами. Лицензия — Gemma.

Карточка модели unsloth/gemma-3n-E4B на Hugging Face совпадает с карточкой unsloth/gemma-3n-E2B-it, поэтому описание составлено по ней. unsloth/gemma-3n-E2B-it — дообученная Unsloth версия диалоговой модели Google Gemma 3n E2B-it. Это плотная мультимодальная архитектура Gemma3n, однако карточка этой версии сообщает о поддержке только текстового ввода. Модель предназначена для диалога и генерации текста; её можно использовать для ответов на вопросы и ведения беседы. Заявленная длина контекста Gemma 3n — до 32 тыс. токенов. В метаданных указаны английский язык и библиотека Transformers. Модель распространяется по лицензии Gemma; перед использованием следует учитывать её условия. Карточка не приводит отдельные сведения о качестве этой версии.