II.6Документация и сопровождение разработки

a111311/ex2_fr — генеративная языковая модель для создания текста, опубликованная на Hugging Face. В метаданных она отмечена как модель семейства Gemma и предназначена для использования через библиотеку Transformers. Модель содержит около 2,5 млрд параметров и поддерживает контекст длиной до 8192 токенов. Её основная задача — text generation: продолжение и создание текстов, ответы в формате диалога и другие сценарии, основанные на генерации последовательностей. README содержит только автоматически созданную карточку и не предоставляет сведений о разработчике, обучающих данных, лицензии, поддерживаемых языках, результатах оценки или специальных ограничениях. Поэтому модель следует тестировать перед применением в критически важных задачах; фактическое качество, безопасность и пригодность для конкретного языка или домена по имеющимся данным подтвердить нельзя.

EXAONE-3.5-2.4B-Instruct-GGUF — это GGUF-квантизированная версия языковой модели EXAONE-3.5-2.4B-Instruct, разработанной LGAI (LG AI Research). Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев, а также для локального запуска через llama.cpp и совместимые приложения, включая LM Studio. Модель имеет 2,4 млрд параметров и поддерживает английский и корейский языки. Доступны варианты от F32 и F16 до различных форматов квантизации Q8, Q6, Q5, Q4, Q3 и Q2, что позволяет выбирать между качеством ответов, потреблением памяти и скоростью инференса. Рекомендуемые варианты обеспечивают высокое качество, а менее точные квантизации подходят для систем с ограниченным объёмом оперативной памяти. Формат prompt использует специальные маркеры system, user и assistant. Ключевое преимущество этой версии — возможность локального запуска на относительно доступном оборудовании с выбором подходящего уровня квантизации. Ограничения включают потенциальное снижение качества при использовании низкобитных вариантов, а также отсутствие в предоставленных данных сведений о максимальном контексте, точной архитектуре и мультимодальных возможностях; модель следует рассматривать как текстовую. Репозиторий указывает лицензию EXAONE, обозначенную как other, с отдельным файлом LICENSE; конкретные условия необходимо проверять в нём.

EXAONE-3.5-7.8B-Instruct-GGUF — набор GGUF-квантизаций инструкционной языковой модели EXAONE-3.5-7.8B-Instruct, разработанной LGAI. Репозиторий подготовлен ThomasBaruzier с использованием llama.cpp и imatrix-квантизации; представлены варианты с разными уровнями сжатия и размерами файлов. Модель предназначена для генерации текста и выполнения инструкций в текстовых сценариях. В README указаны английский и корейский языки. Размер исходной модели составляет 7,8 млрд параметров, однако архитектура и максимальная длина контекста не указаны. Доступны варианты квантизации IQ и Q, примерно от 1,8 до 5,6 ГБ; выбор варианта позволяет балансировать между требованиями к памяти и сохранением качества. К сильным сторонам относятся возможность локального запуска через совместимый стек llama.cpp, широкий выбор квантизаций и опубликованные показатели perplexity и accuracy для сравнения вариантов. Более агрессивное сжатие уменьшает размер модели, но может заметнее снижать качество. Модель текстовая и не поддерживает заявленные мультимодальные сценарии. Лицензия обозначена как EXAONE; подробные условия следует уточнять в файле LICENSE.

jaspionjader/f-2-8b — объединённая методом SLERP языковая модель семейства Llama, созданная с помощью mergekit из jaspionjader/f-1-8b и jaspionjader/Kosmos-EVAA-mix-v35-8B. Модель содержит 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и формат safetensors; заявленная длина контекста — 8192 токена. Модель предназначена для генерации текста и диалогового взаимодействия. Она может использоваться для ответов на запросы и создания продолжений текста. Сведения о языках, специальных областях применения и сравнительном качестве в карточке не приведены. Лицензия в предоставленных данных не указана.

Lambent/Falcon3-Continued-0.3-10B-Base — базовая языковая модель на 9,9 млрд параметров, разработанная на основе Falcon3-10B-Base от Technology Innovation Institute и дообученная командой Lambent. Для продолжения предобучения применялись qLoRA и UnSloth на дополнительных данных PleIAs/common_corpus; итоговые веса были объединены. Модель использует плотную архитектуру LlamaForCausalLM и сохраняется в формате safetensors. Модель предназначена для генерации текста и дальнейшей адаптации. В README приведены результаты на тестах рассуждения, математических задач и понимания физического мира; сравнение с исходным чекпойнтом показывает неодинаковые изменения по тестам, поэтому эти результаты не гарантируют улучшения на других задачах. Контекст составляет до 32 768 токенов. Данные README и метаданные не устанавливают лицензионные условия сверх значения «other».

Falcon-Mamba-7B — авторегрессионная языковая модель с причинным декодером на архитектуре Mamba, разработанная TII. Она обучена предсказывать следующий токен и предназначена для генерации продолжений текста и других сценариев языкового моделирования. В метаданных указан размер 8,9 млрд параметров; архитектура включает 64 слоя с размерностью скрытого состояния 4096. Модель ориентирована главным образом на английский язык. При обучении использовались веб-тексты RefinedWeb, образовательные и технические данные, а также материалы по программированию и математике. Контекст увеличивали с 2 048 до 8 192 токенов; в README отмечено, что для Mamba длина контекста при инференсе не ограничена так же, как у стандартных трансформеров. Для запуска предусмотрена библиотека Transformers, а оптимизированные ядра Mamba могут повысить производительность. Модель подходит для генерации текста общего назначения, однако приведённые в карточке результаты бенчмарков показывают ограничения на сложных задачах рассуждения и следования инструкциям. Лицензия — TII Falcon-Mamba License 2.0; перед использованием следует проверить её условия.

Карточка модели sultthegreat/falcon-mamba-7b-instruct на Hugging Face совпадает с карточкой tiiuae/falcon-mamba-7b-instruct, поэтому описание составлено по ней. FalconMamba-7B-Instruct — англоязычная авторегрессионная языковая модель TII на архитектуре Mamba с причинным декодером. Она дообучена на инструкционных данных поверх Falcon-Mamba-7B; в метаданных указано 8,9 млрд параметров. Для обучения использовались веб-тексты RefinedWeb, технические материалы, код, математические данные и часть FineWeb-Edu. Модель предназначена для диалогов, выполнения текстовых инструкций и генерации продолжений; работает с текстом и поддерживает генерацию на английском языке. Обучение увеличивало длину контекста с 2 048 до 8 192 токенов. В карточке отмечено, что архитектура Mamba не имеет фиксированного предела дальних зависимостей при инференсе. Для ускорения рекомендуются оптимизированные ядра Mamba; модель также можно запускать в FP16 и 4-битном режиме. Карточка приводит результаты на общих языковых и рассуждательных бенчмарках, включая MMLU, GSM8K и IFEval. Модель выпущена под лицензией TII Falcon-Mamba License 2.0, обозначенной в метаданных как other; перед использованием следует проверить её условия. Карточка описывает преимущественно английское применение и не заявляет специальных возможностей для других языков.

FalconMind3B — языковая модель генерации текста, разработанная Faris Allafi и дообученная на основе tiiuae/Falcon3-3B-Instruct с помощью PEFT/LoRA на платформе Hugging Face AutoTrain. Модель предназначена для пошагового рассуждения и структурированных ответов на вопросы, решения задач и объяснения кода. Модель использует плотную архитектуру семейства Llama с причинным языковым моделированием, содержит 2,8 млрд параметров и поддерживает контекст до 32 768 токенов. В карточке заявлен английский язык; базовая модель также ориентирована на французский, испанский и португальский. Распространяется по лицензии Apache 2.0. Дообучение использует синтетические данные, которые могут вносить смещения и снижать обобщающую способность. Надёжность следует проверять на целевых задачах; для решений с высокими ставками модель требует особой проверки.

Модель ermiaazarkhalili/FastContext-4B-SFT_base-SFT-Claude-Opus-Reasoning-Unsloth — дообученная версия microsoft/FastContext-1.0-4B-SFT, разработанная ermiaazarkhalili. Это плотная авторегрессионная языковая модель семейства Qwen3 с архитектурой Qwen3ForCausalLM, примерно 3,7 млрд параметров и контекстом до 262 144 токенов. Модель предназначена для генерации текста в диалогах и выполнения инструкций; дообучение проведено методом SFT на данных дистилляции рассуждений Claude. Она поддерживает интерфейс вызова инструментов. Карточка приводит только наблюдения обучающей потери и сообщает, что оценка на прикладных бенчмарках не проводилась. Поведение вне распределения единственного набора инструкций не проверено; модель наследует смещения и ограничения базовой модели. LoRA-адаптеры слиты с весами, поэтому отделить результат дообучения нельзя. Лицензия в предоставленных данных не указана.

Fett-uccine-Long-Noodle-7B-120k-Context — объединённая модель для генерации текста и диалогов, созданная с помощью mergekit методом SLERP. В слиянии использованы Fett-uccine-7B и Mistral Yarn 120k ctx; модель построена на архитектуре Mistral и содержит 7,1 млрд параметров. Модель предназначена для генерации текста в диалоговом формате. В названии и описании проекта заявлено расширение контекста до 120 тысяч токенов за счёт Mistral Yarn, однако метаданные указывают native context в 32 768 токенов. Поэтому заявленную длину 120 тысяч токенов нельзя считать подтверждённой характеристикой этой публикации. Модель распространяется в формате safetensors и рассчитана на использование через Transformers. Лицензия в предоставленных данных не указана.

DevQuasar опубликовал GGUF-версию модели FINAL-Bench/Darwin-36B-Opus для генерации текста и диалогов. Карточка указывает, что это версия базовой модели, а метаданные описывают её как мультиязычную MoE-модель для диалогов и сложных задач рассуждения с длинным контекстом. Репозиторий содержит веса в формате GGUF F16. Модель предназначена для текстового общения и генерации ответов. README не приводит дополнительных сведений о поддерживаемых языках, точном размере контекста, лицензии и ограничениях использования.

flammen22X-mistral-7B — слитая текстовая модель семейства Mistral, созданная flammenai методом Model Stock с помощью mergekit. В слиянии использованы flammenai/flammen18X-mistral-7B, ChaoticNeutrals/Nyanade_Stunna-Maid-7B-v0.2, KatyTheCutie/LemonadeRP-4.5.3 и SanjiWatsuki/Kunoichi-DPO-v2-7B; базой для слияния служила nbeerbower/flammen22C-mistral-7B. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и поддерживает контекст до 32 768 токенов. Она предназначена для генерации текста, включая диалоги и ответы на запросы. Данных о специализированной предметной области или поддерживаемых естественных языках в карточке нет. Модель распространяется под лицензией Apache-2.0. Качество и поведение унаследованы от компонентов слияния; отдельных оценок или сведений о проверках в карточке нет.

Flashback-Bellman — языковая модель Mistral для генерации текста, созданная объединением моделей с помощью LazyMergekit. В конфигурации указаны Mistral-7B-v0.1-flashback-v2 как базовая модель и neph1/bellman-7b-mistral-instruct-v0.2 как добавляемая модель слияния DARE-TIES; при этом метаданные Hugging Face связывают репозиторий с bellman-7b-mistral-instruct-v0.2. Размер модели — 7,1 млрд параметров, контекст — до 32 768 токенов. Модель предназначена для генерации текста по текстовому запросу. Карточка не приводит конкретных сценариев применения, языкового охвата или оценок качества. Репозиторий содержит веса в формате safetensors; лицензия в доступных данных не указана.

jaspionjader/fr-5-8b — слитая диалоговая языковая модель на архитектуре Llama с 7,5 млрд параметров, созданная автором карточки с помощью mergekit методом SLERP из jaspionjader/fr-1-8b и jaspionjader/fr-4-8b. Модель предназначена для генерации текста и диалогового общения; каталог также отмечает поддержку чат-сценариев. Она принимает текст и выдаёт текст, использует библиотеку Transformers и имеет заявленный контекст до 131 072 токенов. В README указана точность bfloat16. Модель опубликована в формате safetensors. Языки и специализированные предметные области в предоставленных данных не обозначены. Лицензия в метаданных и README не указана.

FrankenMonarch-7B — экспериментальная диалоговая языковая модель, созданная mlabonne с помощью LazyMergekit. Она объединяет перекрывающиеся диапазоны слоёв пяти копий AlphaMonarch-7B методом passthrough; архитектура — плотная MistralForCausalLM. Метаданные указывают 10,6 млрд параметров, контекст до 32 768 токенов и формат Safetensors; в README также упомянуты квантизованные версии GGUF. Модель предназначена для генерации текста и диалога. Её можно использовать для ответов на сообщения, продолжения текста и интерактивного общения. Базовая AlphaMonarch-7B описана как модель для следования инструкциям и рассуждений, но README не приводит отдельных результатов оценки FrankenMonarch-7B. Лицензия CC BY-NC 4.0 разрешает использование на условиях Creative Commons Attribution-NonCommercial 4.0 и ограничивает коммерческое применение.

frankentalkie — языковая модель Talkie, собранная Abstract4700 с помощью MergeMonster на основе дообученной Talkie-1930-13B-IT. При слиянии сохранены токенизатор, эмбеддинги, выходной слой и пользовательский runtime для Transformers, а декодер расширен с 40 до 60 блоков повторным использованием и перекрывающимся размещением средних слоёв с уменьшенным вкладом повторных блоков. Модель предназначена для генерации текста и диалогового общения на английском языке. Модель имеет плотную архитектуру TalkieForCausalLM, содержит 19,2 млрд параметров, принимает текст и выдаёт текст. Контекст — до 2048 токенов. Распространяется в формате safetensors по лицензии Apache-2.0; для запуска используются зависимости и пользовательский runtime Transformers.

friend-8x7B-hf — объединённая языковая модель, опубликованная rAIfle. Она создана в несколько этапов с помощью mergekit: в основу вошли модели на базе mistralai/Mixtral-8x7B-v0.1, включая вариант, связанный с retrieval и краткими делами, а итоговая модель объединяет промежуточные результаты методом SLERP. Архитектура — MixtralForCausalLM с механизмом смеси экспертов; в метаданных указано 7,1 млрд параметров и контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогов. Автор сообщает, что работают шаблоны ChatML и Alpaca, причём предпочтительнее показался ChatML. Лицензия в предоставленных данных не указана. README описывает качество как приемлемое по результатам собственных тестов автора, без подробных оценок или бенчмарков.

FuseChat-Llama-3.2-1B-Instruct — компактная чат-модель семейства Llama, выпущенная FuseAI в рамках проекта FuseChat-3.0. Она создана на базе Llama-3.2-1B-Instruct с применением двух этапов обучения: supervised fine-tuning и Direct Preference Optimization на ответах и предпочтениях, полученных от более крупных языковых моделей. Модель имеет плотную архитектуру LlamaForCausalLM и содержит 1,2 млрд параметров; заявленная длина контекста составляет 131 072 токена. Модель предназначена для диалога и выполнения инструкций, включая общие вопросы, математические задачи, программирование и запросы на китайском языке. Подходит для компактных сценариев развёртывания, где важны чат-возможности при меньшем размере модели. В README сообщаются улучшения на бенчмарках FuseChat-3.0, однако приведённые численные результаты относятся к варианту с Llama-3.1-8B и не должны переноситься на эту модель. Модель принимает текст и генерирует текст. В метаданных указана лицензия? Условия лицензии не приведены, поэтому перед использованием следует проверить их на странице репозитория Hugging Face.

FuseO1-DeepSeekR1-QwQ-SkyT1-32B-Preview — экспериментальная объединённая языковая модель команды FuseAI. Она создана с помощью слияния трёх моделей для рассуждений: DeepSeek-R1-Distill-Qwen-32B, Qwen/QwQ-32B-Preview и NovaSky-AI/Sky-T1-32B-Preview. Модель основана на плотной архитектуре Qwen2 с 32 млрд параметров и предназначена для генерации текста и диалогов с пошаговыми рассуждениями. Основные сценарии — решение математических задач, рассуждения о программном коде и научные вопросы. В README для версии указаны результаты AIME24: 74,0 Pass@1 и 86,7 Cons@32 при описанной авторами схеме оценки. Модель принимает текст и генерирует текст; метаданные указывают контекстное окно 131 072 токена и интерфейс для вызова инструментов. Языки в карточке явно не перечислены. Модель распространяется в формате safetensors по лицензии Apache-2.0. Это предварительная версия, а опубликованные сравнительные показатели относятся к конкретным настройкам и методике оценки; они не гарантируют аналогичных результатов в других задачах или конфигурациях.

QuietImpostor/Gemini-Nano-Gemmafied — генеративная языковая модель для создания текста в задачах диалога и продолжения текста. Модель опубликована пользователем QuietImpostor на Hugging Face и доступна для работы через библиотеку Transformers. В материалах модели отсутствуют сведения о разработчике, базовой модели и лицензии. Модель содержит около 3,2 млрд параметров и поддерживает контекст до 8192 токенов. В метаданных указаны форматы Safetensors и GGUF, а также принадлежность к семейству Gemma. Модель может применяться для генерации ответов в чатах, написания и продолжения текстов, черновой подготовки контента и экспериментов с компактными LLM. Оценки качества, состав обучающих данных, поддерживаемые естественные языки и специальные ограничения в карточке не описаны. Сгенерированный текст следует проверять на фактические ошибки, логические неточности и возможные искажения. Условия лицензирования в доступных материалах не приведены.

bartowski/gemma-2-27b-chatml-GGUF — это набор GGUF-квантизаций 27-миллиардной текстовой модели IntervitensInc/gemma-2-27b-chatml. Квантизации подготовлены bartowski с использованием llama.cpp версии b3615 и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев, а запускать её рекомендуется в совместимых приложениях, включая LM Studio. Доступны варианты от исходных весов F16 размером 54,46 ГБ до более компактных Q3-, Q4-, Q5-, Q6- и Q8-квантизаций размером примерно от 11,55 до 28,94 ГБ. Более высокие уровни квантования обычно обеспечивают лучшее качество, тогда как компактные варианты снижают требования к оперативной памяти; отдельные Q4_0_8_8, Q4_0_4_8 и Q4_0_4_4 оптимизированы для ARM и CPU-инференса. Точные сведения об архитектуре, поддерживаемых языках, модальностях и размере контекста в README не указаны. Сильная сторона набора — широкий выбор квантизаций для разных ограничений по памяти и производительности, включая варианты высокого качества и версии для малоресурсного запуска. Ограничения включают неизвестный формат промптов, отсутствие в README подробностей о возможностях базовой модели и потенциальное снижение качества у низкоразрядных вариантов. Для доступа требуется принять лицензию Google на использование Gemma на Hugging Face; конкретные условия лицензии следует проверить перед применением.

gemma-2-27b-it-IMat-GGUF — это GGUF-квантизированная версия модели Gemma 2 27B Instruction Tuned, разработанной Google. Версия подготовлена пользователем legraphista с помощью llama.cpp и предназначена для локального запуска задач генерации текста и диалогового взаимодействия в совместимых средах, включая llama.cpp. Модель основана на исходной версии google/gemma-2-27b-it с исходным форматом BF16. Доступны варианты от BF16 и FP16 до квантизаций Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и ряда IQ-вариантов размером примерно от 10,45 до 54,46 ГБ. Для ряда вариантов применена IMatrix-квантизация, призванная улучшить сохранение качества при уменьшении размера. README не содержит достоверных сведений о поддерживаемых языках, длине контекста, модальностях помимо текста или конкретных результатах тестирования. Основное преимущество сборки — широкий выбор уровней квантизации для подбора компромисса между качеством, требованиями к памяти и скоростью локального вывода. Ограничения связаны с большими требованиями к ресурсам даже у компактных вариантов, а качество низкобитных версий может отличаться от исходной модели. Для доступа и использования действует лицензия Gemma от Google; на Hugging Face требуется принять условия лицензии.

unsloth/gemma-2-2b-it — разговорная версия Gemma 2 от Google, опубликованная Unsloth в формате safetensors и напрямую квантизированная до 4 бит с помощью bitsandbytes. Это плотная авторегрессионная языковая модель примерно на 2,7 млрд параметров, предназначенная для генерации текста и диалогового общения; она принимает текст и выдаёт текст. Указанная длина контекста — 8192 токена. Карточка Unsloth описывает ноутбуки для дообучения Gemma 2 и экспорта моделей, а не специализированную область применения этого чекпойнта. Модель подходит для диалоговых приложений, генерации продолжений и прототипирования текстовых помощников. В метаданных указан английский язык. Лицензия — Gemma; перед использованием следует соблюдать её условия. Карточка указывает на 4-битную квантизацию, поэтому характеристики могут отличаться от исходной версии Gemma 2.

ApatheticWithoutTheA/gemma-2-2b-it-R1-Reasoning — дообученная диалоговая модель на базе Google Gemma 2 2B IT, созданная ApatheticWithoutTheA. Модель обучена методом LoRA с использованием MLX на 62,9 тыс. примеров датасета sequelbox/Raiden-DeepSeek-R1; README указывает 600 итераций обучения. Она предназначена для следования инструкциям и генерации текста с рассуждениями: на простые вопросы отвечает кратко, а для более сложных может выдавать длинные цепочки рассуждений. Модель подходит для ответов на вопросы, задач на рассуждение и программирование, в том числе при запуске на пользовательском оборудовании. Это плотная авторегрессионная архитектура Gemma2ForCausalLM с 2,7 млрд параметров и контекстом до 8192 токенов. Репозиторий содержит форматы GGUF и safetensors; библиотека модели — MLX. Метаданные указывают английский язык и лицензию MIT. Качество рассуждений не гарантировано: модель иногда не начинает рассуждение без прямой просьбы, а на особенно сложных задачах может зацикливаться на длинном анализе и не приходить к выводу. Используйте ответы и сгенерированный код с проверкой.

Это разговорная языковая модель Gemma 2 9B, опубликованная iamhyunmin. Модель представляет собой плотную авторегрессионную архитектуру Gemma2ForCausalLM с 9 млрд параметров и контекстом до 8192 токенов. Репозиторий содержит экспорт эпохи 2 модели, дообученной методом Direct Preference Optimization (DPO) с полным обновлением параметров на основе iamhyunmin/gemma2-9b-deita-sft-epoch3; применялись Transformers и TRL. Модель предназначена для диалогов и генерации текста в ответ на запросы. В README описана настройка в стиле помощника; в метаданных указан conversational/chat сценарий. Данные обучения — argilla/dpo-mix-7k. Языки отдельно не перечислены, поэтому языковую специализацию нельзя определить по карточке. Модель может быть полезна для прототипирования диалоговых приложений и генерации ответов, но README предупреждает о возможных неточных, предвзятых, небезопасных и иных нежелательных ответах; модель не оценивалась для всех применений. Это производная модель, не официальная и не одобренная Google. Указана лицензия Gemma, поэтому использование должно соответствовать Gemma Terms of Use.

testmoto/gemma-2-9b-synthetic_coding — текстовая модель семейства Gemma 2 на 9 млрд параметров, основанная на Google Gemma 2 9B. Карточка указывает, что модель преобразована в формат MLX с помощью mlx-lm 0.20.1; метаданные описывают её архитектуру как плотную авторегрессионную Gemma2ForCausalLM и задают контекст до 8192 токенов. Модель предназначена для генерации текста. Возможности базовой Gemma 2 9B включают диалоги, суммаризацию и ответы на вопросы; название репозитория указывает на синтетические данные для программирования, однако README не подтверждает отдельные результаты или гарантии качества в задачах кодирования. Для использования в MLX карточка предлагает библиотеку mlx-lm. Указанная лицензия — gemma. Это преобразование формата исходной модели, а не свидетельство дополнительного дообучения на синтетическом коде; репозиторий не приводит сведений о конкретных ограничениях качества или безопасности.

Это квантизированная версия Gemma 3 12B IT, разработанная Google и преобразованная пользователем nocturne23 в формат GGUF с помощью llama.cpp и инструмента GGUF-my-repo. Модель предназначена для запуска через llama.cpp в CLI-режиме или как сервер для генерации ответов и выполнения задач, поддерживаемых исходной инструкционной моделью. Известно, что модель основана на google/gemma-3-12b-it и имеет размер 12 миллиардов параметров. Вариант Q4_K_M использует 4-битную квантизацию, что уменьшает требования к памяти по сравнению с полной версией, но может снижать точность. В метаданных указана мультимодальная задача image-text-to-text, однако подробные сведения о поддерживаемых языках, длине контекста, архитектуре и возможностях работы с изображениями в README отсутствуют. В качестве ограничения также следует учитывать зависимость от llama.cpp и необходимость настройки под используемое оборудование. Для доступа и использования модели требуется принять лицензию Google Gemma на Hugging Face; в README лицензия обозначена как gemma. Условия коммерческого и иного применения следует проверять в исходной лицензии Google и оригинальной карточке модели.

Это версия Gemma 3 от сообщества mlx-community, преобразованная из инструктивной модели Google gemma-3-1b-it в формат MLX для запуска с mlx-lm. Модель с плотной архитектурой Gemma3ForCausalLM содержит 1 млрд параметров и предназначена для диалогов и генерации текста; поддерживает контекст до 32 768 токенов. Модель подходит для чат-ботов, ответов на вопросы и генерации текста на устройствах, совместимых с MLX. Карточка указывает лицензию Gemma; перед использованием следует учитывать её условия. Описание не сообщает о дополнительном дообучении, поэтому происхождение здесь — преобразование формата.

Gemma-3-1b-it-MAX-NEO-Imatrix-GGUF — модифицированная GGUF-версия модели Google Gemma 3 1B Instruct, подготовленная DavidAU. Модель предназначена для генерации текста, диалогов, выполнения инструкций, творческих сценариев и других общих задач обработки текста. Заявлен контекст до 32 000 токенов. Модель использует квантизации GGUF с вариантами от IQ1_S до Q8_0, а также полную точность F16. В вариантах «MAXED» входные embedding- и выходные tensor сохраняются в формате BF16, что должно повышать качество за счёт немного большего размера файлов. «NEO IMATRIX» обозначает применение специального imatrix-набора данных, разработанного автором, для улучшения следования инструкциям, качества вывода и связности идей. Данные о языках и мультимодальных возможностях не указаны. Качество, скорость и требования к памяти зависят от выбранной квантизации. Автор рекомендует IQ3, IQ4XS и IQ4NL для творческих задач, Q5, Q6 и Q8 для общего использования, а Q4_0 и Q5_0 — для портативных и мобильных устройств. Низкие квантизации IQ1 имеют слабую производительность, IQ2 считаются приемлемыми; IQ4XS и IQ4NL могут выдавать результаты, отличающиеся от других вариантов. Для работы могут потребоваться специально подобранные параметры генерации и sampler settings. Модель распространяется по лицензии Apache-2.0.

unsloth/gemma-3-1b-pt-unsloth-bnb-4bit — 4-битная квантованная версия предобученной модели google/gemma-3-1b-pt, подготовленная Unsloth. Базовая модель разработана Google DeepMind в рамках семейства Gemma, созданного на основе технологий Gemini. Это модель с открытыми весами, предназначенная для локального и ресурсосберегающего развертывания. Модель ориентирована на генерацию текста, ответы на вопросы, суммаризацию, рассуждения и понимание изображений. Она принимает текстовые и графические входные данные и генерирует текст. Для версии 1B заявлено контекстное окно до 32K токенов, максимальный объём вывода — 8192 токена. Семейство Gemma 3 поддерживает более 140 языков; в карточке этой версии явно указан английский язык. Изображения нормализуются до разрешения 896×896 и кодируются в 256 токенов каждое. Ключевое преимущество версии — сниженные требования к памяти благодаря 4-битной квантизации, что упрощает запуск на ноутбуках, настольных компьютерах и другой ограниченной по ресурсам инфраструктуре. При этом это именно предобученная, а не instruction-tuned модель, поэтому для диалоговых сценариев и выполнения команд может потребоваться дополнительное дообучение или специальное форматирование запросов. Квантизация также может немного снижать точность по сравнению с полноразмерной версией, однако README заявляет о применении селективной квантизации Unsloth Dynamic Quants для улучшения сохранения качества. Использование регулируется лицензией и условиями Gemma; перед применением необходимо ознакомиться с соответствующими Terms of Use.