II.6Документация и сопровождение разработки

orangefabercastell/gemma-2-2b-it-pi-mono-sft-v2 — языковая модель для генерации текста, опубликованная на Hugging Face и предназначенная для работы через библиотеку Transformers. По идентификатору модель относится к семейству Gemma 2 и варианту instruction-tuned; в метаданных она отмечена как conversational и text-generation. Модель содержит около 2,7 млрд параметров и поддерживает контекст до 8192 токенов. Она может использоваться для диалоговой генерации, продолжения текста и создания ответов на пользовательские запросы в приложениях на базе Transformers. README не содержит сведений о разработчике, языках, лицензии, обучающих данных, результатах оценки и детальных ограничениях модели. Поэтому применимость к конкретным языкам и качество в специализированных областях по предоставленным материалам подтвердить нельзя.

mitkox/gemma-2b-dpo-uncensored-4bit — дообученная версия инструкционной модели Google Gemma 2B IT, подготовленная для диалоговой генерации текста. Модель разработана пользователем mitkox; в карточке указаны архитектура GemmaForCausalLM, 2,5 млрд параметров и контекст до 8192 токенов. Она принимает текст и генерирует текст, поддерживает инструкции и диалоговый режим; в метаданных указан английский язык. Модель подходит для ответов на вопросы, ведения текстового диалога и генерации текста по инструкциям. Метаданные связывают её с датасетом предпочтений ChatML OpenHermes 2.5 DPO; README содержит указание на использование через mlx-lm. Суффикс 4bit в названии указывает на заявленное 4-битное представление, хотя метаданные файлов указывают safetensors. Лицензия — CC BY-NC 4.0, разрешающая использование с указанием авторства и ограничивающая коммерческое применение.

Gemma-2b-it-GGUF — квантизированная GGUF-версия инструкционной языковой модели Gemma 2B, разработанной Google и подготовленной компанией Second State Inc. Модель предназначена для диалоговых приложений и генерации текста по инструкциям; запуск поддерживается через LlamaEdge и совместимые инструменты. Это текстовая модель с размером около 2 млрд параметров и контекстом 2048 токенов. Доступны варианты квантизации от 2 до 8 бит размером примерно от 900 МБ до 2,67 ГБ. Более компактные варианты экономят память, но заметно снижают качество; Q4_K_M, Q5_K_M и Q5_K_S обозначены как сбалансированные или рекомендуемые варианты с меньшей потерей качества. Модель удобна для локального развёртывания на ограниченных ресурсах и работы через шаблон запросов gemma-instruct. Ограничения включают небольшой контекст, потерю качества при низкой точности квантизации и отсутствие в README сведений о поддерживаемых языках, результатах тестирования и конкретных возможностях мультимодальности; по представленным данным модель является текстовой. Используется лицензия Gemma Terms of Use, указанная Google.

Lemura Labs-Limitless-Gemma-2B — разговорная языковая модель Lemura Labs на архитектуре Gemma с 2,5 млрд параметров. Она предназначена для генерации текста и диалогов, ответов на открытые вопросы, творческого письма, помощи в исследованиях и обучающих запросов. Модель принимает текст и генерирует текст; заявленная длина контекста — 8192 токена. В карточке также упомянуты отдельные квантованные версии GGUF для запуска при разных ограничениях памяти, однако этот репозиторий содержит веса в формате safetensors. Разработчик описывает модель как предназначенную для ответов без ограничений по содержанию и для широкого круга тем. Это заявление не подтверждает точность ответов, поэтому результаты по научным, медицинским, юридическим и финансовым темам требуют проверки. Лицензия — Gemma; её условия следует соблюдать при использовании и распространении модели.

TouchNight/gemma-2-Ifable-9B-untied — версия языковой модели Gemma 2 с 9 млрд параметров, созданная на основе ifable/gemma-2-Ifable-9B. Репозиторий содержит веса модели в формате safetensors; в README указано, что веса lm_head и embed_tokens сохранены раздельно, а модель приведена к bf16. Контекст модели составляет 8192 токена. Модель предназначена для генерации текста и творческого письма. Для запуска требуется отдельно получить токенизатор исходной модели: в репозитории он отсутствует. Условия лицензии в предоставленных данных не указаны.

TouchNight/gemma-2-Ifable-abliterated-9B-untied — 9-миллиардная плотная языковая модель семейства Gemma 2 для генерации текста и диалогов. По карточке это объединение TouchNight/gemma-2-Ifable-9B-untied и TouchNight/gemma-2-9b-it-abliterated-LoRA-untied; каталог связывает её с первой моделью как с базовой. Модель принимает текст и генерирует текст, поддерживает контекст до 8192 токенов и опубликована в формате safetensors. Модель подойдёт для диалоговых приложений и генерации ответов на текстовые запросы. В названии и описании указано abliterated, но README не поясняет, какие ограничения поведения были изменены и каковы результаты такого изменения. Языки и специализированные области применения в предоставленных данных не обозначены. Лицензия в метаданных и карточке не указана.

bhushan1729/gemma3-1b-given-fields-distilled — текстовая генеративная модель на 1 млрд параметров, опубликованная пользователем bhushan1729 на Hugging Face. Модель предназначена для генерации текста и диалоговых сценариев и совместима с библиотекой Transformers. По метаданным она относится к семейству Gemma 3 и поддерживает контекст длиной до 32 768 токенов. Модель может использоваться для построения чат-ботов, генерации ответов и продолжения текста, однако README не содержит сведений о разработчике исходной модели, методах дистилляции, обучающих данных, языках, результатах оценки или специализированных сценариях применения. Лицензия в доступных данных не указана, поэтому условия распространения и коммерческого использования следует проверять отдельно на странице модели.

Gemma 3 1B IT — компактная instruction-tuned модель семейства Gemma 3, разработанная Google. Данная версия опубликована сообществом LM Studio в формате GGUF на основе оригинальной модели google/gemma-3-1b-it; GGUF-квантизация предоставлена Google. Модель предназначена для генерации текста, включая ответы на вопросы, суммаризацию и задачи, требующие рассуждений. Она оптимизирована с помощью Quantization Aware Training для повышения качества работы в 4-битном режиме, что делает её подходящей для локального запуска при ограниченных вычислительных ресурсах. Поддерживается контекст до 32 000 токенов и максимальная длина вывода до 8 192 токенов. Ключевое ограничение — небольшой размер в 1 млрд параметров, из-за которого модель может уступать более крупным системам в сложных рассуждениях, точности и широте знаний. В README не указаны дополнительные языковые возможности и модальности, поэтому модель следует рассматривать прежде всего как текстовую. Доступ и использование регулируются лицензией Google Gemma; на Hugging Face требуется принять условия этой лицензии.

RedHatAI/gemma-3-4b-it-FP8-dynamic — это динамически квантизированная версия мультимодальной модели google/gemma-3-4b-it, разработанная Neural Magic. Модель принимает текст и изображения, а генерирует текст; заявленный язык — английский. Она предназначена для задач понимания изображений, визуально-текстового диалога и обычной генерации текста. Модель основана на архитектуре gemma-3-4b-it и содержит около 4 миллиардов параметров. Веса и активации квантизированы в формат FP8, что снижает требования к памяти и может повысить эффективность инференса при сохранении близкого к исходной модели качества. Для развертывания заявлена совместимость с vLLM версии 0.5.2 и новее, включая OpenAI-совместимый режим сервинга. В тестах OpenLLM v1 средний результат составил 64,69% против 64,70% у исходной модели, а на указанных vision-бенчмарках — 44,97% против 45,33%. Сильная сторона модели — сочетание текстовых и визуальных возможностей с эффективным FP8-инференсом и минимальной потерей качества относительно базовой модели. Ограничения включают заявленную ориентацию на английский язык, зависимость от совместимого стека vLLM и возможное влияние квантизации на отдельные задачи; подробные сведения о максимальном контексте и полном наборе поддерживаемых языков не указаны. Модель распространяется по лицензии Apache 2.0.

ark4004/gemma3.8-27B-FP8 — репозиторий на Hugging Face, опубликованный пользователем ark4004. По истории репозитория он является копией Qwen/Qwen3.8-27B-FP8, поэтому название Gemma не подтверждает принадлежность к семейству Gemma. Модель предназначена для диалоговой генерации текста и обработки изображений с текстом: заявлена совместимость с Transformers, vLLM и SGLang, а примеры показывают ответы на текстовые запросы и анализ изображений. Это постобученная мультимодальная модель класса image-text-to-text с заявленным размером 27B параметров и FP8-квантизацией; для исходной Qwen-версии указана fine-grained FP8-квантизация с размером блока 128. Репозиторий распространяется по лицензии Apache-2.0. Точные архитектурные детали, поддерживаемые языки, размер контекстного окна, результаты оценки, сильные стороны и ограничения именно копии ark4004 в доступных данных надежно не указаны, поэтому их нельзя утверждать.

WithinUsAI/Gemma3-Prompt.Coder.it.Uncensored-270m — компактная текстовая модель на архитектуре Gemma 3, созданная слиянием нескольких дообученных моделей методом SLERP. В состав слияния вошли варианты для программирования и улучшения подсказок, а также модель Google Gemma 3 270M Instruct. В карточке указано, что отдельные компоненты обучались для расширения коротких запросов в подробные описания, генерации кода и снижения защитных ограничений. Модель предназначена для генерации текста, в том числе кода и развернутых вариантов коротких промптов. Она содержит около 257 млн параметров, принимает текст и имеет контекстное окно 32 768 токенов. Для работы используется библиотека Transformers, веса опубликованы в формате safetensors. В метаданных не указаны поддерживаемые естественные языки. README предупреждает о сниженной фильтрации и возможности чувствительных или неподходящих ответов; рекомендуется проверять результаты и применять модель в контролируемой среде. Лицензия в предоставленных данных не указана.

Это квантизированная NVFP4-версия Gemma 4 12B, дообученной для агентных сценариев и использования инструментов. Исходный fine-tune разработан yuxinlu1, а данная сборка переупакована и квантизирована Sourav Singh для локального запуска в Krill — движке инференса на Swift и MLX для Apple Silicon. Модель предназначена для генерации текста и кода, программирования, агентных задач и tool-use, включая сценарии, ориентированные на τ²-bench. Архитектура gemma4_unified объединяет текстовые, визуальные и аудиокомпоненты, однако конкретные поддерживаемые пользовательские режимы в этой сборке README подробно не описывает. Контекст модели также не указан. Основные веса представлены в NVFP4 с группировкой 16, а чувствительные модули используют 8-битное affine-представление с группировкой 64. Заявлены загрузка примерно за 1,7 секунды и скорость декодирования около 28 токенов в секунду на Apple Silicon. Сильная сторона модели — результаты в генерации кода: в приведённых тестах она показывает 83,5% на HumanEval и 84,1% на MBPP без reasoning и 86,0% и 83,6% соответственно с reasoning. Ограничения связаны с совместимостью: это MLX-чекпойнт, рассчитанный прежде всего на Krill, и он не предназначен для vanilla mlx-lm, mlx-vlm, llama.cpp, Ollama, transformers или vLLM. Лицензия — Gemma license; условия распространяются на базовую модель Google Gemma 4 и производный fine-tune.

Danny-Dasilva/gemma-4-12B-it-W4A16-GPTQ-g32-DSpark — квантизированная версия инструкционной модели Google Gemma 4 12B-it, подготовленная для ускоренного speculative decoding с использованием DSpark. Модель предназначена для генерации текста и диалоговых сценариев, включая работу через vLLM; рекомендуется применять чат-шаблон Gemma 4 и draft-модель deepseek-ai/dspark_gemma4_12b_block7. Модель использует посттренировочную GPTQ-квантизацию int4 в формате W4A16 с group_size=32, симметричными весами и weights-only quantization. Размер весов составляет около 7,8 ГБ; заявлена поддержка контекста до 8192 токенов в конфигурации vLLM. Указан английский язык. Модель основана на нетронутых bf16-весах google/gemma-4-12B-it и сохраняет совместимость с DSpark: заявлены скорость до 198,2 токена в секунду и ускорение 1,73 раза на одной RTX 5090 при использовании рекомендованной конфигурации. Сильные стороны модели — существенно сниженное потребление памяти, возможность запуска на видеокарте с 32 ГБ памяти и высокая эффективность совместно с DSpark. Ограничения включают зависимость максимальной производительности от конкретной аппаратной и программной конфигурации, необходимости совместимой версии vLLM, FlashInfer и отдельной draft-модели. Для корректной работы требуется использовать чат-шаблон; без него генерация может быть некорректной. Модель распространяется на условиях Gemma Terms of Use.

Gemma4-12B-QAT-Genesis — квантизированная GGUF-версия базовой модели Gemma 4 12B-it, разработанной Google DeepMind. Автор сборки указывает, что удалил шум дистилляции и квантизации из тензоров, оставив остальные параметры без изменений. Модель предназначена для диалогов, творческого письма и roleplay, а также поддерживает обработку изображений через отдельный vision-проектор mmproj. Модель имеет плотную архитектуру размером 12B параметров и контекст до 256K токенов. Доступна в формате Q4_0: текстовая модель занимает около 6,98 ГБ, vision-проектор — 175 МБ. В README указан английский язык. Для ускорения генерации поставляется MTP-голова для speculative decoding; по заявлению автора, при использовании llama.cpp она обеспечивает примерно на 60% большую скорость без изменения результата. Модель совместима с llama.cpp, LM Studio, Jan, koboldcpp и другими GGUF-совместимыми средами. К сильным сторонам относятся поддержка изображений, большой контекст, пригодность для ролевых и разговорных сценариев, а также возможность быстрой работы на недорогих GPU. Ограничения включают зависимость vision-функций от mmproj, необходимость совместимого GGUF-рантайма для MTP-ускорения и известную проблему возможных сбоев Gemma 4 в LM Studio при multi-GPU режиме tensor-split; рекомендуется использовать один GPU либо layer-split или priority order. Модель распространяется по лицензии Gemma.

Gemma-4-26B-A4B-it-JANG_2L — квантизированная модель семейства Gemma 4 с архитектурой MoE для генерации текста и диалогов. Её создал Jinho Jang; модель предназначена для запуска на компьютерах Apple с процессорами Silicon через vMLX и библиотеку MLX. В README приведён пример генерации текста с помощью mlx_lm; конфигурация автоматически учитывает список стоп-токенов. В метаданных указан формат safetensors и лицензия Gemma. Размер модели, поддерживаемые языки и длина контекста в предоставленных данных не приведены. README называет модель квантизированной, но не уточняет метод или точность квантизации.

Gemma 4 31B IT BF16 — мультимодальная инструкционно-настроенная модель Google DeepMind, преобразованная сообществом mlx-community в формат MLX из google/gemma-4-31B-it. Она предназначена для диалогов, генерации текста и анализа изображений; запускать её можно с помощью mlx-vlm. Модель использует плотную архитектуру Gemma 4 и принимает текст и изображения, выдавая текст. В репозитории указаны веса BF16 в формате safetensors и лицензия Apache-2.0.

ByteOtter Gemma-4-E4B-IT-TAK-Reasoning-GGUF — это текстовая генеративная модель в формате GGUF, созданная ByteOtter на основе instruction-модели google/gemma-4-E4B-it. Модель предназначена для запуска с помощью llama.cpp и ориентирована прежде всего на задачи рассуждения, а также на генерацию текста, ответы на вопросы, следование инструкциям, математические и структурированные задачи. Это квантованный вариант со смешанной точностью размером 3,236 ГБ. Квантование выполнено в рамках фиксированного ограничения на размер; дообучение, слияние весов, замена токенизатора и шаблона чата не проводились. Репозиторий содержит только текстовую версию без компонентов для обработки изображений и аудио. В заявленном тестировании модель получила 69,53% в категории рассуждений и превзошла сопоставимый низкобитный вариант Unsloth на 14,06 процентного пункта, однако уступила исходной BF16-модели 2,34 пункта. Сильной стороной модели является ориентация на рассуждения при существенно меньшем размере по сравнению с исходной BF16-версией, что может упростить локальный запуск. Результаты для других задач являются диагностическими и не гарантируют качество в прикладных сценариях; квантование может влиять на ответы, точность и стабильность в зависимости от запросов и среды выполнения. Модель распространяется по лицензии Apache License 2.0 с учетом лицензии и атрибуции базовой модели.

Gemmasutra-Pro-27B-v1.1 — разговорная языковая модель семейства Gemma 2, представленная TheDrummer и BeaverAI. Это плотная модель с архитектурой Gemma2ForCausalLM и 27,6 млрд параметров; карточка указывает шаблон диалога Gemma для сообщений пользователя и ассистента и контекст до 8192 токенов. Модель предназначена для генерации текста в формате чата. Автор описывает её как дообученную версию Gemma, созданную с использованием современных методов, но не раскрывает конкретные данные обучения или специализацию. Лицензия указана как other, поэтому условия использования следует сверить с лицензией и файлами репозитория.

RESMPDEV/Gemma-Wukong-2b — текстовая генеративная модель на архитектуре GemmaForCausalLM, опубликованная на базе семейства Gemma от Google. Репозиторий содержит плотную модель на 2,5 млрд параметров в формате Safetensors; заявленный контекст — до 8192 токенов. Карточка описывает Gemma как англоязычную модель text-to-text, но не уточняет, какие изменения или обучение отличают эту копию от базовой модели. Модель подходит для генерации текста и диалогов, ответов на вопросы, суммаризации и исследовательских задач NLP. Её относительно небольшой размер позволяет запускать её на ноутбуке, настольном компьютере или собственной облачной инфраструктуре. README основан на общей карточке Gemma и показывает пример загрузки google/gemma-2b, однако метаданные не подтверждают связь репозитория с этой базовой моделью. Модель может выдавать предвзятые, неточные или устаревшие ответы, испытывать трудности со сложными инструкциями, нюансами языка и рассуждениями. Лицензия указана как other; конкретные условия использования следует проверять в репозитории модели.

Lambent/Gilded-Arsenic-12B — диалоговая языковая модель на 12,1 млрд параметров, дообученная Lambent на базе Lambent/arsenic-nemo-unleashed-12B с помощью TRL и DPO-датасетов по прозе, ролевым сценариям, математическим рассуждениям и диалогам. Модель использует плотную архитектуру Mistral и формат safetensors; предназначена для генерации текста в ответ на сообщения пользователя и поддерживает интерфейс вызова инструментов. Модель подходит для диалоговых приложений, творческого письма и ролевых сценариев, а также для генерации ответов с математическими рассуждениями. В карточке указан контекст до 1 024 000 токенов. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение. Метка репозитория предупреждает, что модель подходит не для любой аудитории.

Это GGUF-квантизация MXFP4_MOE модели GLM-4.5-Air-REAP-82B-A12B; в репозитории также размещена версия с imatrix. Она предназначена для генерации текста в диалогах и чат-сценариях. Базовая модель описана в каталоге как сжатая MoE-версия GLM-4.5-Air для генерации текста и кода, агентных сценариев и вызова функций при сниженных требованиях к памяти. Карточка не приводит сведения о размере файлов, длине контекста, поддерживаемых языках или условиях лицензии. Указанная в метаданных задача — text-generation, а формат файлов — GGUF. Количественная оценка качества этой квантизации в карточке отсутствует.

Это дообученная модель Qwen3-32B, опубликованная LAION. Она обучена на наборе open-athena/GLM-4.6-stackexchange-overflow-sandboxes-32eps-65k-reasoning и предназначена для генерации текста в диалоговом режиме, в том числе ответов на вопросы и рассуждений по темам, представленным в обучающих данных Stack Exchange и Stack Overflow. Модель использует плотную архитектуру Qwen3ForCausalLM, содержит 29,7 млрд параметров и поддерживает контекст до 40 960 токенов. Репозиторий содержит веса в формате safetensors; метаданные указывают библиотеку Transformers и лицензию other. README не приводит результатов оценки, подробностей обучения или описания ограничений, поэтому качество в конкретных сценариях по карточке определить нельзя.

Модель laion/GLM-4.6-stackexchange-overflow-sandboxes-32eps-65k-reasoning_adam-beta1_0-95_Qwen3-32B — дообученная версия Qwen3-32B, созданная на датасете open-athena/GLM-4.6-stackexchange-overflow-sandboxes-32eps-65k-reasoning. Это плотная авторегрессионная языковая модель с архитектурой Qwen3ForCausalLM, рассчитанная на генерацию текста и диалоговый режим. Размер модели — 29,7 млрд параметров, нативный контекст — 40 960 токенов. Модель может применяться для генерации ответов в стиле Stack Exchange и Stack Overflow, решения задач по программированию и рассуждений в пределах обучающего распределения. Карточка не содержит результатов оценки качества или подробных рекомендаций по использованию, поэтому качество на конкретных задачах не подтверждено. Лицензия указана как other; конкретные условия следует сверить с карточкой репозитория и базовой модели.

MLX-формат модели GLM-4.7-Flash-6bit, конвертированной сообществом mlx-community из базовой модели zai-org/GLM-4.7-Flash с использованием mlx-lm 0.30.5. Модель предназначена для генерации текста и запуска через библиотеку mlx-lm, в том числе в сценариях диалогового взаимодействия с применением chat template. Из доступных данных известно, что модель поддерживает английский и китайский языки и распространяется по лицензии MIT. Формат 6bit указывает на квантованное представление, однако точные сведения об архитектуре, количестве параметров, размере контекста, модальностях, производительности и ограничениях в README не приведены. Для использования требуется установка mlx-lm; модель рассчитана на окружение MLX.

MLX-версия модели GLM-4.7-Flash-8bit, созданная сообществом mlx-community путём конвертации базовой модели zai-org/GLM-4.7-Flash в формат MLX с использованием mlx-lm 0.30.5. Модель предназначена для генерации текста и запуска на устройствах и в средах, совместимых с MLX и mlx-lm. В README указаны поддерживаемые языки English и Chinese, а также доступность chat template для диалогового использования. Модель имеет 8-битное представление, однако сведения об архитектуре, количестве параметров, размере контекста, модальностях и конкретных сценариях применения не приведены. Лицензия — MIT.

glm-4-9b-chat-IMat-GGUF — это набор GGUF-квантизированных версий чат-модели THUDM/glm-4-9b-chat, разработанной командой THUDM. Квантизацию выполнил legraphista с использованием llama.cpp и IMatrix для ряда вариантов. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через совместимое программное обеспечение, например llama.cpp. Модель имеет около 9 миллиардов параметров и создана на основе исходной версии в формате BF16. Доступны варианты от BF16 и FP16 до Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и IQ-квантизаций; размеры файлов составляют примерно от 3,99 до 18,81 ГБ. В метаданных указана поддержка китайского и английского языков. Для низкобитных вариантов применена IMatrix, призванная улучшить качество квантизации, однако конкретные показатели качества и максимальный размер контекста в README не указаны. Главное преимущество набора — выбор между качеством, размером и требованиями к ресурсам, что позволяет запускать модель на различном локальном оборудовании. Ограничения связаны с потерями качества при более агрессивной квантизации, а также с отсутствием в предоставленных данных подробных бенчмарков, требований к памяти и описания архитектуры. Модель распространяется по лицензии glm-4; README указывает отдельную лицензию и ссылку на лицензионные условия исходной модели.

GLM-5.2-4bit — это 4-битная квантованная версия модели GLM-5.2, преобразованная сообществом mlx-community из исходной модели zai-org/GLM-5.2 в формат MLX с использованием mlx-lm версии 0.31.3. Модель предназначена для генерации текста и локального запуска в экосистеме MLX, например через mlx-lm. Ключевые характеристики включают формат MLX, 4-битное квантование и поддержку сценариев text-generation. Данные о размере модели, архитектуре, языках, модальностях и длине контекста в README не указаны. В текущей версии квантования отсутствует блок MTP, что может ограничивать функциональность или производительность по сравнению с исходной моделью. Модель распространяется по лицензии MIT.

GLM-5.3-Flash EXTENSOR — текстовая версия модели GLM-5.3-Flash от Z.ai, подготовленная как артефакт для среды выполнения EXTENSOR. Это разговорная модель для генерации текста; исходная архитектура использует смесь экспертов (Mixture of Experts). В поставку входят только текстовые веса: компоненты для обработки изображений и MTP не включены. Модель подходит для диалоговых сценариев и генерации текста на английском и китайском языках. Артефакт объёмом около 173,5 млрд байт распространяется в формате GGUF с квантизацией ROCmFP4 для экспертов и отдельных проекций, а остальные тензоры сохранены в F16/F32. Для запуска требуется EXTENSOR версии 3.0.0 или новее; файл несовместим с llama.cpp. Лицензия — MIT.

JANGQ-AI выпустила JANGH2 — квантизированный вариант GLM-5.3-Flash для запуска на компьютерах Mac с 128 ГБ памяти. В основе — модель класса 300 млрд параметров с архитектурой MoE: 288 маршрутизируемых экспертов, из которых активируются восемь вместе с общим экспертом. Также используются линейное внимание KDA, разреженное внимание и отдельные компоненты для обработки изображений и видео. Эксперты квантизированы до 2–3 бит с калибровкой GPTQ и матрицей важности; остальные веса преимущественно хранятся в 8-битном формате, а визуальная башня — в bf16. Модель доступна в формате MLX safetensors и требует vMLX версии 1.6.68 или новее. Модель предназначена для диалогов, рассуждений, задач с кодом, вызова инструментов и анализа изображений и видео. README приводит сравнительные измерения согласованности с исходной моделью и сообщает, что вторая ревизия лучше завершает длинные цепочки рассуждений, чем первая. Эти результаты получены на тестовых наборах и не гарантируют такое же качество на произвольных запросах. Распознавание содержимого видео описано как несовершенное: модель может принять текст наложения или перехода за часть самого клипа. Лицензия — MIT.

apurvaga/go-browse-wa-qwen-7B — языковая модель семейства Qwen2 с плотной архитектурой Qwen2ForCausalLM и примерно 7,1 млрд параметров. Она рассчитана на генерацию текста в диалоговом формате; метаданные также отмечают интерфейс вызова инструментов. Модель использует библиотеку Transformers и распространяется в формате safetensors. Размер её контекстного окна — 32 768 токенов. README не содержит сведений о разработчике, обучении, целевых сценариях или качестве модели. Условия лицензии в доступных данных не приведены.