II.10Разработка и эксплуатация AI/ML-систем

Карточка модели unsloth/codegemma-2b на Hugging Face совпадает с карточкой unsloth/codegemma-7b-it, поэтому описание составлено по ней. unsloth/codegemma-7b-it — разговорная версия CodeGemma от Google, представленная Unsloth в виде модели для генерации текста. Репозиторий содержит плотную авторегрессионную модель Gemma с 8,2 млрд параметров, рассчитанную на диалог и дополнение текста; максимальный контекст составляет 8192 токена. В метаданных указана поддержка английского языка и формат safetensors. Модель подходит для диалоговых приложений и генерации продолжений текста, в частности в сценариях, связанных с кодом, для которых предназначено семейство CodeGemma. Карточка Unsloth описывает ноутбуки для дообучения Gemma и форматы шаблонов ChatML и Vicuna, но не приводит результатов оценки качества именно этого чекпойнта. Модель распространяется по лицензии Apache-2.0.

CodeGemma 7B — модель для генерации и автодополнения программного кода, разработанная Google. Она предназначена прежде всего для сценариев fill-in-the-middle: дополнения фрагмента между заданным префиксом и суффиксом, работы в инструментах наподобие Copilot и использования в редакторах кода, где важны быстрые подсказки. Модель не является чатовой или instruct-моделью и не предназначена для ответов на вопросы в диалоговом формате. Модель содержит около 7 млрд параметров и основана на Gemma. Распространяемая версия представлена в формате GGUF; квантизацию выполнил bartowski на основе llama.cpp. Для управления генерацией используются специальные токены <|fim_prefix|>, <|fim_suffix|>, <|fim_middle|> и <|file_separator|>, позволяющие передавать контекст текущего файла и нескольких файлов. README не указывает точный набор поддерживаемых языков программирования, размер контекста или перечень модальностей; по назначению модель является текстовой и ориентирована на код. Сильные стороны CodeGemma 7B — компактный размер для модели такого класса, высокая скорость появления автодополнений и способность восстанавливать пропущенные участки кода с учётом окружающего контекста. Ограничения состоят в том, что модель нельзя использовать как обычного чат-ассистента, а сгенерированный код может содержать ошибки и требует проверки. Доступ к оригинальной модели на Hugging Face регулируется лицензией Google Gemma; в метаданных указана лицензия gemma и ссылка на условия использования Google.

Salesforce CodeGen-Mono 2B — авторегрессионная языковая модель для генерации программного кода. Это плотная модель семейства CodeGen с примерно 2 млрд обучаемых параметров; репозиторий содержит веса PyTorch. Вариант Mono сначала инициализирован из CodeGen-Multi 2B, а затем дополнительно предобучен на наборе BigPython, содержащем 71,7 млрд токенов Python. Модель принимает текстовые подсказки на естественном языке и фрагменты кода, продолжает незавершённый код и вычисляет правдоподобие текстовых последовательностей. Основное назначение — синтез исполняемого кода по англоязычным подсказкам, обычно оформленным как комментарии; модель оценивали на HumanEval и MTPB. Контекст составляет 2048 токенов. Лицензия — BSD 3-Clause. Модель выпущена для исследовательского использования; качество, безопасность и справедливость для конкретных сценариев требуют отдельной оценки.

Bud Code Millenials 13B — языковая модель для генерации кода, разработанная Bud Ecosystem и дообученная для задач программирования. Это плотная авторегрессионная модель семейства Llama с 12,9 млрд параметров, рассчитанная на контекст до 16 384 токенов. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Модель предназначена для генерации фрагментов кода по текстовому описанию и помощи в программировании. В README заявлен результат 76,21 pass@1 на HumanEval; это показатель из карточки разработчика, приведённый без независимой проверки. Модель может ошибаться и хуже справляться с задачами вне программирования. Лицензия — Llama 2.

code-nothink-q8b-20260908 — модель для генерации кода, созданная на основе Qwen/Qwen3-8B-Base. Это плотная авторегрессионная модель семейства Qwen3 с 7,6 млрд параметров; LoRA-дообучение на парных данных NoThink code SFT слито с основными весами bf16. Репозиторий содержит веса в формате safetensors и специальный комплект токенизатора для оценки; контекст модели по метаданным — 32 768 токенов. Модель предназначена для генерации кода без режима рассуждений и решения задач программирования. В оценке LiveCodeBench DEV256 в режиме NoThink она показала средний pass@1 30,1% по двум запускам против 22,7% у базовой модели; авторы отмечают заметные колебания результата между seed и описывают данные как исследовательские, а не подтверждающие. Для инференса README рекомендует использовать токенизатор и chat template из этого репозитория. Лицензия — Apache-2.0.

TroyDoesAI/Codestral-21B-Pruned — прореженная версия Codestral, созданная TroyDoesAI. Из исходной модели удалены два слоя: автор сообщает, что размер сократился с 22,2 до 21,5 млрд параметров без заметной потери качества. Метаданные указывают 21,3 млрд параметров, архитектуру MistralForCausalLM и контекст до 32 768 токенов. Модель предназначена для генерации текста и кода, в том числе для локального запуска при ограниченной памяти. Репозиторий содержит веса Safetensors для библиотеки Transformers. Указана лицензия Apache-2.0. Карточка не приводит результатов тестов, поэтому заявление о сохранении качества не подтверждено сравнительными оценками.

CodeT5+ 770M — разработанная Salesforce модель для понимания и генерации кода. Она использует архитектуру encoder-decoder семейства T5 и предназначена для задач преобразования текста и кода, включая генерацию кода по описанию, дополнение кода, поиск соответствий между текстом и кодом и генерацию с использованием найденных фрагментов. Модель загружается через T5ForConditionalGeneration; предобучение включало span denoising, causal language modeling, contrastive learning и сопоставление текста с кодом. Чекпойнт обучен на очищенной выборке GitHub-кода с разрешительными лицензиями и поддерживает C, C++, C#, Go, Java, JavaScript, PHP, Python и Ruby. Метаданные указывают 385,2 млн параметров и контекст длиной 512 токенов. Лицензия репозитория — BSD-3-Clause. Модель оценивалась на задачах понимания и генерации кода, однако приведённые в карточке отдельные результаты для HumanEval относятся к InstructCodeT5+ 16B, а не к этому чекпойнту. Авторы позиционируют выпуск для исследований и рекомендуют проверять точность и безопасность перед применением; ошибки возможны, особенно в сценариях с высокими последствиями.

ConvMixer 1536/20 — модель классификации изображений из библиотеки timm, обученная авторами статьи на ImageNet-1k. Она использует архитектуру ConvMixer и предназначена для отнесения изображения к одному из классов; также модель можно использовать как основу для извлечения признаков и эмбеддингов изображений. Модель содержит 51,6 млн параметров и рассчитана на изображения размером 224 × 224 пикселя. Репозиторий содержит веса PyTorch и safetensors. Модель распространяется по лицензии MIT.

convnext_pico.d1_in1k — сверточная модель классификации изображений семейства ConvNeXt, обученная Россом Уайтменом с помощью библиотеки timm на ImageNet-1k. Число параметров составляет около 9 млн; модель рассчитана на классификацию изображений и может использоваться как базовая сеть для извлечения признаковых карт и эмбеддингов изображений. Модель обучалась на изображениях размером 224 × 224, а для оценки применяется размер 288 × 288. Она подходит для распознавания объектов и категорий на изображениях, а также для получения визуальных признаков в прикладных системах компьютерного зрения. Репозиторий содержит веса PyTorch и safetensors; лицензия — Apache-2.0.

ConvNeXt Small — сверточная модель для классификации изображений, опубликованная авторами статьи «A ConvNet for the 2020s» и доступная в библиотеке timm. Модель предварительно обучена на ImageNet-22k; в ней 66,3 млн параметров, а рекомендуемый размер входного изображения — 224 × 224 пикселя. Её можно использовать для определения классов на изображениях, извлечения карт признаков и получения эмбеддингов изображений. Это универсальная визуальная модель, не ориентированная на конкретную прикладную область или естественный язык. В репозитории доступны веса PyTorch и Safetensors; лицензия — Apache-2.0.

NVIDIA C-RADIOv2-G — модель извлечения визуальных признаков на архитектуре Vision Transformer. Она преобразует RGB-изображения в тензорные эмбеддинги для последующего использования в приложениях компьютерного зрения. Модель предназначена для разработчиков систем анализа изображений и может служить источником признаков для классификации, сегментации, оценки глубины и интеграции в vision-language-модели. Модель возвращает сводный вектор для представления изображения целиком и пространственные признаки для локализованного анализа. Поддерживаются изображения размером до 2048×2028 пикселей с шагом 16. В семействе C-RADIOv2 есть варианты разных размеров; для G в карточке приведено 1,8 млрд параметров. Обучение проводилось на 700 млн изображений из NV-CC-Img-Text-Dataset, оценка — на ImageNet. Для применения эмбеддингов требуется downstream-модель или приложение. Карточка сообщает о готовности к коммерческому и некоммерческому использованию, а также указывает лицензию other и необходимость соблюдать NVIDIA Open Model License Agreement.

Data2Vec-Audio-Large-960h — акустическая модель Facebook для автоматического распознавания английской речи. Это крупная Transformer-модель семейства data2vec с архитектурой Data2VecAudioForCTC и 402,7 млн параметров; она предварительно обучена и дообучена на 960 часах аудио из LibriSpeech. Модель принимает речь с частотой дискретизации 16 кГц и выводит текстовую транскрипцию. Модель предназначена для транскрибирования аудиозаписей и оценки систем распознавания речи на наборах LibriSpeech. В карточке приведены результаты WER 1,89 для раздела clean и 4,07 для other. Эти показатели относятся к указанной оценке на LibriSpeech и не гарантируют аналогичного качества на других данных. Модель распространяется в формате PyTorch по лицензии Apache-2.0. Она рассчитана на английскую речь и требует аудио с частотой 16 кГц; карточка не описывает поддержку других языков или сценариев работы.

DBRX Base — базовая большая языковая модель Databricks, обученная с нуля для продолжения текста. Это декодерный Transformer с архитектурой смеси экспертов: всего 132 млрд параметров, из которых для каждого входа активируются 36 млрд; модель выбирает 4 из 16 экспертов. Она обучена предсказанию следующего токена на 12 трлн токенов текста и кода, использует RoPE, GLU, grouped-query attention и токенизатор GPT-4 из tiktoken. Максимальная длина контекста — 32 768 токенов; модель принимает и выдаёт только текст. Модель предназначена для генерации продолжений на английском языке и коде, а также для дальнейшей тонкой настройки под специализированные задачи. Это базовая completion-модель, не обученная для интерактивного чата и не имеющая встроенных мультимодальных возможностей или вызова функций. Большая часть обучающих данных — на английском; Databricks не проверяла качество для других языков. Знания модели ограничены данными с отсечкой по декабрь 2023 года; ответы могут быть неточными, неполными, предвзятыми или оскорбительными. Лицензия — Databricks Open Model License с отдельной Acceptable Use Policy; модель заявлена для коммерческого и исследовательского применения с учётом этих условий.

DeBERTinha PT-BR XSmall — предварительно обученная языковая модель семейства DeBERTa-V3, разработанная командой sagui-nlp для бразильского португальского. В репозитории указано около 40 млн параметров; метаданные каталога содержат оценку 47,6 млн. Модель рассчитана на извлечение признаков из текста и получение текстовых представлений, которые можно использовать в качестве эмбеддингов. Модель подходит для построения эмбеддингов и как основа для задач анализа текста на бразильском португальском. В карточке названы обучающие корпуса BrWaC и Corpus Carolina. Длина контекста составляет 512 токенов; модель доступна для Transformers в форматах PyTorch и safetensors. В README отмечено, что на несбалансированных наборах данных результаты могут быть слабыми; для улучшения обучения авторы рекомендуют, среди прочего, масштабирование функции потерь и weight decay. Лицензия модели — MIT.

Это пакет слоёв GGUF модели DeepSeek-V3.1-UD-Q4_K_XL для распределённого запуска в Mesh LLM. Пакет подготовлен из unsloth/DeepSeek-V3.1-GGUF и содержит модель, разделённую на артефакты по слоям для совместной обработки несколькими компьютерами. Модель предназначена для локального диалогового инференса, в том числе на нескольких узлах, когда полный файл модели трудно разместить на одной машине. Через локальный API Mesh LLM её можно использовать в сценариях, совместимых с OpenAI Chat Completions. Карточка указывает вариант квантования UD-Q4_K_XL; подробности об архитектуре, размере и лицензии следует сверять с карточкой исходной модели.

deepseekvit412m.deepseekv4flashvisionexp — визуальный энкодер на базе DeepSeek-V4-Flash-Vision-Exp, преобразованный в формат timm командой timm. Это нативное сопоставление весов исходной модели без дополнительного обучения; в репозитории нет весов языковой модели и обученной головы классификации. Модель извлекает признаки изображений для последующего использования в компьютерном зрении. Архитектура включает ViT с патчами 14×14, шириной 1024, блоками SwiGLU, RMSNorm и двумерным осевым RoPE без обучаемых абсолютных позиционных эмбеддингов. Модель содержит около 411,8 млн параметров; указанный размер изображения — 392×392. Она принимает RGB-изображения и выдаёт признаки или эмбеддинги изображения. Лицензия — MIT. Модель подходит как визуальный бэкбон для извлечения признаков и последующей адаптации под классификацию или другие задачи компьютерного зрения. Для классификации требуется обучить новую линейную голову на целевом наборе данных. Входные размеры по умолчанию должны делиться на 14; динамическое дополнение до размера патча не воспроизводит исходную политику адаптивного масштабирования. Предобработка timm также немного отличается от исходной: используется серое заполнение значением 128 вместо 127.

Это пакет слоёв GGUF-модели Devstral-Small-2505-UD-Q4_K_XL, подготовленный Mesh LLM для распределённого инференса. Он получен из unsloth/Devstral-Small-2505-GGUF и предназначен для запуска на локальном кластере Mesh LLM, когда вычисления и память нужно распределить между несколькими машинами. Модель поддерживает генерацию текста и диалоговый режим; Mesh LLM позволяет обращаться к ней через локальный API, совместимый с OpenAI Chat Completions. Вариант UD-Q4_K_XL использует квантованный формат GGUF, а репозиторий содержит веса, разделённые на артефакты по слоям. Размер модели, длина контекста и поддерживаемые языки в предоставленных данных не приведены. Лицензионные условия следует сверять с карточкой исходной модели unsloth/Devstral-Small-2505-GGUF.

facebook/dinov2-giant — модель Vision Transformer (ViT), обученная командой DINOv2 методом самообучения на большом наборе изображений. Это энкодер с архитектурой трансформера: изображение разбивается на фиксированные патчи, которые преобразуются в последовательность признаков. Модель содержит около 1,5 млрд параметров и доступна в форматах PyTorch и Safetensors. Модель предназначена для извлечения признаков изображений и получения представлений для последующих задач компьютерного зрения. Её можно использовать как основу для обучения классификатора на размеченных данных или для других downstream-сценариев; готовых дообученных выходных голов в чекпойнте нет. Принимает изображения и выдаёт их векторные представления. Лицензия — Apache-2.0.

Модель vblagoje/dpr-question_encoder-single-lfqa-base разработана Владимиром Благойевичем на архитектуре DPRQuestionEncoder. Она преобразует вопросы в векторные представления с использованием выходов pooler трансформера и предназначена для поиска подходящих ответов в системе извлечения информации по длинным вопросам и ответам (LFQA). Модель дообучена на парах вопросов и ответов из набора LFQA с использованием PAQ-предобученного чекпойнта и FAIR dpr-scale. В метаданных указаны 136,7 млн параметров, контекст до 512 токенов, поддержка английского языка и лицензия MIT. Для поиска ответов её используют вместе с соответствующим DPR-кодировщиком контекстов; на бенчмарке KILT для LFQA-системы сообщаются R-precision 6,69 и Recall@5 14,5.

EfficientNet-EdgeTPU — сверточная модель классификации изображений из семейства EfficientNet, опубликованная в библиотеке timm. Версия efficientnet_es_pruned.in1k получена разрежением весов исходной модели методом knapsack pruning и обучена для классификации ImageNet-1k. В модели около 5,4 млн параметров; для входного изображения указано разрешение 224 × 224 пикселя. Модель предназначена для классификации изображений и может использоваться как визуальная основа для извлечения карт признаков и эмбеддингов. Архитектура EdgeTPU и уменьшенный размер делают её подходящей для задач компьютерного зрения с ограниченными ресурсами. Репозиторий содержит веса PyTorch и safetensors; лицензия — Apache-2.0. Ограничение: карточка описывает обучение на ImageNet-1k, поэтому качество на других наборах данных и задачах отдельно не подтверждено.

kittn/eupe_vits16 — конверсия EUPE ViT-S/16 в формат Hugging Face Transformers на базе DINOv3, опубликованная пользователем kittn. Модель предназначена для извлечения признаков изображений; её можно использовать как визуальный энкодер для получения представлений изображения и патчей через last_hidden_state. Архитектура — ViT-S/16 с 28,3 млн параметров, 12 слоями, скрытым размером 384, шестью головами внимания, четырьмя register-токенами и размером патча 16. Репозиторий содержит веса safetensors. Для минимального расхождения с исходным путём инференса README рекомендует запуск на CUDA с bf16 autocast. Реализация RoPE в стандартном Hugging Face DINOv3 согласована сама с собой, но без дополнительной правки не совпадает побитно с эталонной реализацией EUPE/DINOv3. Лицензия указана как other, поэтому конкретные права использования по имеющимся сведениям определить нельзя. Модель принимает изображения и выдаёт признаки-векторы; естественные языки для неё не применимы.

Модель Yhhhhhhhhh/final-tc-deepseek-coder-1.3b-instruct — дообученная версия DeepSeek Coder 1.3B Instruct, созданная на основе deepseek-ai/deepseek-coder-1.3b-instruct с использованием набора данных, названного в карточке «output dataset». Это плотная авторегрессионная модель семейства Llama с 1,3 млрд параметров, предназначенная для генерации текста в диалоговом формате; каталог отмечает поддержку чата. Модель работает с контекстом до 16 384 токенов и распространяется в формате Safetensors через Transformers. Основной сценарий применения — генерация и дополнение программного кода по запросам и инструкциям. Карточка сообщает значение loss 0,2609 на оценочном наборе, но не описывает его состав и методику оценки, поэтому по этому числу нельзя судить о качестве в конкретных задачах. Лицензия указана как other; конкретные условия использования в предоставленных данных не раскрыты.

Fun-ASR-Nano-GGUF — версия модели автоматического распознавания речи Fun-ASR-Nano, разработанная командой FunAudioLLM. Она предназначена для преобразования аудио в текст, прежде всего для китайской и английской речи, а также для локального запуска на CPU и периферийных устройствах без Python через runtime FunASR на базе llama.cpp. Модель подходит для офлайн-распознавания, встраиваемых приложений и сценариев, где важны автономность и единый C++-бинарник. Архитектура включает аудиоэнкодер SenseVoice SAN-M, adaptor и декодер на базе Qwen3-0.6B. Распространяется в формате GGUF: энкодер имеет размер около 470 МБ, а LLM-декодер доступен в вариантах Q4_K_M примерно на 484 МБ, Q5_K_M на 551 МБ и Q8_0 на 805 МБ. Для работы необходимы как файл энкодера, так и файл декодера; в рекомендуемом сценарии также используется FSMN-VAD. В README не указаны размер контекста и дополнительные модальности. Сильными сторонами являются CPU-ориентированное развертывание, отсутствие зависимости от Python и несколько уровней квантования с небольшим различием в качестве. На указанном тесте из 184 китайских аудиофрагментов получен показатель CER от 8,25% до 8,35% в зависимости от квантования, однако это ограниченный бенчмарк, поэтому результаты не гарантируют такое же качество на других данных, языках и условиях записи. Более компактные варианты экономят память, но могут немного уступать по точности. Модель распространяется по лицензии Apache-2.0.

Functionary Small v2.5 — языковая модель семейства Llama, разработанная MeetKai для диалогов с вызовом функций и плагинов. Модель имеет 7,5 млрд параметров, использует плотную архитектуру и контекст до 8192 токенов; в репозитории представлены веса Safetensors. Лицензия — MIT. Модель принимает сообщения диалога и определения функций в формате JSON Schema, представленные в шаблоне Functionary, и генерирует текстовые ответы или вызовы инструментов. Она умеет выбирать, когда вызвать функцию, выполнять вызовы последовательно или параллельно, учитывать результаты инструментов в ответе и продолжать беседу без инструментов, когда они не нужны. В карточке также заявлена поддержка code interpreter. Модель подходит для создания чат-ассистентов, которым нужно обращаться к внешним API, плагинам или интерпретатору кода. Для запуска разработчик рекомендует OpenAI-совместимый сервер vLLM; для удобного разбора сырых ответов предлагается пользовательский код. Карточка не приводит сравнительных оценок качества, поэтому заявления о превосходстве над другими моделями следует считать утверждениями автора.

unsloth/gemma-2-2b-it-bnb-4bit — 4-битная квантованная версия Gemma 2 2B Instruct, опубликованная Unsloth на базе модели Google Gemma 2. Модель предназначена для диалоговых сценариев, генерации и завершения текста, а также дообучения на пользовательских наборах данных с использованием Transformers и bitsandbytes. Модель содержит около 2 миллиардов параметров, использует архитектуру Gemma 2 и поддерживает английский язык. В README не указаны модальности, размер контекста и конкретные показатели качества. Ключевая особенность — прямая 4-битная квантизация, снижающая требования к памяти и подходящая для запуска и дообучения на ограниченных GPU-ресурсах, однако квантизация может повлиять на точность по сравнению с полноразмерной версией. README также не содержит подробных сведений об ограничениях применения. Модель распространяется по лицензии Gemma. Для работы рекомендуется библиотека Transformers, при этом в README отдельно указана необходимость использовать её dev-версию.

Gemma-4-26B-A4B-it-NVFP4 — это версия Google Gemma 4, подготовленная FusenAI в формате modelopt и оптимизированная для запуска через vLLM на GPU NVIDIA Blackwell (SM120). Модель предназначена для генерации текста и использует архитектуру MoE. Она подходит для локального и серверного инференса, включая сценарии с высокой параллельной нагрузкой. Модель применяет квантизацию NVFP4 с размером группы 16 к экспертам MoE и MLP-слоям, тогда как self-attention, router, vision tower и lm_head сохранены в BF16. Размер весов составляет около 17,2 GiB, размер на диске — около 17 GB. README не указывает полный набор поддерживаемых языков, точное число параметров активной части или максимальный контекст; в примерах используется длина контекста 4096 токенов. Модель поддерживает текстовую генерацию, а наличие vision tower указывает на мультимодальные компоненты, однако их сценарии использования в README не описаны. К сильным сторонам относятся сниженное потребление памяти, сохранение attention-слоёв в BF16 для уменьшения потерь качества и высокая производительность на RTX 5090 при использовании CUDA Graphs. Ограничения включают необходимость совместимого оборудования NVIDIA Blackwell или новее, vLLM 0.19.x с параметром modelopt и соответствующими исправлениями, а также зависимость производительности от конфигурации KV-кэша: FP8 увеличивает его ёмкость, но снижает скорость обработки отдельных запросов. Модель распространяется по лицензии Apache 2.0 и наследует лицензионные условия Gemma 4 от Google.

Карточка модели ashton25549/gemma-4-26B-A4B-it-UD-Q4_K_M-layers на Hugging Face совпадает с карточкой meshllm/gemma-4-26B-A4B-it-UD-Q4_K_M-layers, поэтому описание составлено по ней. Это пакет Gemma 4 26B A4B IT в формате GGUF, подготовленный Mesh LLM для распределённого инференса. Он содержит веса варианта UD-Q4_K_M, разбитые на артефакты по слоям для запуска модели на кластере из нескольких локальных машин. Модель предназначена для генерации текста и диалогов через Mesh LLM, включая локальную подачу запросов через совместимый с OpenAI API. Такое разбиение позволяет распределять вычисления и память между узлами, когда полного файла GGUF не помещается на одном компьютере. Пакет основан на unsloth/gemma-4-26B-A4B-it-GGUF; сведения об архитектуре, контекстном окне, языках и лицензии следует сверять с карточкой исходной модели.

Это пакет Gemma 4 26B A4B IT в формате GGUF, подготовленный Mesh LLM для распределённого инференса. Он содержит веса варианта UD-Q4_K_M, разбитые на артефакты по слоям для запуска модели на кластере из нескольких локальных машин. Модель предназначена для генерации текста и диалогов через Mesh LLM, включая локальную подачу запросов через совместимый с OpenAI API. Такое разбиение позволяет распределять вычисления и память между узлами, когда полного файла GGUF не помещается на одном компьютере. Пакет основан на unsloth/gemma-4-26B-A4B-it-GGUF; сведения об архитектуре, контекстном окне, языках и лицензии следует сверять с карточкой исходной модели.

Квантованный мультимодальный checkpoint базовой модели google/gemma-4-26B-A4B-it, разработанной Google. Данный вариант опубликован пользователем dhruvil237 и предназначен для задач генерации текста и обработки изображений совместно с текстовыми запросами, включая мультимодальный inference и развёртывание через vLLM. Модель использует архитектуру Gemma 4 с MoE-компонентами и имеет обозначение 26B A4B. Применена GPTQ-квантизация только весов W4A16: 4-битные знаковые симметричные групповые веса и активации в формате bfloat16, размер группы — 64. Экспорт выполнен в формате compressed-tensors/pack-quantized; калибровка проводилась на смешанных текстовых и изображенческих данных. Сильными сторонами являются существенно сниженные требования к памяти и поддержка текстовой и визуальной модальностей. Для работы требуется совместимая версия vLLM с поддержкой квантованных MoE Gemma 4; README не содержит сведений о языках, размере контекста и лицензии.

Это модель извлечения признаков изображений: визуальный энкодер ViT из мультимодальной языковой модели Google Gemma 4 E4B-it, опубликованный в формате для библиотеки timm. Веса перенесены напрямую из исходной модели; автор заявляет о побитовом совпадении выходов с реализацией Gemma4VisionModel в Hugging Face Transformers на одинаковых входах. Архитектура — специализированный Vision Transformer с двумерным RoPE, gated MLP с GELU-tanh, RMS-нормализацией Q/K/V и пространственным soft-token pooling. Модель содержит 167,4 млн параметров и рассчитана на изображения 768 × 768. Поддерживает переменное разрешение в стиле NaFlex, а также входные изображения и предварительно разбитые на патчи тензоры с координатами и маской валидности. Энкодер предназначен для получения карт признаков и эмбеддингов изображений, которые можно использовать в последующих системах компьютерного зрения или мультимодальных конвейерах. Он принимает изображения, а на выходе формирует векторные представления. Лицензия — Apache 2.0.