II.10Разработка и эксплуатация AI/ML-систем
В разделе собраны самостоятельные задачи, где AI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
49 000 моделейAnubisLemonade-70B-v1-GGUF — это квантизированная версия текстовой генеративной модели AnubisLemonade-70B-v1, разработанной ockerman0. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix; модель распространяется в формате GGUF и предназначена для локального запуска. Модель содержит около 70 миллиардов параметров и работает в сценариях генерации текста, включая диалоговое взаимодействие и выполнение текстовых запросов. Она совместима с llama.cpp, LM Studio и другими проектами на базе llama.cpp. В README приведён специальный шаблон промпта с ролями system, user и assistant, а также указаны даты отсечения знаний и текущей даты для этого шаблона. Доступны варианты квантизации от Q8_0 до Q2_K_L, различающиеся размером файлов, требованиями к памяти и качеством генерации. Наиболее качественными и рекомендуемыми обозначены Q6_K, Q5_K_M, Q5_K_S, Q4_K_L, Q4_K_M, Q4_K_S и IQ4_XS; младшие варианты экономят память, но могут заметно снижать качество. Большой размер модели ограничивает запуск на устройствах с небольшим объёмом оперативной или видеопамяти. Сведения о поддерживаемых языках, длине контекста, мультимодальности и лицензии в README не указаны.
Ornith-1.5-35B-A3B-Vision-MTPLX-4bit — квантизированный производный релиз модели ornith-ai/Ornith-1.5-35B-A3B, опубликованный zwcf5200. Модель предназначена для задач преобразования изображений и текста в текст, включая визуальный анализ и чтение графиков, и рассчитана на запуск через MLX/oMLX на устройствах Apple Silicon. Она сохраняет штатную vision tower и одност layer MTPLX head для multi-token prediction и speculative decoding. В основе используется mixture-of-experts архитектура Qwen3_5MoeForConditionalGeneration с 35 млрд параметров, из которых примерно 3 млрд активируются на токен. Основная модель и runtime sidecar MTP выполнены в 4-битной affine-квантизации с размером группы 64; компоненты vision и нормализации используют BF16. В README указан английский язык, а поддержка контекстов продемонстрирована на длине до 32 768 токенов. Рекомендуемая глубина MTP для смешанных визуально-текстовых запросов — 2. Сильными сторонами являются мультимодальность, MoE-эффективность, снижение требований к памяти благодаря 4-битной квантизации и ускорение генерации с MTP примерно на 20–22% в локальных тестах на Mac Studio с M3 Ultra. При этом MTP увеличивает пиковое потребление памяти примерно на 1,7–1,75 ГБ, а результаты зависят от конфигурации, размера пакета и программного стека; приведённые показатели являются локальными измерениями, а часть тестов пакетной обработки не является контролируемым сравнением. Модель распространяется по лицензии MIT.
Это квантизированная в формате GGUF NVFP4 версия мультимодальной модели Qwen3.5-35B-A3B от Alibaba, подготовленная владельцем репозитория из весов BF16 с помощью llama.cpp. Модель содержит около 35 млрд параметров в общей сложности, из которых активируется около 3 млрд на токен, и поддерживает диалог и анализ изображений.
Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive OptiQ 6bpw MLX — это текстовая версия модели, разработанная dawncr0w на основе bf16-сборки ericpandev, которая, в свою очередь, создана на базе оригинальной модели HauhauCS. Модель предназначена для генерации текста и локального запуска в экосистеме MLX, включая сценарии работы через mlx_lm. Сборка использует смешанную квантизацию OptiQ с целевой точностью 6 бит на вес и фактическим показателем 6,12 BPW. Применены группы размера 64, калибровка по 24 образцам и распределение 163 высокоточных и 228 низкобитных слоёв. Размер модели составляет 18,64 GiB. В README не указаны языки, размер контекста и точная архитектура; из названия и исходной модели известно обозначение 35B-A3B, но его внутреннюю структуру нельзя подтвердить по приведённым данным. Модель ориентирована только на работу с текстом: визуальные компоненты исходной мультимодальной модели исключены, а встроенный MTP отключён. Квантизация уменьшает требования к памяти, однако может снижать точность по сравнению с исходной bf16-версией. Распространяется по лицензии Apache-2.0.
EgorKodin/Qwen3.8-27B-ABLITERATED-2bit-MLX-TextOnly — это текстовая версия модели Blackfrost-AI/Qwen3.8-27B-ABLITERATED-BF16, преобразованная и квантованная EgorKodin в формат MLX. Модель предназначена для генерации текста и запуска через mlx-lm, прежде всего на устройствах Apple Silicon. Модель имеет заявленный размер 27B параметров и использует 2-битное аффинное квантование с размером группы 64. Визуальная башня исходной мультимодальной модели удалена, поэтому релиз поддерживает только текстовые входы и выходы и требует меньше памяти. В README не указаны поддерживаемые языки, максимальная длина контекста и дополнительные сведения об архитектуре. Ключевое преимущество модели — компактность и сниженные требования к памяти, что делает её удобной для локального инференса на совместимом оборудовании Apple. Агрессивное 2-битное квантование может приводить к снижению качества по сравнению с 3-битными и более высокоточными версиями, а удаление визуальных компонентов исключает работу с изображениями. Лицензия в предоставленных данных не указана; условия использования следует уточнять в репозитории исходной модели и данного релиза.
Qwopus-GLM-18B-Healed-i1-GGUF — это квантизированная GGUF-версия модели Qwopus-GLM-18B-Healed, разработанной Jackrong и подготовленной квантизатором mradermacher. Модель относится к типу qwen3_5, имеет около 18 млрд параметров и предназначена для генерации текста и диалогового взаимодействия. В метаданных также заявлена поддержка сценариев рассуждения, работы с агентами и инструментами, однако подробные результаты тестирования не приведены. Модель поддерживает английский, китайский, корейский, японский, французский, немецкий и испанский языки. README указывает, что это vision-модель, поэтому она может использовать визуальные входы при наличии соответствующего multimodal-проектора, но сведения о поддерживаемых форматах изображений и конкретных возможностях анализа изображений отсутствуют. Длина контекста также не указана. Репозиторий содержит варианты квантизации от экстремально компактных IQ1 до Q6_K размером примерно от 4,5 до 13,1 ГБ. Это позволяет выбирать компромисс между требованиями к памяти, скоростью и качеством; для общего использования автор рекомендует i1-Q4_K_M, а i1-Q4_K_S отмечает как удачный баланс размера, скорости и качества. Сильными сторонами являются многоязычность, поддержка текстовых и, вероятно, визуальных сценариев, а также возможность локального запуска через формат GGUF. Ограничениями выступают потери качества у низкобитных вариантов, отсутствие заявленной длины контекста и бенчмарков, а также необходимость совместимого ПО и multimodal-компонентов для работы с изображениями. Лицензия — Apache-2.0.
Scarlett-Llama-3-8B — разговорная языковая модель, дообученная ajibawa-2023 на базе Llama 3 8B от Meta. Она обучена на более чем 10 000 наборах диалогов по философии, советам, шуткам и программированию, а также предназначена для продолжительных бесед в формате ChatML. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров и поддерживает контекст до 8192 токенов. Карточка указывает английский язык и возможность генерировать код. Модель подходит для диалогового помощника, обсуждения философских вопросов, выдачи советов, шуток и помощи с кодом. Разработчик отмечает, что модель не предназначена для ролевых сценариев со взрослым или сексуальным содержанием. Лицензия указана как other, поэтому конкретные условия использования следует сверять с лицензией репозитория.
Seed-OSS-36B-Instruct-MLX-5bit — это 5-битная квантованная версия языковой модели Seed-OSS-36B-Instruct, разработанной ByteDance-Seed. Квантование выполнено командой LM Studio с использованием MLX и предназначено для запуска на компьютерах с Apple Silicon. Модель относится к классу text-generation и ориентирована на генерацию текста и выполнение инструкций в сценариях локального запуска. Она основана на модели размером 36 миллиардов параметров, однако сведения об архитектуре, поддерживаемых языках, модальностях и размере контекстного окна в README не указаны. Формат MLX оптимизирован для аппаратного обеспечения Apple Silicon, а 5-битное квантование должно снижать требования к памяти по сравнению с полноразмерной версией, при этом README не содержит количественной оценки потери качества или производительности. К сильным сторонам модели относятся возможность локального использования на Apple Silicon и уменьшенный объём хранения и памяти благодаря квантованию. Ограничения связаны с отсутствием в README подробных данных о качестве, бенчмарках, языковой поддержке и рекомендуемых ресурсах. В карточке указана лицензия Apache-2.0; модель является общественной квантованной сборкой, а её исходной моделью выступает ByteDance-Seed/Seed-OSS-36B-Instruct.
Sina-Loki-7b-Merge — экспериментальная объединённая языковая модель из серии DARE merges. Репозиторий содержит веса в формате Safetensors; по метаданным модель построена на плотной архитектуре MistralForCausalLM с 7,1 млрд параметров и контекстом до 32 768 токенов. Она предназначена для генерации текста. Модель опубликована Azazelle по лицензии CC BY 4.0.
StrangeMerges_50-7B-slerp — текстовая генеративная модель, созданная Gille путём слияния liminerity/M7-7b и Gille/StrangeMerges_49-7B-dare_ties с помощью LazyMergekit. Для объединения использован метод SLERP с настройками, меняющими вклад моделей по слоям и компонентам self-attention и MLP. Модель построена на архитектуре Mistral и содержит 7,1 млрд параметров. Она предназначена для генерации текста и диалога, принимает текст и выдаёт текст. Заявленная длина контекста — 32 768 токенов. В README приведены результаты на тестах AI2 Reasoning Challenge и HellaSwag. Модель распространяется в формате safetensors по лицензии Apache-2.0. README не уточняет поддерживаемые естественные языки и конкретные сценарии применения; результаты тестов сами по себе не гарантируют качество на других задачах.
TopEvolution — объединение предварительно обученных языковых моделей, созданное с помощью mergekit методом SLERP. В него вошли NousResearch/Hermes-2-Pro-Mistral-7B и mergekit-community/mergekit-slerp-ebgdloh; конфигурация использует V-образное распределение весов, отдавая Hermes предпочтение на входе и выходе и WizardMath в средних слоях. Модель построена на архитектуре MistralForCausalLM, содержит 7,1 млрд параметров и рассчитана на генерацию текста с контекстом до 32 768 токенов. Метаданные указывают формат safetensors и библиотеку Transformers. Она предназначена для генерации текста и может быть полезна для диалогов, следования инструкциям и математических запросов благодаря включению Hermes и WizardMath в слияние; конкретные показатели качества в карточке не приведены. Лицензия в предоставленных данных не указана.
Unlimited-OCR MLX — мультимодальная модель для распознавания и структурированного разбора документов, портированная на Apple MLX. Она основана на модели Unlimited-OCR команды Baidu PaddlePaddle и предназначена для работы на компьютерах Apple с чипами Silicon. Модель принимает изображения документов, включая страницы PDF и одно- или многостраничные изображения, распознаёт китайский, английский и другой многоязычный текст, извлекает таблицы и сохраняет структуру документа: абзацы, заголовки, списки и элементы разметки. Динамическое разбиение изображений позволяет обрабатывать документы произвольной длины в рамках последовательной обработки страниц. Доступны режимы повышенной точности с тайлингом и быстрого сканирования в одном масштабе. Архитектура включает визуальные кодировщики SAM-ViT-B и CLIP-L, объединяемые через проекционный слой, а также 12-слойную языковую модель DeepSeek-V2 MoE с 64 маршрутизируемыми и 2 общими экспертами. Всего модель содержит около 3,34 млрд параметров, поддерживает контекст до 32 768 токенов, использует FP16 и занимает примерно 6,2 ГБ. Модель оптимизирована для Apple Silicon и требует macOS 14 или новее, Python 3.10+ и MLX 0.20+. Сильные стороны модели — специализированная обработка документов, распознавание текста и таблиц, анализ компоновки, высокая точность соответствия исходной реализации и ускорение на Apple Silicon. Ограничения включают зависимость от платформы Apple Silicon, значительный объём модели и отсутствие подробных данных о качестве на независимых наборах. Модель распространяется по лицензии MIT.
Карточка модели alekshandru/gemma-4-12B на Hugging Face совпадает с карточкой google/gemma-4-12B, поэтому описание составлено по ней. Gemma 4 12B Unified — мультимодальная модель с открытыми весами, разработанная Google DeepMind и относящаяся к семейству Gemma 4. Она принимает текст, изображения, видео и аудио, а выдаёт текст; для аудио предусмотрены распознавание речи и перевод речи в текст. Единая архитектура позволяет обрабатывать аудио и изображения без отдельных энкодеров, что подходит для локального запуска на потребительских устройствах. Модель имеет плотную архитектуру и гибридное внимание, сочетающее локальные скользящие окна с глобальным вниманием; заявленное окно контекста для версии 12B — до 256 тысяч токенов. Модель предназначена для диалогов, рассуждений, генерации и исправления кода, вызова инструментов, а также понимания изображений, видео и аудио. Среди визуальных сценариев — извлечение текста из документов, OCR, разбор PDF, диаграмм и экранных интерфейсов; для аудио доступны транскрипция и перевод речи в текст. Семейство поддерживает более 35 языков в обычном использовании и обучалось на более чем 140 языках, но README не перечисляет конкретные языки этой версии. Модель распространяется по лицензии Apache 2.0. Как и другие генеративные модели, она может давать ошибочные ответы; README также указывает, что приведённые сценарии использования не являются исчерпывающими.
Gemma 4 12B Unified — мультимодальная плотная модель семейства Gemma 4, разработанная Google DeepMind и распространяемая под лицензией Apache 2.0. Она принимает текст, изображения, видео и аудио, а генерирует текст; унифицированная архитектура обрабатывает аудио и визуальные данные без отдельных энкодеров. Модель предназначена для локального запуска на потребительских устройствах, а также для серверов и рабочих станций. Модель подходит для диалога, генерации и анализа текста, программирования, рассуждений и сценариев с вызовом инструментов. Она может разбирать документы и PDF, распознавать текст и объекты на изображениях, понимать интерфейсы и диаграммы, анализировать видеокадры, распознавать речь и переводить речь в текст на другом языке. Для семейства заявлена поддержка контекста до 256 тыс. токенов и многоязычность; карточка указывает обучение более чем на 140 языках. Ограничения конкретной версии в предоставленных материалах подробно не описаны.
Gemma 4 12B IT — мультимодальная модель Google DeepMind с открытыми весами, настроенная для следования инструкциям. Она построена на плотной унифицированной архитектуре Gemma4Unified и принимает текст, изображения, видео и аудио, выдавая текст. Модель поддерживает анализ изображений и видеокадров, распознавание речи и перевод речи в текст, а также генерацию текста и кода, рассуждения и вызов инструментов. Модель рассчитана на локальный запуск на потребительских устройствах и сценарии с длинным контекстом; для семейства заявлено до 256 тысяч токенов у версии 12B. Gemma 4 поддерживает более 35 языков непосредственно и обучалась на данных более чем 140 языков. Лицензия — Apache 2.0. Карточка описывает семейство Gemma 4 в целом, поэтому отдельные характеристики и возможности конкретной версии могут зависеть от реализации и настроек.
Granite-3.3-2B-Instruct — языковая модель IBM Granite Team с 2,5 млрд параметров, дообученная на базе ibm-granite/granite-3.3-2b-base для следования инструкциям и решения задач, требующих рассуждений. Это плотная авторегрессионная модель для генерации текста с контекстом до 131 072 токенов; поддерживает чат и интерфейс вызова инструментов. Модель предназначена для ассистентов и бизнес-приложений. Она подходит для ответов на вопросы, суммаризации длинных документов и встреч, классификации и извлечения текста, RAG, задач по математике и программированию, а также многоязычного диалога. README указывает поддержку английского, немецкого, испанского, французского, японского, португальского, арабского, чешского, итальянского, корейского, нидерландского и китайского языков. По данным разработчика, модель улучшена в рассуждениях, выполнении инструкций, математике и программировании; для структурирования ответа доступны специальные маркеры рассуждений и итогового ответа. Это генеративная языковая модель, поэтому результаты могут содержать ошибки; ограничения базовой Granite-3.3-2B-Base также применимы. Лицензия — Apache 2.0.
Карточка модели Iambackup/gemma-4-12B на Hugging Face совпадает с карточкой google/gemma-4-12B, поэтому описание составлено по ней. Gemma 4 12B Unified — мультимодальная модель с открытыми весами, разработанная Google DeepMind и относящаяся к семейству Gemma 4. Она принимает текст, изображения, видео и аудио, а выдаёт текст; для аудио предусмотрены распознавание речи и перевод речи в текст. Единая архитектура позволяет обрабатывать аудио и изображения без отдельных энкодеров, что подходит для локального запуска на потребительских устройствах. Модель имеет плотную архитектуру и гибридное внимание, сочетающее локальные скользящие окна с глобальным вниманием; заявленное окно контекста для версии 12B — до 256 тысяч токенов. Модель предназначена для диалогов, рассуждений, генерации и исправления кода, вызова инструментов, а также понимания изображений, видео и аудио. Среди визуальных сценариев — извлечение текста из документов, OCR, разбор PDF, диаграмм и экранных интерфейсов; для аудио доступны транскрипция и перевод речи в текст. Семейство поддерживает более 35 языков в обычном использовании и обучалось на более чем 140 языках, но README не перечисляет конкретные языки этой версии. Модель распространяется по лицензии Apache 2.0. Как и другие генеративные модели, она может давать ошибочные ответы; README также указывает, что приведённые сценарии использования не являются исчерпывающими.
Карточка модели ArchiveStudio/gemma-4-12B-it на Hugging Face совпадает с карточкой google/gemma-4-12B-it, поэтому описание составлено по ней. Gemma 4 12B IT — мультимодальная модель Google DeepMind с открытыми весами, настроенная для следования инструкциям. Она построена на плотной унифицированной архитектуре Gemma4Unified и принимает текст, изображения, видео и аудио, выдавая текст. Модель поддерживает анализ изображений и видеокадров, распознавание речи и перевод речи в текст, а также генерацию текста и кода, рассуждения и вызов инструментов. Модель рассчитана на локальный запуск на потребительских устройствах и сценарии с длинным контекстом; для семейства заявлено до 256 тысяч токенов у версии 12B. Gemma 4 поддерживает более 35 языков непосредственно и обучалась на данных более чем 140 языков. Лицензия — Apache 2.0. Карточка описывает семейство Gemma 4 в целом, поэтому отдельные характеристики и возможности конкретной версии могут зависеть от реализации и настроек.
Карточка модели Terom/gemma-4-12B-it на Hugging Face совпадает с карточкой google/gemma-4-12B-it, поэтому описание составлено по ней. Gemma 4 12B IT — мультимодальная модель Google DeepMind с открытыми весами, настроенная для следования инструкциям. Она построена на плотной унифицированной архитектуре Gemma4Unified и принимает текст, изображения, видео и аудио, выдавая текст. Модель поддерживает анализ изображений и видеокадров, распознавание речи и перевод речи в текст, а также генерацию текста и кода, рассуждения и вызов инструментов. Модель рассчитана на локальный запуск на потребительских устройствах и сценарии с длинным контекстом; для семейства заявлено до 256 тысяч токенов у версии 12B. Gemma 4 поддерживает более 35 языков непосредственно и обучалась на данных более чем 140 языков. Лицензия — Apache 2.0. Карточка описывает семейство Gemma 4 в целом, поэтому отдельные характеристики и возможности конкретной версии могут зависеть от реализации и настроек.
RedHatAI/gemma-4-31B-it — инструктивная мультимодальная модель семейства Gemma 4, разработанного Google DeepMind и опубликованного Red Hat AI. Это плотная модель на 31 млрд параметров на архитектуре Gemma4ForConditionalGeneration, дообученная на основе google/gemma-4-31B; она принимает текст и изображения и генерирует текст. Вариант 31B предназначен для диалога, рассуждений, генерации и исправления кода, анализа изображений и работы с длинными запросами; поддерживает вызов инструментов и контекст до 256 тыс. токенов. Модель подходит для визуальных вопросов и ответов, распознавания текста и извлечения сведений из документов и изображений, понимания графиков и интерфейсов, а также для суммаризации, общения и помощи с кодом. Семейство Gemma заявляет поддержку более 140 языков при предварительном обучении и более 35 языков в прикладном использовании; README не уточняет точный языковой охват именно этого чекпойнта. Вариант 31B не заявлен как поддерживающий аудио, в отличие от малых моделей семейства. Весовые файлы доступны в формате safetensors, библиотека — Transformers. Лицензия — Apache 2.0.
Gemma 4 E2B — мультимодальная плотная модель с открытыми весами от Google DeepMind, принадлежащая семейству Gemma 4. Она принимает текст и изображения, а также аудио; генерирует текст. Семейство использует гибридное внимание с локальными скользящими окнами и глобальным вниманием. Для малых моделей, включая E2B, заявлено контекстное окно до 128 тысяч токенов. Модель предназначена для диалогов, рассуждений, генерации и исправления кода, суммаризации, понимания изображений и аудио, распознавания речи и перевода речи в текст. Она рассчитана на локальный запуск на мобильных устройствах и ноутбуках; семейство поддерживает многоязычные сценарии, включая более 35 языков в готовом виде. Модельные карточка описывает возможности семейства, поэтому отдельные характеристики E2B следует трактовать в его контексте. Репозиторий распространяется по лицензии Apache 2.0. Возможности включают OCR, разбор документов, анализ видео и вызов функций; описание аудиоподдержки для E2B подтверждает обработку аудио, а не генерацию речи. Качество ответов может зависеть от языка, сложности задачи и доступных вычислительных ресурсов; для критически важных сценариев результаты следует проверять.
Карточка модели bill861/gemma-4-12B-it на Hugging Face совпадает с карточкой google/gemma-4-12B-it, поэтому описание составлено по ней. Gemma 4 12B IT — мультимодальная модель Google DeepMind с открытыми весами, настроенная для следования инструкциям. Она построена на плотной унифицированной архитектуре Gemma4Unified и принимает текст, изображения, видео и аудио, выдавая текст. Модель поддерживает анализ изображений и видеокадров, распознавание речи и перевод речи в текст, а также генерацию текста и кода, рассуждения и вызов инструментов. Модель рассчитана на локальный запуск на потребительских устройствах и сценарии с длинным контекстом; для семейства заявлено до 256 тысяч токенов у версии 12B. Gemma 4 поддерживает более 35 языков непосредственно и обучалась на данных более чем 140 языков. Лицензия — Apache 2.0. Карточка описывает семейство Gemma 4 в целом, поэтому отдельные характеристики и возможности конкретной версии могут зависеть от реализации и настроек.
mlx-community/gemma-4-12B-it-8bit — 8-битная MLX-версия instruction-tuned модели Gemma 4 12B Unified, опубликованная сообществом mlx-community на основе модели Google DeepMind. Это открытая мультимодальная модель с генерацией текста и поддержкой текстовых, изображений, видео и аудио входов; вариант 12B поддерживает аудио непосредственно. Модель предназначена для диалогов, генерации и анализа текста, рассуждений, программирования, обработки документов и изображений, OCR, понимания видео, распознавания речи и агентских сценариев с function calling. Она использует encoder-free unified-архитектуру, содержит около 12 млрд параметров и распространяется в 8-битном представлении MLX. Для Gemma 4 12B заявлены контекст до 256K токенов, мультиязычная поддержка более 140 языков при обучении и готовая поддержка более 35 языков. Сильные стороны — сочетание текстовых, визуальных и аудиовозможностей, длинный контекст, режим рассуждений и локальное выполнение; ограничение данного варианта — зависимость от совместимого стека MLX и снижение точности представления по сравнению с полноразмерной версией из-за 8-битной квантизации. Карточка исходной модели указывает разработчика Google DeepMind и лицензию Apache 2.0; для Gemma также следует учитывать применимые условия использования Google. Репозиторий mlx-community содержит веса в формате Safetensors и инструкции для запуска через MLX.
Карточка модели OsGo/gemma-4-E2B на Hugging Face совпадает с карточкой google/gemma-4-E2B, поэтому описание составлено по ней. Gemma 4 E2B — мультимодальная плотная модель с открытыми весами от Google DeepMind, принадлежащая семейству Gemma 4. Она принимает текст и изображения, а также аудио; генерирует текст. Семейство использует гибридное внимание с локальными скользящими окнами и глобальным вниманием. Для малых моделей, включая E2B, заявлено контекстное окно до 128 тысяч токенов. Модель предназначена для диалогов, рассуждений, генерации и исправления кода, суммаризации, понимания изображений и аудио, распознавания речи и перевода речи в текст. Она рассчитана на локальный запуск на мобильных устройствах и ноутбуках; семейство поддерживает многоязычные сценарии, включая более 35 языков в готовом виде. Модельные карточка описывает возможности семейства, поэтому отдельные характеристики E2B следует трактовать в его контексте. Репозиторий распространяется по лицензии Apache 2.0. Возможности включают OCR, разбор документов, анализ видео и вызов функций; описание аудиоподдержки для E2B подтверждает обработку аудио, а не генерацию речи. Качество ответов может зависеть от языка, сложности задачи и доступных вычислительных ресурсов; для критически важных сценариев результаты следует проверять.
Карточка модели reckzit/gemma-4-E2B на Hugging Face совпадает с карточкой google/gemma-4-E2B, поэтому описание составлено по ней. Gemma 4 E2B — мультимодальная плотная модель с открытыми весами от Google DeepMind, принадлежащая семейству Gemma 4. Она принимает текст и изображения, а также аудио; генерирует текст. Семейство использует гибридное внимание с локальными скользящими окнами и глобальным вниманием. Для малых моделей, включая E2B, заявлено контекстное окно до 128 тысяч токенов. Модель предназначена для диалогов, рассуждений, генерации и исправления кода, суммаризации, понимания изображений и аудио, распознавания речи и перевода речи в текст. Она рассчитана на локальный запуск на мобильных устройствах и ноутбуках; семейство поддерживает многоязычные сценарии, включая более 35 языков в готовом виде. Модельные карточка описывает возможности семейства, поэтому отдельные характеристики E2B следует трактовать в его контексте. Репозиторий распространяется по лицензии Apache 2.0. Возможности включают OCR, разбор документов, анализ видео и вызов функций; описание аудиоподдержки для E2B подтверждает обработку аудио, а не генерацию речи. Качество ответов может зависеть от языка, сложности задачи и доступных вычислительных ресурсов; для критически важных сценариев результаты следует проверять.
Карточка модели kiiro14/gemma-4-E4B-it на Hugging Face совпадает с карточкой google/gemma-4-E4B-it, поэтому описание составлено по ней. Gemma 4 E4B Instruct — мультимодальная модель Google DeepMind, дообученная для следования инструкциям на базе google/gemma-4-E4B. Она использует плотную архитектуру Gemma 4 и принимает текст, изображения и аудио, выдавая текст; аудиовозможности заявлены для варианта E4B. Модель подходит для диалога, рассуждений, генерации и исправления кода, анализа изображений и документов, распознавания речи и перевода речи в текст. Поддерживаются системные инструкции, вызов инструментов и контекст до 128 тысяч токенов; семейство Gemma 4 поддерживает множество языков, включая более 35 языков в практических сценариях. Модель рассчитана в том числе на локальное исполнение на ноутбуках и мобильных устройствах, а гибридное внимание сочетает локальные окна и глобальное внимание для работы с длинным контекстом. Возможности видео описаны для семейства в целом, но README не подтверждает их отдельно для E4B; поэтому видео не включено в модальности этой модели. Лицензия — Apache 2.0.
Карточка модели Terom/gemma-4-E4B-it на Hugging Face совпадает с карточкой google/gemma-4-E4B-it, поэтому описание составлено по ней. Gemma 4 E4B Instruct — мультимодальная модель Google DeepMind, дообученная для следования инструкциям на базе google/gemma-4-E4B. Она использует плотную архитектуру Gemma 4 и принимает текст, изображения и аудио, выдавая текст; аудиовозможности заявлены для варианта E4B. Модель подходит для диалога, рассуждений, генерации и исправления кода, анализа изображений и документов, распознавания речи и перевода речи в текст. Поддерживаются системные инструкции, вызов инструментов и контекст до 128 тысяч токенов; семейство Gemma 4 поддерживает множество языков, включая более 35 языков в практических сценариях. Модель рассчитана в том числе на локальное исполнение на ноутбуках и мобильных устройствах, а гибридное внимание сочетает локальные окна и глобальное внимание для работы с длинным контекстом. Возможности видео описаны для семейства в целом, но README не подтверждает их отдельно для E4B; поэтому видео не включено в модальности этой модели. Лицензия — Apache 2.0.
Карточка модели TOTORONG/Bethesda_John5 на Hugging Face совпадает с карточкой Qwen/Qwen3.8-27B, поэтому описание составлено по ней. Qwen3.8-27B — плотная мультимодальная модель семейства Qwen от команды Qwen. Это постобученная причинная языковая модель с визуальным энкодером, содержащая 27 млрд параметров и построенная на архитектурной основе Qwen3.5. Репозиторий включает веса и конфигурацию в формате Hugging Face Transformers; модель также совместима с vLLM, SGLang и другими средами инференса. Лицензия — Apache-2.0. Модель предназначена для диалогов, программирования, профессиональных и исследовательских задач, а также многошаговых агентных сценариев. Она принимает текст, изображения и видео и умеет разбирать документы, диаграммы и длительные видеоматериалы. Режим рассуждения включён по умолчанию, его можно отключить для отдельного запроса, а глубину настраивать параметром reasoning_effort. Контекст составляет 262 144 токена и может расширяться до 1 000 000 токенов. Архитектура сочетает Gated DeltaNet, Gated Attention и FFN-блоки; предусмотрено обучение с Multi-Token Prediction. В карточке заявлены улучшения планирования и выполнения задач с учётом обратной связи среды, однако приведённые описания бенчмарков сами по себе не гарантируют качество в конкретном применении. Модель ориентирована на применение и распространяется по лицензии Apache-2.0.
trohrbaugh/gemma-4-12b-it-heretic — производная версия Gemma 4 12B от Google DeepMind, опубликованная trohrbaugh. Это плотная мультимодальная модель на архитектуре Gemma4Unified для диалогов, рассуждений, генерации и исправления кода, анализа изображений, видео и аудио. Вариант 12B принимает аудио, изображения и текст; также поддерживает видео через последовательности кадров. README семейства указывает контекст до 256K токенов для моделей 12B, но отдельные характеристики этого варианта подробно не описаны. Модель подходит для создания чат-ботов и помощников, суммаризации, разбора документов и PDF, OCR, анализа экранов и графиков, распознавания речи и перевода речи в текст. Семейство поддерживает более 35 языков «из коробки» и было предварительно обучено на более чем 140 языках; конкретный перечень языков для этой версии не приведён. Заявлены гибридное внимание с локальными и глобальными слоями, режим рассуждений и вызов инструментов. Модель помечена как uncensored/decensored/abliterated, поэтому предполагается ослабление части ограничений исходной модели; конкретное поведение этой версии в README не раскрыто. Как и другие генеративные модели, она может ошибаться в фактах, упускать языковые нюансы и воспроизводить смещения обучающих данных. Лицензия — Apache-2.0.
Карточка модели manojbillionaire123/gemma-4-E2B-it на Hugging Face совпадает с карточкой google/gemma-4-E2B-it, поэтому описание составлено по ней. Gemma 4 E2B IT — мультимодальная модель Google DeepMind, дообученная на основе google/gemma-4-E2B для выполнения инструкций. Она принимает текст, изображения и аудио, а выдаёт текст; подходит для диалогов, рассуждений, написания и исправления кода, распознавания речи и анализа визуального содержимого, включая документы, диаграммы и кадры видео. Модель использует плотную архитектуру Gemma 4 и рассчитана на локальное развёртывание, в том числе на устройствах с ограниченными ресурсами. Для малых моделей семейства заявлено контекстное окно до 128 тысяч токенов; Gemma 4 поддерживает множество языков. Модель поддерживает вызов инструментов и режим рассуждений. Google DeepMind указывает сценарии использования для создания контента, диалоговых помощников, суммаризации, извлечения сведений из изображений и работы с аудио. Репозиторий содержит веса Safetensors, модель использует библиотеку Transformers и распространяется по лицензии Apache 2.0. Качество ответов может зависеть от языка, сложности задачи и входных данных; описание не приводит отдельных оценок для этой версии.