I.4Обработка документов и форм

R1-Onevision — мультимодальная модель с 7,1 млрд параметров, разработанная Zhejiang University и дообученная на базе Qwen2.5-VL-7B-Instruct на наборе данных R1-Onevision. Она предназначена для понимания изображений и визуальных рассуждений в диалоговом формате; поддерживает обработку визуальных входов и генерацию текстовых ответов. Архитектура — плотная Qwen2.5-VLForConditionalGeneration, формат весов — safetensors, контекст — до 128 000 токенов. Модель подходит для ответов на вопросы об изображениях и решения задач, требующих визуального анализа и рассуждений. Разработчики также описывают работу над обучением с мультимодальными данными рассуждений, но карточка не приводит результатов бенчмарков. Лицензия — Apache-2.0.

Reka Edge — компактная мультимодальная модель на 7 млрд параметров от Reka AI для анализа изображений и видео с генерацией текстовых ответов. Она построена на плотной архитектуре Yasa2 и работает через Transformers; для загрузки требуется включить trust_remote_code из-за пользовательской реализации архитектуры. Модель предназначена для визуальных вопросов и ответов, анализа видео, обнаружения объектов по текстовому запросу и сценариев с использованием инструментов. Также поддерживает текстовые запросы без изображения. Разработчик заявляет о высокой скорости и экономном использовании токенов; в README приведены результаты бенчмарков по VQA, видеоанализу, обнаружению объектов и использованию инструментов. Модель не поддерживает reasoning. Для локального запуска указаны требования от 24 ГБ памяти, а квантование позволяет использовать её на устройствах с меньшими ресурсами. Весами можно пользоваться коммерчески при годовой выручке менее 1 млн долларов США; это ограничение лицензии следует учитывать при внедрении. Для macOS в README рекомендована версия Transformers 4.57.3: другие версии могут вызывать ошибки загрузки или некорректную работу.

uer/roberta-base-chinese-extractive-qa — китайская модель для извлекающего ответа на вопросы, разработанная UER и дообученная средствами UER-py. Она находит ответ в предоставленном тексте, поэтому подходит для поиска фактических ответов в китайских документах и фрагментах текста. Модель построена на архитектуре BERT, содержит около 129,5 млн параметров и рассчитана на контекст до 512 токенов. При дообучении использовались обучающие части наборов CMRC2018, WebQA и LaSi. Модель поддерживает китайский язык; веса доступны в форматах PyTorch, TensorFlow и Flax. Это производный чекпойнт на базе RoBERTa для китайского языка. Лицензия в предоставленных данных не указана.

narendraalluri/slm-125m-sft — компактная плотная Llama-модель с 125,8 млн параметров, разработанная как демонстрация дообучения для ответов на вопросы по предоставленному фрагменту. Она формирует ответы только на основе контекста и должна отказываться, если нужной информации в нём нет. Для работы требуется точный шаблон запроса из карточки; рекомендуется жадное декодирование. Контекст модели — 1024 токена. Модель предназначена для извлечения ответов из документов и может использоваться как компонент RAG-системы: поиск и передача подходящего фрагмента остаются задачей внешней системы. Обучающие данные синтетические: вопросы и ответы созданы Google Gemini на основе фрагментов юридических, финансовых и общих текстов. Модель дообучена на narendraalluri/slm-125m-base, которая была предварительно обучена с нуля. На небольшой проверочной выборке модель верно отказывала в 67,2% случаев, когда ответа не было в контексте, и ошибочно отказывала в 12% случаев, когда ответ присутствовал. Она может уверенно придумывать сведения, особенно числа и направления изменений, поэтому ответы требуют проверки и не должны использоваться как юридическая или финансовая рекомендация. Лицензия — Apache-2.0; автор описывает модель как учебную демонстрацию, а не производственный инструмент.

SI-Lab/StepCount-7B-SFT-1M — мультимодальная модель на архитектуре Qwen2.5-VL с 7,1 млрд параметров, предназначенная для диалога по изображениям и тексту. Это финальный чекпойнт продолженного supervised fine-tuning модели SI-Lab/StepCount-7b-SFT-1M-ckpt3450 на наборе данных SFT_StepCount_merged_7500_plus_11_50; обучение завершено на шаге 476. Модель принимает изображения и текстовые запросы и формирует текстовые ответы. Метаданные указывают контекст длиной до 128 000 токенов и поддержку vision и chat. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Лицензия обозначена как other, поэтому конкретные условия использования следует проверять в карточке модели и связанных лицензиях.

Карточка модели tokyotech-llm/Swallow-13b-instruct-hf на Hugging Face совпадает с карточкой tokyotech-llm/Swallow-13b-hf, поэтому описание составлено по ней. Swallow-13b-hf — базовая языковая модель TokyoTech-LLM, созданная на основе семейства Llama 2 посредством продолжения предварительного обучения с добавлением преимущественно японских текстов. Это плотная авторегрессионная модель архитектуры LlamaForCausalLM с 12,9 млрд параметров, предназначенная для генерации текста и последующей адаптации под прикладные задачи. Версия использует расширенный на японских данных словарь токенизатора, который эффективнее представляет японский текст и может ускорять вывод. Модель принимает текст и генерирует текст; заявлены японский и английский языки, максимальный контекст — 4096 токенов. Модель подходит для генерации и продолжения текста, вопросов и ответов, суммаризации, машинного перевода и рассуждений на японском и английском языках. В README приведены результаты оценки семейства Swallow на японских и английских наборах задач; они не гарантируют качество для каждого сценария и конкретно этой конфигурации. Разработчики предупреждают, что модели находятся на ранней стадии исследований и разработок и не настроены для соблюдения намерений пользователя и требований безопасности. Лицензия — Llama 2 Community License, указанная в метаданных как llama2.

Texify — модель оптического распознавания символов, разработанная Vik Paruchuri. Она преобразует изображения и PDF с математическим содержимым в Markdown и LaTeX, распознавая формулы и окружающий их текст; работает как с отдельными формулами, так и с формулами, встроенными в текст. Модель построена на архитектуре vision-encoder-decoder и содержит около 0,3 млрд параметров. Модель предназначена для извлечения математической записи из изображений и страниц документов, чтобы её можно было отображать, например, через MathJax. Репозиторий разработчика указывает, что Texify устарела, а её возможности перенесены в Surya и улучшены новой моделью. Для весов Hugging Face указана лицензия CC BY-SA 4.0.

Z-Jafari/xlm-roberta-base-finetuned-DS_Q_NoH — дообученная Z-Jafari модель FacebookAI/xlm-roberta-base для ответов на вопросы. Она использует архитектуру XLM-RoBERTa с плотной сетью из 305,2 млн параметров и принимает текст, чтобы находить ответ в предоставленном контексте. Модель подходит для многоязычных сценариев вопросно-ответного поиска; нативный контекст составляет 514 токенов. В README приведены результаты оценки: exact match 76,3 и F1 79,36, однако набор данных и подробности методики не раскрыты. Модель распространяется в формате safetensors по лицензии MIT. Базовая XLM-RoBERTa предназначена для построения представлений текста на многих языках.

Gemma 4 E4B-it — мультимодальная модель Google DeepMind с открытыми весами, настроенная для следования инструкциям и диалога. Это плотная модель семейства Gemma 4; репозиторий использует Transformers и формат safetensors. Для варианта E4B заявлено контекстное окно 128 тысяч токенов и поддержка более 35 языков в практическом использовании, при предобучении на более чем 140 языках. Модель принимает текст, изображения, видео и аудио, а выдаёт текст. Она предназначена для диалога, рассуждений, генерации и исправления кода, анализа изображений и документов, понимания видео, распознавания речи и перевода речи в текст. Поддерживает режим рассуждений и вызов инструментов; гибридное внимание сочетает локальные окна и глобальное внимание. Модель подходит для локального запуска на устройствах с ограниченными ресурсами, а также для чат-ботов, помощников и мультимодальных приложений. Возможности распознавания аудио заявлены для вариантов E2B и E4B. Как и другие генеративные модели, она может ошибаться в ответах и интерпретации входных данных. Лицензия — Apache 2.0.

Mistral Small 4 119B A6B — мультимодальная модель общего назначения от Mistral AI, объединяющая возможности семейств Instruct, Reasoning и Devstral. Архитектура MoE содержит 128 экспертов, из которых активны 4; всего модель насчитывает 119 млрд параметров, а на токен активируется 6,5 млрд. Контекстное окно — 256 тысяч токенов. Репозиторий содержит веса safetensors в формате FP8. Модель принимает текст и изображения и выдаёт текст. Она предназначена для диалоговых ассистентов, рассуждений, программирования, агентных сценариев с вызовом функций, разбора документов и анализа изображений. Режим рассуждений можно настраивать для каждого запроса; заявлена поддержка множества языков, включая русский. Для инференса рекомендована библиотека vLLM. Лицензия Apache 2.0 разрешает коммерческое и некоммерческое использование. В метаданных не указаны базовая модель или отдельное дообучение; FP8 здесь обозначает точность представленных весов. Для запуска README рекомендует актуальный vLLM, а для Transformers — основную ветку проекта.

aifeifei798/gemma-4-E2B-Queen-it-qat-q4_0-unquantized — производная инструктивная модель семейства Gemma 4 на базе google/gemma-4-E2B-it-qat-q4_0-unquantized. В карточке описана архитектура Gemma 4 с плотной моделью и гибридным вниманием: локальные окна чередуются с глобальным вниманием. Модель предназначена для диалогов, рассуждений, программирования и мультимодального анализа; контекст Gemma 4 E2B составляет до 128 тысяч токенов. Модель принимает текст и изображения, а семейство Gemma 4 также описано как способное анализировать видео и аудио; однако карточка не подтверждает аудиовозможности именно этой производной сборки. Поддерживаются более 35 языков, а предварительное обучение проводилось более чем на 140 языках. Лицензия — Apache-2.0. Возможны фактические ошибки, трудности с тонкими языковыми нюансами и сложными открытыми задачами; ответы могут отражать смещения и пробелы обучающих данных.

Gemma 4 E4B — мультимодальная плотная модель семейства Gemma, разработанная Google DeepMind и представленная в виде весов с лицензией Apache 2.0. Она принимает текст, изображения и аудио и генерирует текст; аудиовозможности включают распознавание речи и перевод речи в текст. Модель рассчитана на запуск на мобильных устройствах и ноутбуках, а также на диалоговые сценарии, рассуждения, программирование и работу с инструментами. Архитектура реализует гибридное внимание: чередует локальные окна внимания с глобальным вниманием. Для E4B заявлено контекстное окно до 128 тысяч токенов. Модель понимает изображения, в том числе документы, графики и интерфейсы, а также аудио; семейство Gemma 4 поддерживает более 140 языков при обучении и более 35 языков при использовании. Карточка описывает семейство в целом, поэтому отдельные языковые возможности E4B могут зависеть от задачи и конфигурации.

CohereLabs/command-a-plus-05-2026-w4a4 — квантизированная версия открытой модели Command A+, разработанная Cohere и Cohere Labs. Модель предназначена для агентных и многошаговых сценариев, задач, требующих рассуждений, корпоративных приложений и многоязычного диалога. Она принимает текстовые и графические входы, а генерирует текст, поэтому может использоваться для общения, анализа изображений, обработки документов и работы с инструментами. Модель содержит 25 млрд активных параметров и 218 млрд параметров всего; в карточке она описана как MoE-модель с поддержкой vision-входов. Контекстное окно составляет до 128K входных токенов. Заявлена поддержка языков, включая английский, русский, китайский, японский, арабский, немецкий, французский, испанский и ряд других. Вариант W4A4 использует 4-битное квантование весов и активаций экспертов MoE, при этом внимание и KV-кэш сохраняются в полной точности; применяется Quantization-Aware Distillation для снижения потерь качества. Главное преимущество варианта W4A4 — меньшие требования к памяти, более высокая скорость и меньшая задержка при сопоставимом с другими вариантами качестве. Для запуска указаны ориентиры от одной GPU NVIDIA B200 или двух H100, а для vLLM требуется версия не ниже 0.25.0 и дополнительная библиотека cohere_melody. Ограничения включают высокие аппаратные требования и необходимость совместимого программного стека. Модель распространяется по лицензии Apache 2.0.

Карточка модели ltntxj-123/gemma-4-E4B на Hugging Face совпадает с карточкой google/gemma-4-E4B, поэтому описание составлено по ней. Gemma 4 E4B — мультимодальная плотная модель семейства Gemma, разработанная Google DeepMind и представленная в виде весов с лицензией Apache 2.0. Она принимает текст, изображения и аудио и генерирует текст; аудиовозможности включают распознавание речи и перевод речи в текст. Модель рассчитана на запуск на мобильных устройствах и ноутбуках, а также на диалоговые сценарии, рассуждения, программирование и работу с инструментами. Архитектура реализует гибридное внимание: чередует локальные окна внимания с глобальным вниманием. Для E4B заявлено контекстное окно до 128 тысяч токенов. Модель понимает изображения, в том числе документы, графики и интерфейсы, а также аудио; семейство Gemma 4 поддерживает более 140 языков при обучении и более 35 языков при использовании. Карточка описывает семейство в целом, поэтому отдельные языковые возможности E4B могут зависеть от задачи и конфигурации.

Карточка модели Openintelligent123/gemma-4-E4B на Hugging Face совпадает с карточкой google/gemma-4-E4B, поэтому описание составлено по ней. Gemma 4 E4B — мультимодальная плотная модель семейства Gemma, разработанная Google DeepMind и представленная в виде весов с лицензией Apache 2.0. Она принимает текст, изображения и аудио и генерирует текст; аудиовозможности включают распознавание речи и перевод речи в текст. Модель рассчитана на запуск на мобильных устройствах и ноутбуках, а также на диалоговые сценарии, рассуждения, программирование и работу с инструментами. Архитектура реализует гибридное внимание: чередует локальные окна внимания с глобальным вниманием. Для E4B заявлено контекстное окно до 128 тысяч токенов. Модель понимает изображения, в том числе документы, графики и интерфейсы, а также аудио; семейство Gemma 4 поддерживает более 140 языков при обучении и более 35 языков при использовании. Карточка описывает семейство в целом, поэтому отдельные языковые возможности E4B могут зависеть от задачи и конфигурации.

Карточка модели lamm-mit/google-gemma-4-E4B-it на Hugging Face совпадает с карточкой google/gemma-4-E4B, поэтому описание составлено по ней. Gemma 4 E4B — мультимодальная плотная модель семейства Gemma, разработанная Google DeepMind и представленная в виде весов с лицензией Apache 2.0. Она принимает текст, изображения и аудио и генерирует текст; аудиовозможности включают распознавание речи и перевод речи в текст. Модель рассчитана на запуск на мобильных устройствах и ноутбуках, а также на диалоговые сценарии, рассуждения, программирование и работу с инструментами. Архитектура реализует гибридное внимание: чередует локальные окна внимания с глобальным вниманием. Для E4B заявлено контекстное окно до 128 тысяч токенов. Модель понимает изображения, в том числе документы, графики и интерфейсы, а также аудио; семейство Gemma 4 поддерживает более 140 языков при обучении и более 35 языков при использовании. Карточка описывает семейство в целом, поэтому отдельные языковые возможности E4B могут зависеть от задачи и конфигурации.

unsloth/Mistral-Small-3.2-24B-Instruct-2506-GGUF — это GGUF-квантизированная версия мультимодальной инструкционной модели Mistral-Small-3.2-24B-Instruct-2506, разработанной Mistral AI и опубликованной в формате GGUF командой Unsloth. Модель предназначена для диалоговых приложений, выполнения инструкций, анализа изображений и текста, программирования, STEM-задач, обработки документов и вызова функций или инструментов. Модель содержит 24 млрд параметров, поддерживает текстовые и визуальные входные данные, а также языки English, French, German, Spanish, Portuguese, Italian, Japanese, Korean, Russian, Chinese, Arabic, Persian, Indonesian, Malay, Nepali, Polish, Romanian, Serbian, Swedish, Turkish, Ukrainian, Vietnamese, Hindi и Bengali. Заявленная длина контекста — до 128K токенов. По сравнению с Mistral-Small-3.1 улучшены следование точным инструкциям, устойчивость к повторяющимся или бесконечным генерациям и надёжность function calling. GGUF-версия включает исправления chat template; для llama.cpp рекомендуется включать режим Jinja. Сильные стороны модели — широкий языковой охват, поддержка зрения, длинный контекст, улучшенные результаты в instruction following, программировании и вызове функций. В опубликованных тестах отдельные показатели зрения немного ниже, чем у версии 3.1, поэтому качество зависит от конкретного типа визуальной задачи. Для запуска требуются совместимые GGUF-инструменты, например llama.cpp или Ollama; рекомендуется низкая температура около 0,15. Модель распространяется по лицензии Apache-2.0.

Gemma 4 26B A4B NVFP4 — мультимодальная модель для генерации текста, разработанная Google DeepMind и квантизированная NVIDIA с помощью Model Optimizer. Модель принимает текст и изображения, поддерживает обработку видео как последовательности кадров, а её выходом является текст. Она предназначена для диалоговых систем, чат-ботов, суммаризации, извлечения данных из изображений, рассуждений, программирования, мультимодального анализа, function calling, а также исследовательских и образовательных задач. Модель построена на архитектуре Transformers с разреженной MoE-структурой: содержит около 25,2 млрд параметров, из которых активно используется около 3,8 млрд, 30 слоёв, 128 экспертов и один общий эксперт. Она поддерживает контекст до 256K токенов, скользящее окно внимания размером 1024 токена, словарь из 262 тысяч токенов и более 140 языков. Для обработки изображений предусмотрен vision encoder примерно на 550 млн параметров, поддерживаются различные соотношения сторон и разрешения, а также настраиваемые бюджеты визуальных токенов. Видео длительностью до 60 секунд обрабатывается со скоростью один кадр в секунду. К сильным сторонам относятся большой контекст, мультимодальность, поддержка длинных документов, задач рассуждения и кода, а также сниженное вычислительное потребление благодаря MoE-архитектуре и формату NVFP4. Ограничения связаны с зависимостью от NVIDIA GPU, заявленной совместимостью прежде всего с архитектурой Blackwell, использованием Linux и поддержкой runtime vLLM. Квантизация может влиять на точность по сравнению с исходной моделью. Релиз не обучался заново: NVIDIA выполнила квантизацию и калибровку, тогда как исходная модель принадлежит Google. Модель доступна для коммерческого и некоммерческого использования по лицензии Apache License 2.0 с дополнительными условиями Gemma. Версия модели — v1.0, квантизация выполнена с помощью nvidia-modelopt v0.43.0.

google/gemma-4-31B-it-qat-q4_0-unquantized — мультимодальная инструкционно-настроенная модель семейства Gemma 4, разработанная Google DeepMind. Это dense-модель с архитектурой Gemma4ForConditionalGeneration, принимающая текст и изображения и генерирующая текст. Вариант QAT Q4_0 содержит веса половинной точности, извлечённые из процесса обучения с учётом квантования; он предназначен для дальнейшей компиляции и исследовательской работы с меньшими требованиями к памяти по сравнению с обычной версией bfloat16. Модель подходит для диалогов, генерации и анализа текста, программирования, рассуждений, понимания изображений, распознавания текста на изображениях и разбора документов. Семейство Gemma 4 поддерживает контекст до 256 тысяч токенов и многоязычную работу; описание карточки заявляет поддержку более 140 языков при предварительном обучении. Для этого варианта доступен формат safetensors и библиотека Transformers. Лицензия — Apache 2.0. Возможности обработки аудио и видео перечислены для отдельных моделей семейства, но не подтверждены для данного чекпойнта. Качество и скорость зависят от аппаратного обеспечения и последующей компиляции; QAT-веса этого варианта не являются готовым GGUF-пакетом для непосредственного развёртывания.

Карточка модели OsGo/gemma-4-E4B-it-qat-q4_0-unquantized-assistant на Hugging Face совпадает с карточкой google/gemma-4-E4B-it-qat-q4_0-unquantized, поэтому описание составлено по ней. Gemma 4 E4B IT QAT Unquantized — мультимодальная модель Google DeepMind с открытыми весами, полученная дообучением Gemma 4 E4B Instruct с применением обучения с учётом квантования (QAT). Репозиторий содержит веса safetensors в половинной точности, извлечённые из QAT-конвейера; эта версия предназначена для собственной компиляции и исследований. Лицензия — Apache 2.0. Модель принимает текст и изображения и генерирует текст. Семейство поддерживает контекст до 128 тысяч токенов для E4B и более 140 языков в обучающих данных; в README заявлена поддержка более 35 языков. Возможности включают диалог, рассуждения, программирование, распознавание речи, перевод речи в текст, понимание изображений и видео, OCR, разбор документов и вызов инструментов. Архитектура — плотная Gemma 4 для условной генерации. QAT ориентирован на снижение требований к памяти при сохранении качества, близкого к bfloat16, однако конкретный репозиторий содержит не готовую к обычному запуску квантованную сборку, а веса половинной точности для последующей компиляции. Аудио указано для E4B, но конкретный формат входов зависит от используемого конвейера.

wnfldchen/gemma-4-12B-it-qat-q4_0-unquantized-heretic — производная инструкционная мультимодальная модель на архитектуре Gemma 4 Unified, дообученная на google/gemma-4-12B-it-qat-q4_0-unquantized. В карточке описаны возможности семейства Gemma 4: гибридное внимание, анализ изображений и видео, работа с аудио для модели 12B, генерация текста и кода, рассуждения и вызов инструментов. Для этой версии заявлены форматы safetensors и лицензия Apache-2.0. Модель подходит для диалоговых помощников, разбора изображений и документов, распознавания речи и перевода аудио в текст, а также для создания и исправления кода. Семейство Gemma 4 поддерживает более 35 языков и было предварительно обучено на более чем 140 языках; для вариантов 12B заявлен контекст до 256K токенов. README описывает базовое семейство, поэтому эти сведения относятся к данной версии с учётом того, что она основана на модели 12B. Модель может ошибаться в фактах, упускать языковые нюансы и воспроизводить смещения из обучающих данных; сложные или недостаточно чётко сформулированные запросы могут ухудшать результат. Тегами версия обозначена как uncensored/abliterated, поэтому при развёртывании стоит учитывать её ориентацию на менее ограниченные ответы. Условия лицензии — Apache-2.0.

Gemma 4 26B A4B IT QAT Q4_0 Unquantized — мультимодальная инструктивная модель семейства Gemma 4, разработанная Google DeepMind. Это вариант Gemma 4 26B A4B IT с весами, полученными из конвейера обучения с учётом квантования (QAT): веса сохранены в половинной точности, а не в готовом квантованном формате. Репозиторий предназначен для последующей компиляции и исследовательской работы с QAT-чекпойнтами. Модель принимает текст и изображения и генерирует текст. Она подходит для диалогов, рассуждений, программирования, анализа изображений, распознавания текста в документах и на изображениях, понимания диаграмм и интерфейсов, а также агентных сценариев с вызовом инструментов. Для варианта 26B A4B README указывает контекст до 256K токенов; семейство поддерживает более 140 языков в обучающих данных. Для Gemma 4 заявлены гибридное внимание с локальными и глобальными слоями и режим рассуждений; вариант 26B A4B относится к MoE-линейке семейства. QAT-чекпойнты призваны снижать требования к памяти при сохранении качества, близкого к bfloat16, однако этот конкретный репозиторий содержит не готовый GGUF или другой формат для прямого развёртывания, а веса для последующей обработки. Лицензия — Apache 2.0. Аудио для этой модели не заявлено: в README оно поддерживается только вариантами E2B, E4B и 12B.

Это зеркальная копия мультимодальной модели Gemma 4 E4B Instruct от Google DeepMind, подготовленная chibifire. Чекпойнт прошёл обучение с учётом квантизации Q4_0 (QAT), но в этом репозитории хранится в неквантованных весах половинной точности safetensors вместе с токенизатором, шаблоном чата и конфигурациями обработки и генерации. Модель предназначена для локального мультимодального инференса и дальнейшей конвертации. Она основана на Gemma 4 E4B Instruct и наследует её возможности диалога, рассуждений, программирования, анализа изображений и обработки аудио. Для загрузки в README приведён пример использования Transformers с AutoProcessor и AutoModelForMultimodalLM. Веса в формате safetensors являются неквантованной копией QAT-чекпойнта; обозначение Q4_0 указывает на обучение с учётом этого формата, а не на квантизацию хранимых здесь весов. Репозиторий распространяется по лицензии Apache-2.0. README отсылает к upstream-карточке и документации Gemma за сведениями о промптах и мультимодальном вводе.

Карточка модели AST-1320/gemma-4-E4B-it-uncensored-heretic на Hugging Face совпадает с карточкой llmfan46/gemma-4-E4B-it-uncensored-heretic, поэтому описание составлено по ней. llmfan46/gemma-4-E4B-it-uncensored-heretic — производная модель на основе Google Gemma 4 E4B Instruct, опубликованная независимым автором. Это плотная мультимодальная модель для диалога и генерации текста, понимания изображений и аудио, рассуждений, программирования и вызова инструментов. В карточке заявлены гибридное внимание с локальными скользящими окнами и глобальными слоями, а для базовой модели E4B — контекст до 128 тысяч токенов и поддержка более 35 языков. Модель подходит для чат-ботов, суммаризации и создания текстов, извлечения данных из изображений и документов, распознавания речи и голосовых сценариев. В названии и тегах указано uncensored/abliterated, однако README не описывает конкретные изменения и не приводит отдельные оценки качества именно этой производной версии. Возможны фактические ошибки, смещения и трудности с неоднозначными или сложными запросами. Лицензия — Apache-2.0.

cinnybun02/heretic-e2b-fp16 — мультимодальная производная Gemma 4 E2B IT, представленная в формате Safetensors и доступная по лицензии Apache-2.0. По метаданным, она дообучена на google/gemma-4-E2B-it. README описывает семейство Gemma 4 и указывает, что вариант E2B рассчитан на локальное развёртывание, включая устройства с ограниченными ресурсами. Модель предназначена для диалогов, рассуждений, генерации и редактирования кода, а также анализа изображений, видео и аудио. Она поддерживает распознавание речи и перевод речи в текст; семейство также умеет разбирать документы и PDF, распознавать текст на изображениях, анализировать графики и интерфейсы и вызывать инструменты. Для E2B заявлено контекстное окно до 128 тысяч токенов; семейство поддерживает более 35 языков. В README репозиторий помечен как uncensored/decensored/abliterated, но конкретные методы изменения базовой модели не описаны. Возможные ограничения включают фактические ошибки, зависимость качества от формулировки запроса и контекста, а также трудности с языковыми нюансами и сложными открытыми задачами. Следует учитывать возможные смещения и риск генерации вводящего в заблуждение контента.

coder3101/gemma-4-E4B-it-heretic — производная мультимодальная модель на базе Google Gemma 4 E4B Instruct, размещённая пользователем coder3101. Это плотная модель семейства Gemma 4 для диалогов, рассуждений, программирования и анализа мультимодальных данных. Архитектура Gemma4ForConditionalGeneration сочетает локальное скользящее внимание с глобальным; модель распространяется в формате safetensors и использует библиотеку Transformers. Базовая версия E4B поддерживает контекст до 128K токенов. Модель принимает текст и изображения, а для аудиовозможностей E4B также может обрабатывать речь: распознавать её и переводить речь в текст другого языка. Заявлены анализ видео по последовательности кадров, OCR, разбор документов и экранов, понимание графиков, вызов инструментов и генерация кода. Семейство Gemma 4 поддерживает более 35 языков; карточка не уточняет отдельный список языков этой производной модели. Метки heretic, uncensored, decensored и abliterated указывают на изменение поведения в отношении отказов, но README не описывает конкретную методику или результаты такого изменения. Лицензия — Apache-2.0. Как и другие языковые модели, она может выдавать фактические ошибки, хуже справляться с неоднозначными или сложными запросами и отражать смещения обучающих данных. Заявленные возможности базового семейства не являются отдельной оценкой качества именно этой производной модели.

gabriellarson/Mistral-Small-3.2-24B-Instruct-2506-GGUF — это GGUF-версия инструкционной мультимодальной модели Mistral-Small-3.2-24B-Instruct-2506, разработанной Mistral AI. Репозиторий содержит квантизированное представление модели для запуска в совместимых средах, а исходная модель рассчитана на работу с текстом и изображениями. Модель предназначена для диалоговых ассистентов, следования инструкциям, генерации текста и кода, function calling, а также анализа изображений, документов, таблиц и диаграмм. В README отмечены улучшения по сравнению с Mistral-Small-3.1: более точное следование инструкциям, меньше повторяющихся и бесконечных генераций и более надёжный шаблон вызова функций. По приведённым тестам она показывает сильные результаты в задачах программирования, STEM, обработки документов и анализа визуального контента, хотя в отдельных vision-бенчмарках уступает предыдущей версии. Модель имеет 24 миллиарда параметров и поддерживает английский, французский, немецкий, испанский, португальский, итальянский, японский, корейский, русский, китайский, арабский, персидский и ряд других языков, указанных в карточке. Рекомендуется использовать относительно низкую температуру и задавать системный промпт. Для исходной модели рекомендуется vLLM; запуск в формате BF16 или FP16 требует около 55 ГБ видеопамяти, тогда как требования конкретной GGUF-квантизации зависят от её параметров. Размер контекста в предоставленных данных не указан. Лицензия — Apache-2.0. Ограничения включают высокие требования к вычислительным ресурсам для полноразмерного запуска, возможные различия в качестве между языками и необходимость учитывать, что приведённые результаты основаны на конкретных внутренних и общедоступных тестах.

cyankiwi/Qwen3.5-4B-AWQ-INT8-INT4 — квантованная версия мультимодальной модели Qwen3.5-4B, основанная на Qwen/Qwen3.5-4B. Модель представлена в формате Hugging Face Transformers и совместима с Transformers, vLLM, SGLang и KTransformers. Архитектура включает каузальную языковую модель с vision encoder и предназначена для обработки текста и изображений, включая рассуждения, программирование, визуальное понимание и агентские сценарии. Модель содержит около 4 млрд параметров, 32 слоя и гибридную архитектуру с Gated Delta Networks, Gated Attention и разреженным Mixture-of-Experts. Нативная длина контекста составляет 262 144 токена, с возможностью расширения до 1 010 000 токенов. Заявлена поддержка 201 языка и диалекта. Идентификатор указывает на применение квантования AWQ с форматами INT8 и INT4, что ориентировано на снижение требований к памяти и ускорение инференса; README не приводит точных характеристик качества именно этой квантованной сборки. Модель подходит для локального и серверного инференса, мультимодальных приложений, анализа документов и изображений, генерации текста и кода, а также задач с длинным контекстом. К сильным сторонам относятся сочетание языковых и визуальных возможностей, большой контекст, многоязычность и компактный размер. Ограничения квантованной версии, включая возможное снижение точности по сравнению с полной моделью, в README не описаны. Лицензия — Apache-2.0.

unsloth/gemma-3-12b-pt — вариант Gemma 3 от Unsloth, основанный на дообучении предобученной модели Google google/gemma-3-12b-pt. Это плотная мультимодальная модель с архитектурой Gemma3ForConditionalGeneration и 12 млрд параметров. Она принимает текст и изображения и генерирует текст; семейство Gemma 3 поддерживает контекст до 128 тыс. токенов и более 140 языков. Модель подходит для ответов на вопросы по изображениям, извлечения и пересказа визуальной информации, суммаризации и генерации текста, включая диалог, черновики писем и код. Карточка Unsloth ориентирована на использование модели как основы для дальнейшего дообучения и описывает экспорт дообученных вариантов в GGUF, Ollama, llama.cpp и формат Hugging Face. Возможности и качество ответов зависят от обучающих данных и формулировки запроса: модель может ошибаться в фактах, упускать языковые нюансы и отражать предвзятости данных. Лицензия — Gemma; условия использования следует сверять с лицензией Google Gemma.

MuXodious выпустил дообученную мультимодальную модель Gemma 4 E4B Instruct с применением Heretic v1.4.0 и методов abliteration, включая Self-Organizing Maps и Magnitude-Preserving Orthogonal Ablation. В README приведены результаты эксперимента по снижению отказов и KL-дивергенции относительно исходной модели. Основа — google/gemma-4-E4B-it-qat-q4_0-unquantized; архитектура — плотная Gemma4ForConditionalGeneration, библиотека Transformers, веса в формате Safetensors. Лицензия — Apache 2.0. Модель принимает текст и изображения и генерирует текст; семейство Gemma 4 E4B также поддерживает аудио. Она предназначена для диалога, рассуждений, анализа изображений и документов, распознавания речи, программирования и сценариев с вызовом инструментов. Для семейства в целом указаны контекст до 128K токенов у E4B и поддержка множества языков, но README не подтверждает, что все перечисленные возможности доступны именно этому чекпойнту после дообучения.