I.11Классификация, ранжирование и сопоставление

apodex-1.0-2B-SFT-rebased — объединённая модель, созданная с помощью LazyMergekit на основе Qwen/Qwen3.5-2B-Base и apodex/Apodex-1.0-2B-SFT. Она предназначена для диалоговой работы с текстом и изображениями; архитектура Qwen3.5 — плотная, с 2 млрд параметров. Модель доступна в формате safetensors и поддерживает интерфейс вызова инструментов. Лицензия — Apache-2.0.

ArliAI-Llama-3-8B-Dolfin-v0.5 — разговорная модель OwenArli на архитектуре Llama 3, дообученная на базе Meta-Llama-3-8b-Instruct. Она предназначена для генерации ответов и следования инструкциям в диалогах; автор указывает, что использовал улучшенные наборы данных Dolphin и WizardLM, чтобы повысить следование инструкциям и снизить частоту отказов. Модель содержит 7,5 млрд параметров, а её базовый контекст составляет 8192 токена. Дообучение выполнялось методом QLoRA с рангом 64 и alpha 128; README сообщает о последовательностях длиной 2048 токенов при обучении и сохранении качества на контексте 8192 токена. Репозиторий содержит веса Safetensors. Модель рассчитана на текстовый ввод и текстовые ответы. Карточка не приводит отдельные результаты бенчмарков и подробного перечня поддерживаемых языков. Использование регулируется лицензией Meta Llama 3; необходимо соблюдать её условия.

Athena-1 0.5B — компактная инструктивная языковая модель, дообученная aayanmishra-ml на основе Qwen/Qwen2.5-0.5B-Instruct. Она содержит 494 млн параметров, использует архитектуру Qwen2 для генерации текста и рассчитана на запуск в условиях ограниченных вычислительных ресурсов, включая edge-устройства. Метаданные указывают контекст до 32 768 токенов; в README заявлены 16 384 токена и генерация до 4 000 токенов за ответ. Модель предназначена для диалогов и выполнения инструкций, а также для базовой помощи с кодом и математикой, анализа и краткого пересказа небольших документов, работы с таблицами и JSON. README заявляет поддержку более 20 языков, включая английский, китайский, русский, французский, испанский, немецкий, итальянский, японский, корейский, вьетнамский и тайский; карточка указывает английский. Модель поставляется в формате PyTorch под лицензией Apache-2.0. Небольшой размер удобен для ресурсов с ограничениями, однако заявленные возможности кодирования и математики описаны как базовые.

PauloIAVPS/ats-qwen2.5-3b — дообученная плотная языковая модель семейства Qwen2.5, разработанная PauloIAVPS на основе unsloth/qwen2.5-3b-instruct-unsloth-bnb-4bit. Модель содержит 3,1 млрд параметров, принимает текст и предназначена для генерации текста в диалоговых сценариях; в метаданных также заявлен интерфейс вызова инструментов. Модель обучалась с использованием Unsloth и библиотеки Hugging Face TRL. Её контекстное окно составляет 32 768 токенов. В карточке указан английский язык. Модель распространяется по лицензии Apache-2.0.

Blackbird-Llama-3-8B — плотная авторегрессионная языковая модель семейства Llama 3, созданная bunnycore объединением нескольких моделей через mergekit. В состав объединения входят cognitivecomputations/dolphin-2.9-llama3-8b, NousResearch/Hermes-2-Theta-Llama-3-8B и abacusai/Llama-3-Smaug-8B; в конфигурации bunnycore/Maverick-8B указан как базовая модель. Репозиторий содержит веса в формате safetensors, модель насчитывает 7,5 млрд параметров и рассчитана на контекст до 8192 токенов. Модель предназначена для генерации текста и диалоговых сценариев: она принимает текстовые запросы и выдаёт текстовые ответы. Для использования заявлена лицензия Llama 2. Карточка не приводит оценок качества или конкретных ограничений, поэтому пригодность для специализированных задач следует проверять отдельно.

BlueLM-7B-Base-32K — vivo AI 全球研究院自主研发的基础语言模型，采用 BlueLM 的密集型自回归架构，参数量为 6.9 млрд. Модель предназначена для генерации продолжений текста и служит базой для создания диалоговых и других прикладных систем. Она обучена на корпусе объёмом 2,6 трлн токенов, преимущественно на китайском и английском языках, с небольшим количеством японских и корейских данных. Версия 32K заявлена разработчиком как поддерживающая длинный контекст; при этом метаданные репозитория указывают native_context_tokens 2048, поэтому фактическую длину контекста этого чекпойнта следует уточнять при настройке. Веса открыты для академических исследований и коммерческого применения; метаданные обозначают лицензию как other.

Calme 2.3 Llama 3 70B — диалоговая языковая модель, созданная Maziyar Panahi методом DPO дообучения Meta-Llama-3-70B-Instruct. Она предназначена для генерации текста и ответов в формате чата; карточка приводит результаты оценки на Open LLM Leaderboard. Модель содержит 69,5 млрд параметров, построена на плотной архитектуре Llama и использует библиотеку Transformers. Для общения применяется шаблон ChatML; длина контекста составляет 8192 токена, основной язык — английский. Модель распространяется в формате safetensors по лицензии Llama 3. Для запуска требуется значительный объём вычислительных ресурсов, соответствующий модели такого размера.

Kaballas/Cyber20 — дообученная компанией Kaballas модель семейства Llama для генерации текста и диалогов. Она основана на Kaballas/Cyber18, содержит 7,5 млрд параметров и имеет контекстное окно до 131 072 токенов. Модель обучалась с использованием Unsloth и библиотеки Hugging Face TRL. Модель предназначена для генерации текста и общения на английском языке; метаданные также указывают поддержку чатового интерфейса и интерфейса вызова инструментов. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0.

DeepSeek-MoE-16B-Chat — разговорная языковая модель DeepSeek на архитектуре DeepSeek для генерации текста в формате диалога. Она предназначена для ответов на сообщения пользователя и других сценариев чат-взаимодействия. В метаданных указаны 2,6 млрд параметров, контекст до 4096 токенов и формат весов safetensors. Модель принимает текст и генерирует текст. Карточка не приводит сведений о поддерживаемых языках или специализированных областях применения. Лицензия указана как other, поэтому конкретные условия использования следует сверить с лицензией репозитория.

DeepSeek-V4.1-Flash-MLX-mixed-4_8bit — это квантованная сборка DeepSeek-V4.1-Flash для Apple Silicon на базе MLX, подготовленная PipeNetwork. Модель предназначена для генерации текста и запуска локального инференса на компьютерах Mac с большим объёмом unified memory. Для работы требуется специальный runtime deepseek-v41-mlx, поскольку стандартные transformers, mlx-lm и mlx-vlm эту архитектуру не поддерживают. Модель содержит около 754,6 млрд параметров и построена на архитектуре mixture-of-experts: 40 слоёв с 384 маршрутизируемыми экспертами. Она использует MLA с межслойным разделением KV-кэша, двухслойные hashed n-gram engram-таблицы, hyper-connections и attention sinks. Экспертные веса квантованы до 4 бит, attention, shared-части, embeddings и head — до 8 бит, а engram-таблицы также представлены в 8-битном формате; часть служебных компонентов остаётся в bf16 или fp32. Размер файлов составляет около 427,6 ГБ, поэтому для запуска практически требуется Mac с 512 ГБ оперативной памяти. Vision tower и aligner сохранены, но данный runtime работает только с текстом. Сборка прошла проверку на численное соответствие эталонной реализации DeepSeek, а заявленная perplexity на тестовой части wikitext-2 составляет 2,8963; авторы также отмечают связную жадную генерацию. Основные ограничения — очень высокие требования к памяти, зависимость от нестандартного runtime, текстовый режим без поддержки мультимодального вывода и отсутствие трёх слоёв multi-token prediction. Модель распространяется по лицензии MIT, как и исходная модель.

eren23/DistilHermes-2.5-Mistral-7B — дообученная методом DPO модель на основе teknium/OpenHermes-2.5-Mistral-7B, созданная с использованием набора argilla/distilabel-intel-orca-dpo-pairs. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, предназначенная для диалогов, генерации текста и ответов на вопросы. Поддерживает английский язык и контекст длиной до 32 768 токенов. Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0. В README приведены результаты оценивания базовой модели OpenHermes-2.5-Mistral-7B на нескольких тестах; их нельзя считать отдельной оценкой этого чекпойнта. Для практического применения подходят диалоговые сценарии и ответы на вопросы, однако качество ответов может зависеть от запроса и не гарантирует фактическую точность.

Docopilot-2B — мультимодальная модель OpenGVLab для понимания документов на уровне целых страниц, представленная в статье «Docopilot: Improving Multimodal Models for Document-Level Understanding». Она принимает изображения документов и текстовые запросы и формирует текстовые ответы в диалоговом режиме; архитектура — InternVLChatModel, формат весов — safetensors. Модель предназначена для вопросов и задач, требующих анализа содержимого документа целиком. В карточке указана лицензия MIT. В доступных сведениях нет подробностей о размере контекста, поддерживаемых языках и конкретных оценках качества.

Dolphin (Document Image Parsing via Heterogeneous Anchor Prompting) — мультимодальная модель для разбора изображений документов, построенная по схеме «сначала анализ, затем разбор». На первом этапе она определяет структуру страницы и порядок чтения, а на втором параллельно извлекает содержимое отдельных элементов: текста, иллюстраций, формул и таблиц. Модель использует архитектуру vision-encoder-decoder: визуальный энкодер основан на Swin Transformer, а текстовый декодер — на mBART. Задачи разбора можно задавать текстовыми промптами. Карточка описывает её как лёгкую модель с эффективным параллельным разбором, предназначенную для анализа структуры и содержимого страниц документов. В метаданных указаны английский и китайский языки, библиотека Transformers и лицензия MIT. Размер модели и длина контекста не приведены в доступных источниках.

Youlln/ECE.EIFFEIL.ia-0.5B-SLERP — компактная языковая модель для генерации текста и диалогов, созданная автором репозитория объединением моделей через SLERP с помощью mergekit. В объединении участвовали Youlln/ECE-Qwen0.5B-FT-V2 и Qwen/Qwen2.5-0.5B-Instruct; архитектура — плотная Qwen2, число параметров — около 494 млн. Модель рассчитана на текстовый ввод и выдачу текста, поддерживает контекст до 32 768 токенов. Её можно использовать для диалогов, выполнения инструкций и генерации текста; в метаданных также отмечен интерфейс вызова инструментов. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Карточка не содержит сведений о целевых языках или оценках качества.

EraX-VL-2B-V1.5 — мультимодальная модель на базе Transformer, разработанная командой EraX и Bamboo Capital Group на основе Qwen/Qwen2-VL-2B-Instruct. Модель дообучена для распознавания текста и ответов на вопросы по изображениям, особенно на вьетнамском языке; поддерживает также английский и китайский. Она предназначена для работы с документами, включая удостоверения личности, водительские права, свидетельства о рождении, счета и медицинские записи, а также для диалоговых запросов по изображениям. Модель содержит 1,5 млрд параметров, использует архитектуру Qwen2-VL и принимает изображения вместе с текстовыми запросами, выдавая текстовые ответы. Заявлен контекст до 32 768 токенов, а также поддержка многошаговых вопросов и ответов. Это мультимодальная языковая модель, поэтому для извлечения данных результат зависит от точности формулировки запроса; модель не является специализированным OCR-движком. Авторы отмечают, что она не обучалась на рентгеновских снимках или данных об автомобильных авариях. Лицензия — Apache 2.0.

EVA-LLaMA-3.33-70B-v0.0-GGUF — это квантизированная версия большой языковой модели EVA-LLaMA-3.33-70B-v0.0, разработанной EVA-UNIT-01 и подготовленной в формате GGUF пользователем bartowski. Модель предназначена для генерации текста и запуска локально через llama.cpp, в том числе в LM Studio. В README указано использование наборов данных для инструкционного обучения, письма, ролевого взаимодействия и генерации структурированных ответов. Модель содержит 70B параметров и относится к семейству LLaMA; точная архитектура, поддерживаемые языки и размер контекстного окна в предоставленных данных не указаны. Доступны варианты квантизации от Q8_0 до Q3 и IQ3, что позволяет выбирать между качеством, размером файла и требованиями к памяти. Наиболее качественными считаются Q8_0 и Q6_K, а Q4_K_M, Q4_K_S и IQ4_XS предназначены для более сбалансированного локального использования. Некоторые варианты оптимизированы для ARM или AVX и имеют ограничения по совместимости с устройствами Apple. Сильными сторонами являются большой размер модели, ориентация на качественную генерацию текста и широкий выбор уровней квантизации. Ограничения включают значительные требования к оперативной памяти: размер файлов составляет примерно от 27 до 75 ГБ, а снижение разрядности может ухудшать качество. Модель предназначена для текстовых задач; сведения о мультимодальности, результатах оценивания и конкретных ограничениях безопасности отсутствуют. Лицензия указана как eva-llama3.3 с типом other; дополнительные условия в README не приведены.

EZO-Qwen2.5-72B-Instruct — дообученная компанией Axcxept на базе Qwen/Qwen2.5-72B-Instruct плотная авторегрессионная языковая модель с 71,5 млрд параметров. Она предназначена для диалогов и генерации ответов, особенно на японском языке, а также для многоязычных сценариев. Модель обучали на инструкционных данных, подготовленных из японской Википедии и FineWeb; доступны веса в формате safetensors, интерфейс чата и интерфейс для вызова инструментов. Контекст — до 32 768 токенов. В README сообщается о высокой оценке в Japanese MT Bench при 4-битном квантовании, однако подробности методики и независимая проверка не приведены. Автор описывает модель как экспериментальный прототип, не предназначенный для коммерческого применения или критически важных систем; результаты не гарантируются. Указана лицензия Apache-2.0.

Модель ermiaazarkhalili/FastContext-4B-SFT_base-SFT-Claude-Opus-Reasoning-Unsloth — дообученная версия microsoft/FastContext-1.0-4B-SFT, разработанная ermiaazarkhalili. Это плотная авторегрессионная языковая модель семейства Qwen3 с архитектурой Qwen3ForCausalLM, примерно 3,7 млрд параметров и контекстом до 262 144 токенов. Модель предназначена для генерации текста в диалогах и выполнения инструкций; дообучение проведено методом SFT на данных дистилляции рассуждений Claude. Она поддерживает интерфейс вызова инструментов. Карточка приводит только наблюдения обучающей потери и сообщает, что оценка на прикладных бенчмарках не проводилась. Поведение вне распределения единственного набора инструкций не проверено; модель наследует смещения и ограничения базовой модели. LoRA-адаптеры слиты с весами, поэтому отделить результат дообучения нельзя. Лицензия в предоставленных данных не указана.

FIxtral — диалоговая языковая модель, опубликованная zaursamedov1 и основанная на объединении модели mistralai/Mistral-7B-Instruct-v0.2. Она предназначена для генерации текста и ответов на инструкции в дружелюбном пошаговом стиле; в карточке приведён пример использования через Transformers. Модель построена на архитектуре MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Репозиторий содержит веса в формате Safetensors. Модель распространяется по лицензии Apache-2.0.

Florence-2-base-ft — модель компьютерного зрения и понимания изображений от Microsoft, представленная в реализации для библиотеки Transformers. Это дообученная версия Florence-2-base с архитектурой последовательность-в-последовательность и примерно 0,23 млрд параметров. Модель использует текстовые запросы, чтобы переключаться между задачами: описанием изображения, обнаружением объектов, выделением областей, привязкой фраз к объектам и распознаванием текста на изображении. Модель подходит для автоматического описания и анализа изображений, извлечения текста и координат объектов, а также для ответов на визуальные вопросы. В README перечислены оценки на задачах captioning, object detection и визуального вопросно-ответного анализа; модель обучалась на FLD-5B с аннотациями для изображений. Карточка не сообщает поддерживаемые языки текста, поэтому языковую специализацию определить нельзя. Репозиторий содержит веса PyTorch и Safetensors; лицензия — MIT. Как и другие модели компьютерного зрения, результаты могут содержать ошибки в описании сцен, распознавании текста и локализации объектов; приведённые в карточке оценки не гарантируют качество на конкретных данных.

Florence-2-large-ft — преобразованный для Transformers чекпойнт модели Florence от Microsoft, дообученный для набора задач компьютерного зрения. Модель использует плотную архитектуру Florence-2 с генерацией последовательностей по текстовым запросам; размер исходной Florence-2-large составляет 0,77 млрд параметров. Она принимает изображение и текстовый запрос, а в ответ может создавать подписи и описания, распознавать текст, находить объекты и области изображения, связывать фразы с областями и предлагать регионы. Модель предназначена для универсального анализа изображений, включая создание подписей, OCR и визуальные вопросы и ответы. В карточке указано, что этот вариант продолжает предобучение Florence-2-large на 0,1 млрд примеров; автор предупреждает, что такое обучение могло оказаться недостаточным. Для OCR в этой версии используется символ перевода строки между строками. Контекст — 4 тысячи токенов. Репозиторий содержит веса Safetensors и распространяется по лицензии MIT.

FuseChat-Llama-3.1-8B-Instruct-GGUF — это набор квантованных версий инструкционной языковой модели FuseChat-Llama-3.1-8B-Instruct, разработанной FuseAI. Модель предназначена для генерации текста и диалоговых сценариев, включая работу с пользовательскими запросами в локальных приложениях на базе llama.cpp и LM Studio. Квантованные файлы представлены в формате GGUF и подготовлены bartowski с использованием llama.cpp и метода imatrix. Модель относится к классу текстовых генеративных моделей и имеет около 8 млрд параметров в исходной версии. Доступны варианты от F32 и F16 до различных форматов квантования Q8, Q6, Q5, Q4 и Q3, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. Размер файлов составляет примерно от 4,3 до 32,1 ГБ. Для работы предусмотрен специальный шаблон промпта с ролями system, user и assistant. Сильной стороной набора является широкий выбор квантований: варианты Q6 и Q5 ориентированы на высокое качество, а Q4 и Q3 — на снижение требований к памяти. Некоторые файлы оптимизированы для ARM или AVX, однако отдельные варианты не рекомендуются для Mac или GPU. README не содержит сведений о поддерживаемых языках, размере контекстного окна, точной архитектуре, результатах оценки и лицензии, поэтому эти характеристики нельзя подтвердить.

Gama-12B — языковая модель объёмом 12 млрд параметров, представленная в формате GGUF. Базовая модель rodrigomt/gama-12b разработана на основе семейства Gemma; данная версия подготовлена и квантизирована mradermacher с использованием weighted/imatrix quantization. В метаданных указаны английский и португальский языки, а также поддержка генерации текста и диалоговых сценариев. Модель предназначена для локального запуска в задачах текстовой генерации и conversational-приложениях, включая ответы на запросы и ведение диалога. README также указывает на наличие vision-возможностей, однако конкретные поддерживаемые визуальные задачи и параметры мультимодального контекста не описаны. Длина контекста, точная архитектура и дополнительные характеристики не указаны. Доступно множество вариантов квантизации размером примерно от 3,0 до 9,8 ГБ. Более компактные варианты требуют меньше памяти, но могут заметно уступать в качестве; среди рекомендуемых отмечены i1-Q4_K_M как быстрый вариант и i1-Q4_K_S как компромисс между размером, скоростью и качеством. Модель распространяется по лицензии Gemma. Для использования GGUF-файлов требуется совместимое программное обеспечение.

Garnet-OCR-3B-0422-i1-GGUF — квантизированная версия модели Garnet-OCR-3B-0422, разработанной prithivMLmods и подготовленной в формате GGUF пользователем mradermacher. Это vision-language-модель для оптического распознавания символов и интеллектуальной обработки документов, включая извлечение и связывание данных, преобразование PDF в Markdown, анализ содержимого документов и image-to-text-сценарии. Модель имеет размер 3 млрд параметров и поддерживает обработку текста и изображений. В карточке указан английский язык, а среди обучающих наборов перечислены коллекции для распознавания и анализа PDF, генерации Markdown и обработки документов. Доступно множество вариантов квантизации GGUF размером примерно от 1,0 до 2,9 ГБ; варианты различаются компромиссом между качеством, скоростью и требованиями к памяти. Для работы с изображениями могут потребоваться отдельные mmproj-файлы из статического репозитория. Сильными сторонами модели являются специализация на OCR и структурированном анализе документов, возможность локального запуска благодаря компактным квантизированным вариантам и поддержка различных уровней квантизации. Ограничения включают отсутствие сведений о размере контекста, точных характеристиках архитектуры, качестве на конкретных наборах данных и поддерживаемых языках помимо английского; низкобитные варианты могут заметно уступать по качеству. Модель распространяется по лицензии Apache-2.0.

MCZK/Gemma-2-9B-It-SPPO-Iter3-GGUF — это версия модели Gemma-2-9B-It-SPPO-Iter3, разработанной UCLA-AGI, преобразованная в формат GGUF. Модель предназначена для генерации текста и диалоговых сценариев с использованием instruction-tuned версии Gemma 2. В метаданных указан английский язык и набор данных openbmb/UltraFeedback. Модель имеет около 9 млрд параметров; исходная архитектура относится к семейству Gemma 2, а вариант SPPO-Iter3, согласно идентификатору, получен на третьей итерации оптимизации методом SPPO. Для K-квантизованных вариантов применена iMatrix-квантизация. Текст iMatrix подготовлен на основе c4_en_ja_imatrix.txt из набора TFMC/imatrix-dataset-for-japanese-llm. Формат GGUF подходит для локального запуска в совместимых инструментах, однако конкретные требования к памяти, размер контекста, поддерживаемые модальности и результаты бенчмарков в README не указаны. Лицензия обозначена как gemma. README не содержит подробностей о сильных сторонах, ограничениях, допустимых сценариях коммерческого использования или точных параметрах отдельных вариантов квантизации, поэтому эти характеристики требуют дополнительной проверки.

mhenrichsen/gemma-2b — текстовая авторегрессионная модель семейства Gemma, разработанного Google на основе исследований и технологий, использованных при создании Gemini. Это плотная decoder-only модель с 2,5 млрд параметров; репозиторий содержит веса в формате safetensors и рассчитан на использование с Transformers. Модель принимает текст и генерирует текст, поддерживает контекст до 8192 токенов и предназначена прежде всего для английского языка. Модель подходит для генерации текста, диалоговых интерфейсов, суммаризации, ответов на вопросы и исследовательских NLP-сценариев. Компактный размер облегчает запуск на ноутбуке, настольном компьютере или собственной облачной инфраструктуре. Карточка не уточняет, является ли именно эта копия предварительно обученной или настроенной для инструкций; лицензия в предоставленных данных также не указана. Качество ответов зависит от обучающих данных и формулировки запроса: модель может ошибаться в фактах, упускать языковые нюансы и демонстрировать смещения. Для использования в приложениях, генерирующих контент, следует учитывать возможность вредных или вводящих в заблуждение ответов.

google/gemma-3-270m-it-qat-q4_0-unquantized — текстовая диалоговая модель семейства Gemma 3 от Google, созданная на основе google/gemma-3-270m-it. Репозиторий содержит вариант с QAT Q4_0; метаданные указывают формат safetensors. Модель предназначена для генерации текста и диалогов, ответов на вопросы, суммаризации и других задач, выполняемых по текстовым инструкциям. В общей карточке семейства Gemma 3 также описаны приём изображений, контекст до 128K токенов и поддержка более 140 языков, но эти свойства отдельно для данного компактного текстового чекпойнта не подтверждены. Модель может применяться в чат-ботах, виртуальных помощниках, подготовке черновиков и кратких изложений. Небольшой размер семейства позволяет рассматривать запуск на устройствах с ограниченными ресурсами. Ограничения включают возможные фактические ошибки, смещения и трудности с неоднозначными или сложными запросами. Лицензия — Gemma; использование регулируется условиями лицензии и политикой допустимого использования Google.

gemma-3n-E4B-it-MLX-6bit — это 6-битно квантованная версия модели gemma-3n-E4B-it от Google, адаптированная командой LM Studio с использованием MLX и mlx_vlm. Модель оптимизирована для работы на устройствах Apple Silicon и предназначена для локального запуска через совместимое программное обеспечение. В карточке указаны сценарии image-text-to-text, audio-text-to-text, video-text-to-text, автоматического распознавания речи и автоматического перевода речи. Ключевые характеристики исходной архитектуры, точный размер модели, поддерживаемые языки и максимальная длина контекста в README не указаны. Квантование снижает требования к памяти и делает модель более подходящей для локального использования на Apple Silicon, но может уменьшать точность по сравнению с исходной версией. Модель может генерировать неточные, вредные или неподходящие результаты, поэтому выводы требуют проверки. Использование регулируется лицензией Gemma; для доступа на Hugging Face необходимо ознакомиться с лицензией Google и принять её условия.

LiconStudio/Gemma-4-31B-it-abliterated-GGUF — модифицированная версия Google Gemma 4 31B Instruct, распространяемая в формате GGUF. Модель создана с применением метода Heretic ABLiteration: из исходных весов удалено нейронное направление, связанное с отказами в ответах, без изменения архитектуры и без дополнительных затрат при инференсе. Согласно README, версия ориентирована на снижение частоты отказов при сохранении исходных возможностей модели. Модель предназначена для генерации текста, исследований чувствительных тем, анализа, тестирования безопасности, red-teaming и академических исследований выравнивания моделей. Также заявлена поддержка мультимодальных сценариев с изображениями и текстом благодаря возможностям Gemma 4; при этом vision encoder остался без изменений. Указаны языки Chinese и English. Размер модели — 31B параметров; сведения о длине контекста и точной конфигурации GGUF в README отсутствуют. Сильной стороной является низкая частота отказов: в ручном тестировании для Abliterated Version указано 4 отказа из 100, при этом авторы не наблюдали заметного ухудшения интеллектуальных способностей по сравнению с официальной версией. Ограничения включают возможную небольшую потерю качества на сложных задачах, отсутствие встроенных механизмов цензуры и необходимость самостоятельно оценивать безопасность результатов. Модель не рекомендуется для производственных систем, требующих модерации контента, приложений для несовершеннолетних и сценариев с юридическими рисками. Лицензия — Apache-2.0. Авторы предназначают модель для исследовательских и образовательных целей и предупреждают, что она может генерировать вредный, опасный или неприемлемый контент; ответственность за использование несёт пользователь.

OsaurusAI/gemma-4-E4B-it-qat-JANG_4M — это мультимодальная модель семейства Gemma 4 в формате MLX, подготовленная OsaurusAI на основе google/gemma-4-E4B-it-qat-q4_0-unquantized. В ней 42 текстовых слоя; эмбеддинги, нормализации и компоненты обработки медиа сохранены в fp16, проекции внимания и маршрутизатор MoE представлены в 8-битном аффинном формате, а основная часть декодера и экспертов — в 4-битном. Модель принимает текст и поддерживает обработку изображений; в исходной конфигурации также сохранены настройки аудио и видео. Модель предназначена для диалога и мультимодальных сценариев, включая вопросы по изображениям. Для запуска требуется совместимый с Gemma 4 загрузчик MLX/vMLX, поддерживающий конфигурацию квантования JANG и файлы процессора и шаблона чата Gemma 4. Репозиторий не содержит весов MTP для спекулятивного декодирования. Лицензия — Gemma; применимость аудио- и видеовхода зависит от поддержки конкретного загрузчика.