I.11Классификация, ранжирование и сопоставление

T3qm7xNeuralsirkrishna_YamStrangemerges_32 — объединённая языковая модель семейства Mistral, созданная на основе automerger/T3qm7xNeuralsirkrishna-7B и automerger/YamStrangemerges_32-7B. Она содержит 7,1 млрд параметров и принимает текст для авторегрессионной генерации текста, включая диалоги; максимальный контекст составляет 32 768 токенов. Модель подойдёт для генерации продолжений, ответов и диалоговых реплик в текстовых приложениях. В репозитории указана лицензия Apache-2.0. README и метаданные не сообщают о специализированной предметной области или конкретных ограничениях качества.

TARS-8B-llama-REMIX — языковая модель, созданная picAIso слиянием SLERP через mergekit моделей picAIso/MIX1 и NousResearch/Hermes-2-Pro-Llama-3-8B. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM и примерно 7,5 млрд параметров. Она предназначена для генерации текста и диалогового взаимодействия; заявленная длина контекста составляет 8192 токена. Карточка указывает поддержку чата, а базовая Hermes-2-Pro-Llama-3-8B ориентирована на следование инструкциям, вызов функций и генерацию структурированных данных JSON. Лицензия модели — MIT. Подробные оценки качества и ограничения конкретного слияния в карточке не приведены.

SzilviaB/Triple_Solar_2x10.7b-truthy-DPO — разговорная языковая модель для генерации текста. По карточке, это слияние моделей методом TIES с помощью mergekit; в конфигурации одна и та же модель macadeliccc/SOLAR-2x10.7b-truthy-dpo указана несколько раз. Каталог классифицирует архитектуру как MixtralForCausalLM с MoE и указывает 10,6 млрд параметров. Модель предназначена для диалога, генерации ответов и продолжения текста. Она принимает текст и выдаёт текст, поддерживает контекст до 4096 токенов. В метаданных указана библиотека Transformers и формат safetensors. Лицензия и ограничения на использование в предоставленных сведениях отсутствуют.

Typhoon-0130 — инструктивная языковая модель команды SCB10X AI Team, предназначенная для диалогов и выполнения пользовательских инструкций на тайском и английском языках. Модель содержит 7,1 млрд параметров, использует плотную decoder-only архитектуру Mistral и поддерживает контекст до 32 768 токенов. Для общения применяется шаблон ChatML. Модель подходит для создания чат-ботов и сервисов ответов на запросы, в том числе при развёртывании через vLLM. Она настроена следовать инструкциям и обучалась с использованием методов и данных, сходных с ORCA и OpenChat. Системные промпты не поддерживаются; модель может выдавать неточные, предвзятые или нежелательные ответы, поэтому её следует оценивать с учётом сценария использования. Лицензия — Apache-2.0.

Это квантованные файлы в формате GGUF базовой инструкционной языковой модели wisenut-nlp-team/wisenut-llama-3-8B-0.9-Instruct. Квантования подготовлены командой featherless-ai-quants; исходный разработчик базовой модели указан как wisenut-nlp-team. Модель предназначена для генерации текста и выполнения инструкций в сценариях локального или совместимого с GGUF запуска. В названии указано 8B, однако README не приводит подробностей об архитектуре, языках, модальностях или размере контекста. Доступны варианты с разной степенью квантования: от Q2_K и Q3_K до Q8_0, с заявленным размером файлов примерно от 3,0 до 8,1 ГБ. Более компактные варианты могут снизить требования к памяти, тогда как варианты с более высокой точностью обычно лучше сохраняют качество, но требуют больше ресурсов. README не содержит результатов тестирования, описания сильных сторон, ограничений или рекомендаций по выбору квантования. Лицензия модели в предоставленных данных не указана, поэтому условия использования определить невозможно.

Yi-1.5-34B-Chat-GGUF — квантизированная версия чат-модели Yi-1.5-34B-Chat, разработанной 01-ai и преобразованной в формат GGUF компанией Second State Inc. Модель предназначена для генерации текста и диалоговых сценариев, включая использование через LlamaEdge. Для работы применяется шаблон запросов ChatML и контекст длиной до 7168 токенов. Модель имеет размер 34 млрд параметров; в README не указаны поддерживаемые языки и модальности, поэтому её следует рассматривать как текстовую. Доступны варианты с разной степенью квантизации от Q2_K до Q8_0, а также версии f16. Вариант Q4_K_M рекомендован как сбалансированный по размеру и качеству, тогда как Q5_K_M и Q5_K_S обеспечивают меньшее снижение качества при большем потреблении памяти. Более сильная квантизация уменьшает размер файлов и требования к ресурсам, но может заметно ухудшать качество ответов. Модель распространяется по лицензии Apache-2.0. Для запуска с LlamaEdge в README указана версия, которая на момент публикации ещё не была доступна; приведены команды для сервиса и консольного приложения. Размеры файлов зависят от варианта квантизации и составляют примерно от 12,8 до 36,5 ГБ.

Armaggheddon разработал три варианта YOLOv11 — nano, small и medium — и дообучил их на DocLayNet для анализа структуры документов. Модели обнаруживают и классифицируют 11 типов элементов страницы: текстовые блоки, заголовки, таблицы, изображения, подписи, списки, формулы, колонтитулы и сноски. Модель предназначена для обработки изображений документов в конвейерах понимания документов и извлечения информации. Вариант nano ориентирован на скорость, small предлагает немного большую точность, а medium — максимальную точность среди описанных вариантов при более высоких вычислительных затратах. Обучение проводилось при разрешении 1280×1280; снижение до 640×640 ухудшало обнаружение мелких элементов. Это дообучение Ultralytics/YOLO11, распространяемое в формате PyTorch под лицензией MIT. README рекомендует nano для производственного применения.

GLM-4.7-Flash-GGUF — это квантизированная версия текстовой генеративной модели GLM-4.7-Flash, разработанной zai-org и подготовленной пользователем bartowski в формате GGUF. Модель предназначена для генерации текста и может запускаться локально через llama.cpp, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. В README заявлена поддержка английского и китайского языков. Доступны варианты от BF16 до компактных IQ- и Q-квантований размером примерно от 12,71 до 59,91 ГБ. Квантизация выполнена с использованием imatrix; для ряда вариантов рекомендуется Q6_K или Q6_K_L как близкие к исходному качеству, а Q4_K_M описан как стандартный вариант для большинства сценариев с хорошим соотношением качества и размера. Архитектура, число параметров, максимальная длина контекста и мультимодальные возможности в предоставленных данных не указаны. Модель подходит для локального текстового инференса при наличии совместимого оборудования и обновлённой версии llama.cpp. Ограничения зависят от выбранного уровня квантизации: более компактные варианты экономят память, но могут заметно уступать по качеству; некоторые низкобитные варианты отмечены как низкокачественные или нерекомендуемые. Для корректной работы может потребоваться отключить Flash Attention и использовать обновлённую поддержку модели в llama.cpp. Указанная лицензия — MIT.

Карточка модели qihoo360/360Zhinao-7B-Chat-32K на Hugging Face совпадает с карточкой qihoo360/360Zhinao-7B-Base, поэтому описание составлено по ней. 360Zhinao-7B-Base — базовая авторегрессионная языковая модель семейства 360Zhinao, разработанная командой 360 (Qihoo 360). Модель содержит 7,1 млрд параметров и обучена на корпусе объёмом 3,4 трлн токенов, преимущественно на китайском и английском языках, а также на коде. Это базовая, а не чат-версия; для диалогового применения в серии отдельно выпущены модели Chat. Модель предназначена для генерации текста и служит основой для задач понимания языка, работы со знаниями, математики, логических рассуждений и генерации кода. Она поддерживает контекст до 4096 токенов, построена на архитектуре ZhinaoForCausalLM и распространяется в формате safetensors для Transformers. README сообщает о сравнительной оценке базовой модели на наборах OpenCompass, включая C-Eval, MMLU, GSM8K и HumanEval. Лицензия — Apache-2.0. Как базовая языковая модель, она не настроена специально для следования инструкциям или ведения диалога; качество ответов зависит от промпта и сценария применения.

AIN — арабско-английская мультимодальная модель MBZUAI на 7,1 млрд параметров, дообученная на базе qwen2-VL-7B. Она принимает изображения и текстовые запросы и предназначена для визуальных вопросов и ответов, OCR и анализа документов, а также понимания графиков, таблиц, видео и изображений из специализированных областей. Модель обучалась на 3,6 млн арабско-английских мультимодальных примеров; в карточке заявлены сильные результаты для арабского языка, двуязычные возможности и понимание культурного контекста. Архитектура основана на Qwen2-VL, поддерживает диалог и контекст до 32 768 токенов. Среди заявленных сценариев — медицинские изображения, сельское хозяйство, дистанционное зондирование и научная визуализация. Модель выдаёт текстовые ответы по содержимому изображений; для видео в README описана обработка локальных файлов. Указана лицензия MIT. Результаты и сравнительные заявления приведены авторами модели; качество на конкретных данных может отличаться.

Anima-7B-100K — языковая модель для генерации текста, разработанная lyogavin на основе Llama 2 7B. Авторы обучали её на специально отобранных длинных примерах вопросов и ответов с контекстом от 30 до 100 тысяч токенов и применили оптимизации памяти для работы с длинными последовательностями. В README заявлена поддержка входа длиной до 100 тысяч токенов; метаданные указывают нативный контекст 32 768 токенов. Модель предназначена для ответов на вопросы по длинным документам и поиска сведений в большом контексте. В README приведены собственные оценки на задачах извлечения тем и чисел из длинного контекста и NarrativeQA, но авторы отмечают нехватку подходящих оценочных наборов для контекста в 100 тысяч токенов. Модель основана на плотной архитектуре Llama и имеет 6,6 млрд параметров. В карточке указан английский язык. Лицензия Apache-2.0 допускает коммерческое использование.

AquilaMoE-SFT — двуязычная диалоговая языковая модель Beijing Academy of Artificial Intelligence (BAAI), построенная на архитектуре Mixture of Experts (MoE) семейства AquilaMoE и дообученная для следования инструкциям. В метаданных указано 15,9 млрд параметров; модель принимает текст и генерирует текст, поддерживает контекст до 4096 токенов и рассчитана на китайский и английский языки. Модель предназначена для диалогов и ответов на инструкции. В описании семейства говорится, что на каждом токене активируются два из восьми экспертов; приведённый результат AquilaMoE-SFT на AlpacaEval 2.0 составляет 21,1. Модель распространяется под лицензией Apache-2.0. README предупреждает, что у неё нет механизмов модерации, поэтому генерируемые ответы могут требовать отдельной проверки и фильтрации.

bartowski/arcee-ai_Virtuoso-Small-v2-GGUF — это набор квантованных версий языковой модели Virtuoso-Small-v2, разработанной arcee-ai и преобразованной bartowski в формат GGUF с использованием llama.cpp. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и другие совместимые проекты. В репозитории представлены варианты с точностью от F32 и F16 до различных методов квантования Q8, Q6, Q5, Q4, Q3 и Q2, размером примерно от 6,5 до 59 ГБ. Для взаимодействия используется chat-шаблон с ролями system, user и assistant. Данные о числе параметров, архитектуре исходной модели, контекстном окне, поддерживаемых языках и модальностях в README не указаны; по имеющимся сведениям это текстовая, а не мультимодальная модель. Сильная сторона набора — широкий выбор компромиссов между качеством, размером и требованиями к памяти: высокоточные варианты Q6 и Q5 обозначены как близкие к исходному качеству, а Q3 и Q2 подходят для систем с ограниченным объёмом RAM, хотя обеспечивают более низкое качество. Некоторые варианты оптимизированы для ARM или Apple silicon. Распространение указано на условиях лицензии Apache-2.0.

Модель ganesh714/arq_m1_chairs_think_Q7b_C — дообученная языковая модель семейства Qwen2 на базе unsloth/qwen2.5-coder-7b-instruct-bnb-4bit. Она построена на архитектуре Qwen2ForCausalLM и содержит 7,1 млрд параметров; модель предназначена для генерации текста в диалоговом формате и поддерживает интерфейс вызова инструментов. В README указано, что обучение выполнялось с Unsloth и библиотекой TRL. Модель принимает текст и генерирует текст; заявленная длина контекста — 32 768 токенов. В метаданных указан английский язык. Лицензия — Apache-2.0. В карточке нет подробностей о специализации дообучения или оценках качества, поэтому пригодность для конкретных задач следует проверять на собственных примерах.

bruphin-zeta — объединённая методом SLERP языковая модель от nbeerbower, созданная с помощью mergekit на основе bruphin-epsilon и Dolphin 2.6 Mistral 7B DPO Laser. Это плотная авторегрессионная модель архитектуры Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов; репозиторий содержит веса в формате safetensors. Модель предназначена для генерации текста и диалогов, а конфигурация указывает на совместимость с шаблоном ChatML. Модель может использоваться для диалоговых ассистентов и генерации ответов с длинным контекстом. Карточка не приводит отдельных результатов оценки или перечня языков. Лицензия — Apache-2.0.

Calme-7B-Instruct-v0.9 — языковая модель MaziyarPanahi с 7,1 млрд параметров, дообученная на базе Mistral-7B на высококачественных наборах данных. Это плотная авторегрессионная модель семейства Mistral для генерации текста; заявленная длина контекста — 32 768 токенов. Модель рассчитана на диалоговое применение и генерацию связных ответов и текста. Доступны веса в формате safetensors, а автор также предоставляет отдельную квантизированную версию GGUF. Лицензия — Apache-2.0.

Это GGUF-квантизированная версия conversational-модели datagemma-rig-27b-it, исходно разработанной Google. Релиз подготовлен пользователем legraphista с применением llama.cpp и предназначен для локального запуска и генерации текста в диалоговых сценариях. В основе лежит модель размером 27 млрд параметров в формате BF16; исходная карточка указывает текстовую генерацию, но не сообщает поддерживаемые языки и размер контекстного окна. Доступны варианты от BF16 и FP16 до Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и Q2_K, включая форматы IQ. Квантизация позволяет выбирать компромисс между качеством, размером файла и требованиями к памяти: размеры файлов варьируются примерно от 10,45 до 54,46 ГБ. Для ряда вариантов применена IMatrix-квантизация, рассчитанная на сохранение качества при уменьшенной точности; BF16, FP16, Q8_0 и Q6_K используют статические варианты без IMatrix. Модель предназначена для работы через llama.cpp и совместимые инструменты, однако конкретные системные требования и показатели качества в README не указаны. Использование регулируется лицензией Gemma от Google; для доступа на Hugging Face требуется принять условия лицензии. Ограничения, связанные с безопасностью, точностью ответов и конкретными сценариями применения исходной модели, в представленных данных не описаны.

Это GGUF-квантизированная версия языковой модели cogito-v2-preview-llama-109B-MoE, разработанной deepcogito и подготовленной пользователем bartowski. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты на базе llama.cpp. Архитектура модели — Mixture of Experts (MoE), общий заявленный размер — 109B параметров. Доступны варианты квантизации от Q8_0 до Q3 и IQ3/IQ4, с размером файлов примерно от 47,62 до 114,52 ГБ. Квантизация выполнена с использованием imatrix и llama.cpp версии b6014. Более высокие варианты обеспечивают лучшее сохранение качества, а менее точные требуют меньше оперативной памяти; среди рекомендуемых указаны Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S и IQ4_XS. Модель подходит для локального текстового инференса при наличии значительных вычислительных ресурсов и объёма памяти, соответствующего выбранному варианту квантизации. В README не указаны поддерживаемые языки, размер контекста, мультимодальные возможности, точные характеристики базовой архитектуры, лицензия и формальные ограничения использования. Шаблон чата не задан; предложенный формат является значением по умолчанию и может быть некорректным, поэтому его следует сверять с исходной карточкой модели.

Это пакет слоёв модели DeepSeek-R1-Distill-Qwen-32B в формате GGUF Q4_K_M, подготовленный Mesh LLM для распределённого запуска. Он сохраняет разбиение исходного GGUF на отдельные артефакты по слоям и предназначен для инференса на локальном кластере из нескольких машин, когда полной модели недостаточно разместить на одном узле. Пакет подходит для приватного локального чата и для работы через локальный API Mesh LLM с совместимым с OpenAI интерфейсом chat completions. Репозиторий указывает исходную модель unsloth/DeepSeek-R1-Distill-Qwen-32B-GGUF и вариант квантования Q4_K_M. Сведения об архитектуре, контекстном окне, языках и условиях лицензии следует сверять с карточкой исходной модели; в предоставленных данных они не раскрыты.

mlx-community/DeepSeek-V3.1-4bit — это 4-битно квантованная версия языковой модели DeepSeek-V3.1, разработанная сообществом mlx-community на основе модели deepseek-ai и преобразованная в формат MLX с использованием mlx-lm 0.26.3. Модель предназначена для генерации текста и локального запуска в экосистеме MLX. Она поддерживает сценарии диалогового взаимодействия и текстовой генерации через библиотеку mlx-lm; README также указывает на наличие chat template, совместимого с сообщениями ролей user и assistant. Архитектура, количество параметров, поддерживаемые языки, размер контекста и дополнительные модальности в предоставленных данных не указаны, поэтому нельзя достоверно оценить эти характеристики. Ключевая особенность модели — 4-битное представление, потенциально снижающее требования к памяти по сравнению с полной точностью, а также адаптация к MLX. Ограничения и результаты бенчмарков в README не приведены. Модель распространяется по лицензии MIT.

cmarkea/detr-layout-detection — модель обнаружения структуры документов, разработанная cmarkea и дообученная на DocLayNet на базе DETR с ResNet-50. Она анализирует изображение страницы и одновременно предсказывает ограничивающие рамки и маски элементов макета: подписей, сносок, формул, пунктов списков, колонтитулов, изображений, заголовков разделов, таблиц, основного текста и заголовков страниц. Модель предназначена для извлечения структуры страниц при обработке документных корпусов, в том числе для подготовки данных к системам ответов на вопросы по документам. В README приведены результаты оценки на 500 страницах DocLayNet; заявлены F1 91,27 для сегментации и GIoU 80,66 для обнаружения объектов в сравнительном бенчмарке. Число параметров — 6,3 млн; веса доступны в формате safetensors для Transformers. Модель принимает изображения документов и выдаёт классы элементов, маски и рамки объектов. Лицензия — Apache-2.0. Качество оценивалось на DocLayNet; переносимость на другие типы документов и качество на отдельных классах могут отличаться.

DIOD-Mistral-0.2 — диалоговая языковая модель на архитектуре Mistral, созданная дообучением OpenHermes-2-Mistral-7B. Для обучения использовался набор пар предпочтений argilla/distilabel-intel-orca-dpo-pairs. Модель предназначена для генерации ответов в диалоге и других сценариев общения с текстовым помощником. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Репозиторий содержит веса в формате Safetensors; в метаданных указаны английский язык и возможность чата. Лицензия — Apache-2.0.

DocLayout-YOLO Docstructbench — модель компьютерного зрения для обнаружения элементов структуры документов, основанная на семействе DocLayout-YOLO и представленная в формате ONNX. Она предназначена для поиска и классификации десяти типов областей: заголовков, обычного текста, иллюстраций и подписей к ним, таблиц и их подписей и сносок, а также формул и подписей к ним. Модель можно применять в конвейерах анализа документов и подготовки их структурированного представления. Модель рассчитана на входные изображения документов и выдаёт обнаруженные области с метками классов. Репозиторий указывает Apache-2.0 в качестве лицензии. Карточка не сообщает сведения о размере модели, контексте или языковой поддержке; применимость может зависеть от качества и разметки входного документа.

DRAGON-YI-1.5V-9B — языковая модель llmware для ответов на вопросы по документам в сценариях RAG. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM и 8,6 млрд параметров; она дообучена на базе Yi-9B и принимает текстовый контекст вместе с вопросом. Модель рассчитана на английский язык и имеет контекстное окно 4096 токенов. Модель предназначена для поиска фактических ответов в сложных деловых, юридических и нормативных документах, извлечения пар «ключ — значение» и краткого суммирования. Разработчик сообщает о тестировании на RAG-Instruct-Benchmark-Tester и хороших результатах на этой оценке, однако результаты бенчмарка не гарантируют качество на других данных. Модель выдаёт текст и может ошибаться или давать неполные ответы, поэтому ответы следует проверять. Лицензия — Apache 2.0. В README результаты тестирования указаны для квантизованной версии 4_K_M, тогда как репозиторий содержит веса PyTorch.

EVA-Qwen2.5-32B-v0.0-GGUF — это текстовая генеративная модель на базе EVA-Qwen2.5-32B-v0.0, разработанной EVA-UNIT-01. Представлена в формате GGUF и предназначена для локального запуска через llama.cpp и совместимые приложения, включая LM Studio. Модель ориентирована на диалоговую генерацию текста, следование инструкциям, написание текстов и roleplay-сценарии. Модель содержит 32 миллиарда параметров; точная архитектура, размер контекста и перечень поддерживаемых языков в README не указаны. Доступны варианты от F16 до различных уровней квантования Q8, Q6, Q5, Q4 и Q3, включая imatrix-квантизации. Более крупные варианты обеспечивают лучшее качество, а компактные требуют меньше оперативной памяти, но могут заметнее терять в качестве. Некоторые варианты оптимизированы для ARM и требуют поддержки SVE или i8mm; они не предназначены для Mac или Windows. Квантизацию выполнил bartowski с использованием llama.cpp и imatrix. Модель распространяется по лицензии Apache-2.0. README не содержит результатов бенчмарков, поэтому фактическое качество в конкретных задачах следует оценивать отдельно.

ehristoforu/Falcon3-8B-Franken-Basestruct — объединённая языковая модель на 8 млрд параметров, созданная методом SLERP с помощью mergekit из tiiuae/Falcon3-10B-Instruct и tiiuae/Falcon3-10B-Base. Модель использует плотную архитектуру LlamaForCausalLM и предназначена для генерации текста, в том числе в диалоговом формате; заявленный контекст составляет 32 768 токенов. Объединение сочетает инструкционную и базовую версии Falcon3. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Метаданные отмечают поддержку чата и интерфейс вызова инструментов, однако подробные оценки качества и конкретные сценарии применения в карточке не приведены. Сведения о лицензии в предоставленных данных отсутствуют.

FuseO1-DeepSeekR1-QwQ-32B-Preview-GGUF — это набор квантизированных версий языковой модели FuseO1-DeepSeekR1-QwQ-32B-Preview, разработанной FuseAI и подготовленной пользователем bartowski в формате GGUF. Модель предназначена для генерации текста и локального запуска через llama.cpp и совместимые приложения, включая LM Studio. Модель содержит 32 млрд параметров; README не указывает её точную архитектуру, поддерживаемые языки, модальности и размер контекстного окна. Доступны варианты от BF16 до различных уровней квантизации Q8, Q6, Q5, Q4, Q3 и IQ. Более высокие уровни сохраняют лучшее качество, но требуют больше памяти, тогда как Q3 и некоторые IQ-варианты рассчитаны на системы с ограниченным объёмом RAM. Квантизация выполнена с использованием imatrix и специального датасета; для запуска требуется корректный шаблон prompt. Сильная сторона модели — широкий выбор вариантов с различным компромиссом между качеством, размером и требованиями к памяти, а также поддержка локального инференса. Ограничения включают отсутствие в README данных о фактических результатах тестирования, языках, контексте и возможностях мультимодальности; качество также зависит от выбранного уровня квантизации. Лицензия в предоставленных материалах не указана.

m8than/gemma-2-9b-it — разговорная языковая модель семейства Gemma 2, размещённая пользователем m8than. Репозиторий содержит модель на 9 млрд параметров в формате safetensors; в метаданных указана архитектура Gemma2ForCausalLM и библиотека Transformers. Модель принимает текст и предназначена для генерации текста в диалоге; карточка также описывает сценарии дообучения Gemma 2 с помощью Unsloth и содержит ссылки на ноутбук для Colab. Заявленная длина контекста — 8192 токена. Метаданные указывают английский язык. В README сказано, что модель напрямую квантизирована в 4 бита с bitsandbytes; репозиторий помечен лицензией Gemma. Данных о сравнительных качествах и конкретных ограничениях модели в карточке нет.

mlboydaisuke/gemma-4-E4B-CoreAI — это текстовая генеративная модель Gemma 4 E4B, разработанная Google и преобразованная в формат Apple Core AI компанией или автором репозитория модели. Она предназначена для локального запуска на устройствах Apple под управлением iOS 27 и macOS 27, включая офлайн-диалоги, суммаризацию, генерацию текста и интеграцию в приложения через CoreAIKit. Модель может работать на GPU или Neural Engine без пользовательских ядер. Модель основана на официальном QAT-чекпойнте google/gemma-4-E4B-it-qat-q4_0-unquantized. Это плотный текстовый decoder-only трансформер без MoE: заявлены 42 слоя, скрытое представление размером 2560, промежуточный размер 10240, 8 query heads и 2 KV heads; полное внимание используется в каждом шестом слое. Веса подготовлены для округления q4_0 и представлены в виде int4-квантизации с блоками по 32 значения. Размер поставляемых файлов составляет примерно 7,1 ГБ, а пиковое потребление памяти на iPhone 17 Pro заявлено на уровне 2,2 ГБ. Сильные стороны модели — запуск полностью на устройстве, отсутствие необходимости в облачном API, совместимость с экосистемой Apple и подтверждённое совпадение жадной генерации с эталоном на указанных тестах. Ограничения включают зависимость от iOS 27 или macOS 27, аппаратной платформы Apple и конкретного runtime Core AI; сведения о поддерживаемых языках и максимальной длине контекста в карточке не указаны. Модель распространяется по лицензии Apache-2.0, при этом базовый Gemma-чекпойнт имеет собственные условия Google, на которые указывает ссылка в метаданных.

Модель armand0e/Gemma-4-E4B-it-DeepSeek-v4-Distill — дообученная на базе unsloth/gemma-4-E4B-it мультимодальная модель семейства Gemma 4 с плотной архитектурой Gemma4ForConditionalGeneration. Автор карточки указывает, что модель обучалась с использованием Unsloth и библиотеки Hugging Face TRL. Модель предназначена для диалога и генерации ответов по текстовым и визуальным входам; метаданные также отмечают поддержку интерфейса вызова инструментов. Базовая Gemma 4 E4B Instruct описана как подходящая для анализа изображений, документов, программирования и других текстовых задач, но отдельные возможности этой версии подробно не подтверждены карточкой. Модель распространяется в формате safetensors по лицензии Apache-2.0. Карточка не сообщает размер контекста и подробные результаты оценки качества; практическое качество дистилляции DeepSeek в README не раскрыто.