I.11Классификация, ранжирование и сопоставление

Это квантованная версия модели supergemma4-e4b-abliterated, основанной на Jiunsong/supergemma4-e4b-abliterated. Квантование выполнил mradermacher; набор файлов опубликован в формате GGUF. Модель предназначена для генерации текста по инструкциям, включая сценарии с tool-calling и structured output, а также поддерживает обработку изображений как vision-модель. В README указано, что модель ориентирована на английский язык и использует экосистему Transformers. Доступны варианты квантования i1 с разными типами и размерами примерно от 4,5 до 6,3 ГБ; среди рекомендуемых отмечены i1-Q4_K_M как быстрый вариант и i1-Q4_K_S как компромисс между размером, скоростью и качеством. Конкретные архитектурные параметры, число параметров и размер контекста не указаны. Для работы с изображениями могут потребоваться отдельные mmproj-файлы из статического репозитория. Основные преимущества — широкий выбор GGUF-квантов, возможность локального запуска при ограниченных ресурсах и поддержка текстовых, визуальных, инструментальных и структурированных сценариев. Качество зависит от выбранного типа квантования: варианты с более низким размером могут уступать по качеству, а IQ-кванты в README часто рекомендуются вместо сопоставимых обычных вариантов. Модель распространяется по лицензии Gemma.

supreme-vision-3b — мультимодальная модель для понимания изображений, разработанная SupremeAI для SupremeAI 2.0. Она дообучена на базе Qwen2-VL-3B-Instruct и предназначена для распознавания текста на изображениях, разбора снимков интерфейсов и анализа визуальных документов. Модель построена на архитектуре Qwen2.5-VL, содержит 3,1 млрд параметров, принимает изображения и текстовые запросы и формирует текстовые ответы. Нативный контекст — до 128 000 токенов. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

Swift-Qwen3.8-27B-Genesis-F16-GGUF — мультимодальная модель на базе Swift-Qwen3.8-27B, опубликованная LuffyTheFox. Автор применил к весам метод Genesis для численной коррекции тензоров; модель распространяется в формате GGUF F16 и рассчитана на запуск в llama.cpp, LM Studio, koboldcpp и других совместимых средах. Лицензия — Apache-2.0. Модель предназначена для диалогов, анализа изображений и видео, а также задач общего назначения, включая программирование. README указывает плотную архитектуру на 27 млрд параметров с визуальным энкодером, 64 слоями языковой модели и контекстом 262 144 токена; заявлена возможность расширения контекста до 1 000 000 токенов при поддержке со стороны среды запуска. Указана поддержка текста, изображений и видео, однако для работы с изображениями нужен отдельный файл mmproj. Автор описывает Genesis как постобработку тензоров без переобучения и заявляет, что она снижает шум весов, сохраняя выученные знания. Эти заявления не сопровождаются в карточке независимыми результатами оценки. Для работы с шаблоном диалога рекомендуется llama.cpp с флагом --jinja; README также советует использовать контекст не менее 128K токенов для сохранения возможностей рассуждения. Модель помечена как uncensored; качество и поведение на разных задачах могут отличаться от заявлений автора.

Triangulum-10B-GGUF — это квантизированная версия языковой модели Triangulum-10B, разработанной prithivMLmods и преобразованной в формат GGUF пользователем bartowski. Модель предназначена для генерации текста, задач рассуждения и сценариев, где требуется пошаговое объяснение решения. В метаданных также указаны поддержка оценки кода, точности, математических задач и символьных операций. Модель содержит около 10 млрд параметров и относится к семейству causal language models на базе Llama. Доступны варианты от F16 до низкобитных квантований Q8, Q6, Q5, Q4, Q3 и Q2, включая форматы IQ. Размер файлов составляет примерно от 3,6 до 20,6 ГБ. Заявлена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Модель работает с текстом; сведения о мультимодальности и размере контекстного окна не указаны. Сильной стороной являются разнообразие вариантов квантования и возможность локального запуска через llama.cpp и совместимые приложения, включая LM Studio. В README рекомендуются варианты Q6_K_L, Q6_K, Q5 и Q4 для сочетания качества и размера, тогда как низкобитные варианты экономят память, но снижают качество. Формат инструкций для запросов не указан, поэтому его необходимо уточнять по странице исходной модели. Лицензия обозначена как llama3.1.

Triangulum-5B — диалоговая языковая модель prithivMLmods для генерации текста и многоязычных сценариев. Это плотная авторегрессионная модель семейства LLaMA с архитектурой LlamaForCausalLM и примерно 4,9 млрд параметров; для работы с Transformers требуется версия 4.43.0 или новее. Контекст составляет до 8192 токенов. Модель предназначена для генерации контента, диалога и ответов на вопросы, суммаризации, анализа текста, перевода и локализации. В карточке заявлены обучение на синтетических данных с длинными цепочками рассуждений, supervised fine-tuning и RLHF. Указана поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Модель представлена в формате safetensors и доступна для запуска через Transformers; README также описывает запуск варианта через Ollama. Лицензия — CreativeML Open RAIL-M. Карточка не приводит результаты оценок качества, поэтому заявленные возможности рассуждения не следует считать подтверждением превосходства на конкретных задачах.

Vero-Qwen3I-8B — мультимодальная модель для общего визуального рассуждения из открытого семейства Vero. Она создана на основе Qwen3-VL-8B-Instruct и дообучена с применением обучения с подкреплением. Модель содержит 8 млрд параметров и предназначена для диалога и анализа изображений.

Dennis1315/ward-cloud-14b — мультимодальная модель семейства Qwen3.5, дообученная Dennis1315 на базе Qwen/Qwen3.5-9B с использованием Unsloth и библиотеки Hugging Face TRL. Она предназначена для диалога с текстом и изображениями; метаданные также указывают интерфейс вызова инструментов. Базовая модель рассчитана на анализ изображений, рассуждения, программирование и агентные задачи. Модель принимает текст и изображения и формирует текстовые ответы. В репозитории используются веса Safetensors. Лицензия — Apache-2.0. Подробности обучающего набора и оценки качества в доступной карточке не приведены.

XCurOS1.2-8B-VLBF16-Instruct — мультимодальная инструктивная модель компании XCurOS для анализа изображений и текста. По метаданным, она построена на плотной архитектуре Qwen3-VL и предназначена для генерации текстовых ответов по текстовым и визуальным входам; README указывает размер 8B и формат BF16 в названии модели, а файлы представлены в safetensors и рассчитаны на работу через Transformers. Модель заявлена для понимания документов, извлечения текста из изображений и сканов, анализа диаграмм, корпоративных помощников и автоматизации агентных сценариев. Карточка также заявляет поддержку длинных контекстов и локального развёртывания, но не приводит числовой предел контекста или сравнительные результаты. Поддерживаемые языки по метаданным — английский и арабский. Лицензия указана как проприетарная, «All rights reserved»; использование и интеграции требуют разрешения XCurOS. Заявления о защищённой работе, точности, эффективности и пригодности для чувствительных данных не подкреплены в карточке техническими оценками или независимыми результатами.

Zenith-7B-dpo-v1 — диалоговая языковая модель Xenon1 на архитектуре Mistral, дообученная на Mistral-7B-v0.1 с использованием набора Ultrafeedback и техник из статьи Self-Rewarding Language Models. Модель предназначена для генерации ответов на инструкции и ведения диалога; для запросов используется формат Mistral с маркерами [INST] и [/INST], также доступен шаблон чата Transformers. Модель содержит 7,1 млрд параметров, использует Grouped-Query Attention, Sliding-Window Attention и токенизатор Byte-fallback BPE. Максимальный контекст — 32 768 токенов. Указана поддержка английского языка; опубликованные веса представлены в формате safetensors. Модель распространяется по лицензии Apache-2.0.

AlphaMonarch-7B — диалоговая языковая модель на архитектуре Mistral с 7,1 млрд параметров, созданная Mlabonne. Модель получена слиянием нескольких моделей семейства Beagle и последующим дообучением методом DPO на наборе предпочтений argilla/OpenHermes2.5-dpo-binarized-alpha; в метаданных базовой моделью указана mlabonne/NeuralMonarch-7B. Модель предназначена для диалогов, следования инструкциям, рассуждений, ролевых сценариев и написания историй. README рекомендует шаблон чата Mistral Instruct и описывает контекст 8 тысяч токенов; метаданные указывают native context в 32 768 токенов. Разрешено текстовое взаимодействие на английском языке. README сообщает о формальном и изысканном стиле ответов, который можно менять инструкциями в запросе. Модель доступна в формате safetensors и распространяется по лицензии CC BY-NC 4.0, ограничивающей коммерческое использование. Заявления README о сравнительных результатах относятся к указанным там бенчмаркам; они не гарантируют качество на других задачах. LLM может выдавать ошибочную или вымышленную информацию.

Apodex-1.1-mini — модель для рассуждений и сложных многоэтапных задач, разработанная Apodex и дообученная на базе Qwen/Qwen3.5-35B-A3B. В карточке описаны работа с файлами, данными, кодом и инструментами, вызов функций и применение в агентных сценариях; модель следует шаблону чата Qwen3.5 и рассчитана на запуск через Transformers с совместимым сервером. Для версии mini приведены результаты оценок на финансовых и агентных бенчмарках, но подробности конфигурации самой модели в карточке ограничены. Модель предназначена для автоматизации исследований, подготовки отчетов и выполнения профессиональных задач с привлечением инструментов. По описанию Apodex, агентная система может разбивать работу на этапы, координировать параллельных агентов и проверять утверждения по источникам и вычислениям. В метаданных указаны архитектура семейства Qwen3.5 MoE, формат safetensors и базовая модель на 35 млрд параметров; эти сведения относятся к базовой модели, а размер самой Apodex-1.1-mini не приведён. Указана лицензия Apache-2.0. Оценки в README представлены разработчиком; независимая проверка результатов в карточке не описана. Для использования вызова инструментов нужны совместимые шаблон чата и парсеры, а работа с внешними файлами, кодом и агентной командой зависит от соответствующей инфраструктуры.

Arcee-SuperNova-v1 — текстовая модель Arcee AI для диалогов и выполнения инструкций. В основе лежит Llama-3.1-70B-Instruct; модель объединяет дистиллированную версию Llama-3.1-405B-Instruct, вариант, дообученный на синтетических данных Evol-Kit, и вариант, оптимизированный с помощью Direct Preference Optimization (DPO). В метаданных указаны архитектура LlamaForCausalLM, 69,5 млрд параметров и контекст до 131 072 токенов. Модель предназначена для ответов на разнообразные запросы, следования инструкциям, математических задач и использования как основы для дальнейшего обучения с подкреплением на основе человеческой обратной связи. Поддерживает генерацию текста и диалоговый сценарий; в метаданных также заявлен интерфейс вызова инструментов. Для использования указана лицензия Llama 3. Карточка описывает объединение нескольких подходов к обучению, но не приводит количественных оценок качества или результатов сравнительных тестов.

Caption-Pro — дообученная мультимодальная модель prithivMLmods для создания подробных описаний и структурированных аннотаций изображений. Она основана на Qwen/Qwen2-VL-2B-Instruct и использует архитектуру Qwen2-VL с примерно 1,5 млрд параметров; принимает изображения и текстовые запросы, а выдаёт текст, в том числе аннотации в формате JSON. Заявлены контекст до 32 768 токенов, поддержка диалогового режима и OCR для текста на нескольких языках, включая английский, китайский, японский, корейский и арабский. Модель предназначена для автоматического описания изображений, извлечения текста и подготовки структурированных данных для приложений, баз данных и конвейеров автоматизации. Карточка заявляет обучение на большом наборе аннотированных изображений, но не приводит подробностей датасетов или результатов оценивания. Модель распространяется по лицензии Apache-2.0.

CombinaTrix-7B — объединённая языковая модель, созданная CultriX с помощью LazyMergekit из NeuralBeagle14-7B, WestSeverus-7B-DPO-v2 и TurdusTrixBeagle-DARETIES-7B. В конфигурации указан WestLake-7B-v2 как базовая модель слияния; применён метод dare_ties, веса сохранены в формате float16. Модель основана на плотной архитектуре Mistral, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста, включая диалоговые ответы, следование инструкциям, рассуждения и творческое письмо — эти сценарии унаследованы от составляющих моделей. Она принимает текст и выдаёт текст. Лицензия — Apache-2.0.

Jebadiah/dolphin-hermes-stone-l3-8b-1m — слитая разговорная языковая модель на архитектуре Llama 3, созданная с помощью mergekit из cognitivecomputations/dolphin-2.9-llama3-8b-1m и NousResearch/Hermes-2-Pro-Llama-3-8B. Модель содержит 7,5 млрд параметров и предназначена для генерации текста в диалогах и ответов на инструкции. Заявленная длина контекста — 1 048 576 токенов. Модель доступна в формате safetensors и рассчитана на использование через Transformers. Карточка не сообщает о специализированной предметной области или поддерживаемых языках. Лицензия в предоставленных данных не указана.

Zigeng/dParallel_Dream_7B_Instruct — инструктивная языковая модель семейства Dream, разработанная исследователями xML Lab Национального университета Сингапура. Она использует подход dParallel: дистилляцию с принудительным повышением уверенности токенов, предназначенную для параллельного декодирования диффузионных языковых моделей и сокращения числа шагов генерации при сохранении качества. Модель подходит для диалоговой генерации текста и задач, где важна быстрая генерация ответов; в карточке также заявлен интерфейс вызова инструментов. Модель имеет плотную архитектуру Dream, 7,1 млрд параметров и контекст до 131 072 токенов. Репозиторий содержит веса Safetensors; лицензия — MIT. README описывает ускорение на GSM8K и MBPP для dParallel, применённого к LLaDA-8B-Instruct, но не приводит отдельные показатели для этой Dream-модели.

ERNIE-4.5-300B-A47B-2Bits-Paddle — текстовая языковая модель семейства ERNIE 4.5 от Baidu, представленная в репозитории в формате safetensors. Это модель генерации текста с архитектурой MoE: всего 300 млрд параметров, из которых для каждого токена активируется около 47 млрд; в конфигурации указаны 54 слоя и контекст до 131 072 токенов. Она предназначена для диалогов, понимания языка и генерации ответов, в том числе на английском и китайском языках. Семейство ERNIE 4.5 обучалось на текстовых и визуальных данных, однако этот вариант описан как текстовая модель и имеет задачу text-generation. Карточка рекомендует развёртывание через FastDeploy на PaddlePaddle и приводит параметры генерации Temperature=0.8 и TopP=0.8. Для репозитория указана лицензия Apache-2.0. Название содержит обозначение 2Bits, но метаданные сообщают только о формате safetensors, поэтому точный способ и степень квантизации файлов этого репозитория не подтверждены.

EverythingLM-13b-V2-16k — универсальная языковая модель, созданная на базе Llama 2 и обученная разработчиком totally-not-an-llm на наборе EverythingLM-V2. Это плотная авторегрессионная модель класса LlamaForCausalLM с 12,9 млрд параметров и контекстом до 16 384 токенов; доступен формат PyTorch. Модель предназначена для генерации текста, подробных ответов, творческих историй и рассуждений. В карточке заявлены автоматическое включение пошаговых рассуждений и улучшенное понимание запросов; для задач на рассуждение автор рекомендует низкую температуру генерации. Модель описана как uncensored, однако базовая модель может отказываться отвечать на некоторые запросы, и для них может потребоваться настройка промпта. Лицензия указана как Llama 2. README также содержит инструкции по настройке RoPE для GGML-квантованных вариантов, но метаданные этого репозитория указывают формат PyTorch.

Experiment26Neuralsirkrishna_Experiment28Yam — объединённая модель, созданная на основе automerger/Experiment26Neuralsirkrishna-7B и automerger/Experiment28Yam-7B. Она предназначена для генерации текста и может использоваться в приложениях, которым нужна языковая модель общего назначения. Модель построена на архитектуре Mistral с плотной структурой и содержит 7,1 млрд параметров. Длина контекста составляет до 32 768 токенов. Веса опубликованы в формате safetensors, лицензия — Apache-2.0. Данных о специализированной области применения или языках в карточке нет.

PocketWeights/Gemma-4-12B-agentic-abliterated-GGUF — это квантизированная в формате GGUF версия 12-миллиардной модели на архитектуре Gemma, разработанной Google. К использованной базовой модели Huihui-gemma-4-12B-agentic-fable5-abliterated применены дообучение и методы удаления отказов от huihui-ai / yuxinlu1; сборку и оптимизацию GGUF выполняет PocketWeights. Модель предназначена для генерации текста, диалогов, многошагового планирования, декомпозиции сложных запросов, структурированного вывода, агентских сценариев и использования инструментов или function calling. Заявлены возможности технического анализа, автономного выполнения многошаговых целей, red-teaming и творческого письма. Поддерживаемые модальности и языки в README не указаны; контекстное окно также не заявлено. Доступны варианты IQ3_M размером 5,73 ГБ, рассчитанный примерно на 6 ГБ VRAM или 8 ГБ RAM, и Q4_K_M размером 7,38 ГБ, рекомендованный для 8–12 ГБ VRAM или 16 ГБ RAM. Ключевое преимущество — сочетание 12B-параметров с локальным запуском на потребительском оборудовании. Ограничение — удалённые защитные механизмы, поэтому модель может генерировать небезопасный контент и рекомендуется для авторизованных исследований безопасности, симуляций red-teaming и локальных изолированных сред. Модель распространяется по Gemma Terms of Use / Open Model License; конкретные условия применения следует проверять в тексте лицензии.

t-firefly/gemma4-e2b-rknn3-rk1820 — сборка Gemma 4 E2B IT для запуска на устройстве RK1820 через LlamaPi. Исходную модель разработала Google DeepMind; это компактная инструкционно настроенная мультимодальная модель семейства Gemma 4 с плотной архитектурой генерации. В репозитории указаны форматы GGUF и safetensors, а метаданные отмечают возможность диалогового взаимодействия. Модель принимает текст, изображения и аудио, а выдаёт текст. Она предназначена для диалогов, рассуждений, программирования и мультимодального анализа на устройствах и периферийных системах; заявлены контекст до 256 тысяч токенов и поддержка более 140 языков. Для запуска предлагается LlamaPi. Лицензия репозитория — Apache-2.0. Карточка описывает возможности исходной Gemma 4 E2B IT, но не приводит отдельных результатов оценки качества для сборки RK1820. Практическая применимость мультимодального ввода и заявленного контекста зависит от реализации LlamaPi и аппаратных ресурсов устройства.

GLM-4.7-Flash-FP8 — это FP8-квантизированная версия модели GLM-4.7-Flash, разработанной zai-org. Модель предназначена для задач генерации текста и инференса через библиотеку Transformers и сервер vLLM; в README также указана поддержка архитектуры glm4_moe_lite, что указывает на использование MoE-подхода. Сведения о поддерживаемых языках и модальностях отсутствуют. Квантизация выполнена методом FP8 E4M3 с масштабами, встроенными в тензоры. Размер исходной модели в формате BF16 составляет около 62 ГБ, квантизированной версии — около 30 ГБ. В формате BF16 сохранены lm_head, embed_tokens, layernorms и веса маршрутизатора. В README приведён контекст длиной 8192 токена: на двух видеокартах RTX 3090 по 24 ГБ модель потребляла около 14,7 ГБ VRAM на GPU и достигала пропускной способности 19,4 токена в секунду при использовании vLLM 0.13.0 и tensor parallelism на двух GPU. Основное преимущество модели — существенно меньший объём хранения и потребление видеопамяти по сравнению с версией BF16 при сохранении ключевых компонентов в BF16. На GPU с аппаратной поддержкой FP8, включая RTX 40xx и более новые Ada Lovelace, ожидается более высокая производительность; RTX 3090 использует Marlin kernel для распаковки весов. Для запуска требуются vLLM версии 0.13.0 или новее и Transformers 5.0 или новее. Ограничения включают зависимость от совместимого оборудования и программного стека, а также отсутствие в README подробностей о качестве, результатах бенчмарков, языковой поддержке и максимальном контексте базовой модели. Лицензия — MIT.

Vontra/GLM-5.3-Flash-MLX-4bit-MTP — MLX-конверсия модели GLM-5.3-Flash от Z.ai, подготовленная для Apple Silicon. Это мультимодальная sparse MoE-модель архитектуры glm5_next с поддержкой текста и изображений, рассчитанная на работу с английским и китайским языками. Модель распространяется в формате MLX safetensors и сохраняет оригинальные токенизатор, chat template, мультимодальный процессор и настройки генерации. Модель предназначена для локальной генерации текста и обработки изображений в совместимых окружениях MLX и MLX-VLM. Она использует гибридное линейное и разреженное внимание, manifold-constrained hyper-connections и встроенный блок предсказания следующего токена для speculative decoding (native MTP). Заявленный контекст составляет до 1 048 576 токенов. Квантование выполнено методом weight-only post-training quantization: основные подходящие матрицы переведены в 4-bit с group size 64, тогда как vision encoder, projector, embeddings, output head и часть служебных тензоров сохранены в исходной или совместимой точности. К сильным сторонам относятся мультимодальность, очень длинный контекст, поддержка sparse MoE, оптимизация под Apple Silicon и существенное уменьшение размера весов по сравнению с полноточной моделью. Репозиторий занимает около 181,7 ГБ, поэтому для запуска требуется значительный объём объединённой памяти. Native MTP требует специальной интеграции GLM5 Next в runtime; проверена работа с oMLX 0.6.3rc3, MLX 0.32.0 и MLX-VLM 0.6.3 с соответствующей поддержкой. Старые или стандартные сборки без этой интеграции могут работать только без MTP либо не поддерживать модель. Приведённый тест на Apple M3 Ultra показал около 6,27 токена в секунду при отключённом MTP, но фактическая производительность зависит от нагрузки и окружения. Лицензия — MIT.

gradientai-Llama-3-8B-Instruct-262k-GGUF — набор квантованных файлов модели gradientai/Llama-3-8B-Instruct-262k, подготовленный организацией Featherless AI Quants. Модель относится к классу text-generation и предназначена для генерации текста и выполнения инструкций в сценариях локального или совместимого с GGUF инференса. Известно, что это 8-миллиардная instruct-модель семейства Llama 3 с заявленным контекстом до 262 тысяч токенов. README не указывает поддерживаемые языки, точную архитектуру, мультимодальные возможности, результаты оценки или специальные сценарии применения. Доступны варианты квантования Q2_K, Q3_K_S, Q3_K_M, Q3_K_L, Q4_K_S, Q4_K_M, IQ4_XS, Q5_K_S, Q5_K_M, Q6_K и Q8_0; их размер составляет примерно от 3,0 до 8,1 ГБ, что позволяет выбирать компромисс между требованиями к памяти и сохранением качества. Сильными сторонами модели являются большой заявленный контекст и широкий выбор GGUF-квантований, подходящих для разных аппаратных конфигураций. Ограничения README не раскрывает: отсутствуют сведения о качестве, скорости, требованиях к оборудованию, языковом покрытии и поведении на конкретных задачах. Лицензия в предоставленных данных не указана.

Granite-4.1-30B (FP8) — это версия модели IBM Granite 4.1-30B, представленная в формате FP8. Репозиторий подготовлен для использования с библиотекой Transformers и предназначен для языковых задач; более подробные сведения о возможностях и сценариях применения приведены в карточке исходной модели ibm-granite/granite-4.1-30b, которая в предоставленных данных отсутствует. Ключевая характеристика этой версии — представление весов в формате FP8, что может быть полезно для более эффективного хранения и выполнения модели в совместимой инфраструктуре. Из доступного README не указаны архитектура, точный размер в параметрах помимо обозначения 30B, поддерживаемые языки, длина контекста, модальности, результаты тестирования, сильные стороны и ограничения. Модель распространяется по лицензии Apache-2.0.

Hermes 2 Pro BakLLaVA — объединённая мультимодальная модель vonjack на архитектуре LlavaForCausalLM с языковой частью Mistral и компонентами mm_projector и vision_tower от BakLLaVA. Она содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов; веса опубликованы в формате safetensors. Модель предназначена для диалогов и выполнения инструкций, ответов на вопросы по изображениям, вызова функций и генерации JSON. В карточке заявлены хорошие результаты в QA, function calling, JSON mode и работе с изображениями; среди языков указан английский. Использование разрешено по лицензии Apache-2.0.

LFM2.5-2.6B-MLX-4bit — компактная мультиязычная текстовая generative-модель, разработанная Liquid AI. Это экспорт модели LFM2.5-2.6B в формате MLX, предназначенный для запуска вывода на устройствах с Apple Silicon. Модель подходит для генерации текста и других сценариев, основанных на обработке текстовых запросов, включая локальное использование на совместимых устройствах. Модель содержит 2,6 млрд параметров, использует 4-битную точность с размером группы 64 и занимает около 1,47 ГБ. Она построена на гибридной архитектуре Liquid AI, объединяющей свёрточные и attention-слои для эффективной обработки длинного контекста; заявленная длина контекста составляет 131 072 токена. Поддерживаются арабский, китайский, английский, французский, немецкий, хинди, индонезийский, итальянский, японский, корейский, польский, португальский, русский, испанский, тайский и вьетнамский языки. К сильным сторонам относятся компактный размер, низкая разрядность и возможность локального инференса на Apple Silicon, а ограничениями — специализация на текстовой модальности и потенциальные компромиссы качества, связанные с 4-битным квантованием. Модель распространяется по лицензии LFM 1.0.

spitfire4794/LFM2-700M-Heretic — производная модель на основе LiquidAI/LFM2-700M, созданная изменением поведения отказов методом abliteration. По приведённому сравнению доля отказов снизилась с 84 до 8 на 100 запросов; модель сохраняет отклонение от исходной модели, измеренное как KL divergence 0,123. Это компактная гибридная языковая модель семейства LFM2 с 956,3 млн параметров и контекстом до 128 000 токенов по метаданным. Архитектура LFM2 сочетает короткие свёрточные блоки и блоки группового внимания. Модель предназначена для генерации текста и диалогов, включая сценарии локального запуска и периферийных устройств, а также извлечение данных, RAG, творческое письмо и агентные задачи. Поддерживаются английский, арабский, китайский, французский, немецкий, японский, корейский и испанский языки. Базовая карточка рекомендует компактные модели LFM2 для узких прикладных задач и предостерегает от использования в задачах с интенсивной потребностью в знаниях или программировании. В метаданных указана лицензия other; конкретные условия следует сверять с лицензией репозитория. Модель позиционируется как менее склонная к отказам, поэтому её ответы могут охватывать запросы, которые исходная модель отклоняет.

PlumChat — объединённая языковая модель от sequelbox на архитектуре Llama 3.1, созданная методом DARE/DELLA с помощью mergekit на основе meta-llama/Llama-3.1-8B-Instruct и моделей ValiantLabs/Llama3.1-8B-ShiningValiant2 и sequelbox/Llama3.1-8B-MOTH. Модель содержит 7,5 млрд параметров и поддерживает контекст до 131 072 токенов. Модель предназначена для диалогов, следования инструкциям и генерации текста. Её можно использовать для ответов на вопросы, ведения переписки и подготовки текстовых черновиков. Доступны веса в формате safetensors для библиотеки Transformers. Карточка приводит результаты Open LLM Leaderboard, включая среднее значение 13,13 и IFEval 42,43; оценки не гарантируют качество на конкретных задачах. Модель принимает текст и генерирует текст; данных о специально поддерживаемых языках в карточке нет. Унаследованные от Llama 3.1 ограничения и условия распространяются на эту производную модель; лицензия — llama3.1.

Llama-3-8B-Magpie-Align-v0.1 — чат-модель на архитектуре Llama 3, разработанная проектом Magpie-Align на основе Meta-Llama-3-8B. Её обучили в два этапа: сначала SFT на Magpie-Pro-MT-300K-v0.1, затем DPO на llama3-ultrafeedback. Модель содержит 7,5 млрд параметров, принимает текст и выдаёт текст; заявленный контекст — 8192 токена. В карточке приведены результаты на Alpaca Eval 2, Arena Hard, WildBench и нескольких бенчмарках знаний и рассуждений. Модель предназначена для диалогов и выполнения пользовательских инструкций на английском языке. Её можно применять для ответов на вопросы, написания текстов и решения типовых задач в формате чата. Репозиторий содержит веса в формате safetensors. Лицензия — Llama 3 License; условия Meta Llama 3 Community License следует проверить перед использованием и распространением.