I.11Классификация, ранжирование и сопоставление

GLM-5.3-Flash-Alis-MLX-8bit — 8-битная MLX-квантизированная версия модели GLM-5.3-Flash, разработанной zai-org. Модель предназначена для генерации текста и запуска на устройствах Apple Silicon через библиотеку mlx-vlm с поддержкой архитектуры glm5_next и Mixture-of-Experts. Она создана потоковой деквантизацией официального FP8-релиза; размер исходной модели составляет 320B-A18B, а объём файловой системы модели — около 334,1 ГБ. В сборке используются 8-битное affine-кодирование экспертов, attention, общих и плотных MLP-слоёв, embeddings и выходной головы. Маршрутизатор MoE, параметры коррекции, отдельные массивы mHC и параметры затухания KDA сохранены в FP32, vision tower — в BF16. MTP-слой 45 удалён и вынесен в отдельную модель-драфтер, поэтому основное назначение этой версии — высокоточный inference и роль эталонной модели для оценки менее точных 4-битных сборок. Модель поддерживает текстовую генерацию; мультимодальные возможности через vision tower указаны, но подробности о поддерживаемых форматах изображений и языках не приведены. Сильная сторона модели — максимальная среди семейства точность сохранения исходного поведения и отсутствие квантизации маршрутизатора, что делает её reference- или teacher-классом. На M3 Ultra с 512 ГБ памяти ожидается около 24–25 токенов в секунду при декодировании с p512; специальные параметры окружения могут повысить скорость примерно на 12%. Ограничения включают очень большой объём хранения, требования к совместимой версии mlx-vlm и необходимость Apple Silicon. Лицензия — MIT.

HelpingAI_Dhanishtha-2.0-preview-0825-GGUF — это GGUF-квантизированная версия языковой модели Dhanishtha-2.0-preview-0825, разработанной HelpingAI. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и может запускаться локально через llama.cpp, LM Studio и другие совместимые проекты на его основе. В README указан специальный chat-шаблон с ролями system, user и assistant. Доступны варианты от исходных весов BF16 размером 29,54 ГБ до различных конфигураций Q8, Q6, Q5, Q4, Q3 и IQ-квантизации размером примерно от 6,88 ГБ. Более высокие уровни квантизации обеспечивают лучшее сохранение качества, а компактные варианты подходят для систем с ограниченной оперативной памятью; для большинства сценариев автор рекомендует Q4_K_M, Q5- и Q6-варианты. Архитектура, число параметров, поддерживаемые языки, размер контекста, мультимодальность, конкретные прикладные специализации и лицензия в представленном README не указаны, поэтому эти характеристики требуют проверки в карточке исходной модели.

win10/high-speed-mixing-7B-V1 — объединённая языковая модель на архитектуре Qwen2, созданная с помощью mergekit методом TIES. В основу объединения взята MaziyarPanahi/calme-2.8-qwen2-7b; также включена Weyaxi/Einstein-v7-Qwen2-7B. Модель содержит 7,1 млрд параметров и предназначена для генерации текста и диалоговых ответов. Модель принимает текст и выдаёт текст. Заявленная длина контекста — 131 072 токена. Она подходит для общения с пользователем и генерации ответов; описание базовой модели указывает на особый акцент на естественных науках и математике, но README не подтверждает, что этот акцент гарантирован для итогового объединения. Используются Transformers и формат safetensors. Лицензия в предоставленных данных не указана.

Это набор GGUF-квантизованных файлов модели huihui-ai/Qwen2.5-14B-Instruct-abliterated, подготовленный featherless-ai-quants. Модель предназначена для генерации текста и выполнения инструкций, включая диалоговые и прикладные сценарии, совместимые с базовой instruct-моделью Qwen2.5. Формат GGUF ориентирован на локальный запуск и использование в совместимых средах инференса. Модель имеет размер 14B параметров и поддерживает только текстовую модальность. В набор входят варианты квантизации IQ4_XS, Q2_K, Q3_K_L, Q3_K_M, Q3_K_S, Q4_K_M, Q4_K_S, Q5_K_M, Q5_K_S, Q6_K и Q8_0; их размеры составляют примерно от 5,5 до 15 ГБ. Квантизация позволяет выбирать компромисс между требованиями к памяти, скоростью работы и сохранением качества, однако README не содержит сведений о языках, размере контекста, архитектурных деталях, результатах тестирования или сравнительных преимуществах. Лицензия в README не указана, поэтому условия использования необходимо уточнять по лицензии базовой модели и репозитория. Также не приведены отдельные сведения об ограничениях, безопасности и качестве варианта abliterated; перед применением в критичных сценариях модель следует самостоятельно протестировать.

Keefe-Discere-v2.0-OxAlpha — языковая модель KeefeBuild, дообученная на базе unsloth/qwen2.5-7b-instruct-unsloth-bnb-4bit. Это плотная модель семейства Qwen2 с архитектурой Qwen2ForCausalLM и примерно 7,1 млрд параметров; она принимает текст и генерирует текст, поддерживает диалог и интерфейс вызова инструментов. Модель предназначена для текстовой генерации и разговорных сценариев на английском языке, с контекстом до 32 768 токенов. В карточке указаны Apache-2.0 и обучение с использованием Unsloth и библиотеки TRL. Конкретные специализации и результаты оценки качества не описаны, поэтому модель следует рассматривать как универсальную дообученную языковую модель, а поведение при вызове инструментов проверять в целевой интеграции.

Это производный чекпойнт DeepSeek-V4-Flash-0731, подготовленный Keys (drowzeys) на основе официальной модели DeepSeek-AI. Модель предназначена для генерации текста и сохраняет архитектуру базового чекпойнта; README описывает изменение весов слоёв 10–35, нацеленное на снижение отказов. Слои 36–42 и тензоры MTP/draft оставлены как в оригинале, чтобы сохранить совместимость со спекулятивным декодированием DSpark. Указана поддержка контекста до 1 млн токенов и работа в production-конфигурации на двух DGX Spark с Anemll и vLLM. Чекпойнт рассчитан на генерацию текста, включая структурированные JSON-ответы, списки и эссе; автор приводит сравнительные тесты с официальной версией и сообщает об успешной проверке smoke-тестов. Данные метаданных указывают на FP8 safetensors и поддержку английского и китайского языков. Модель распространяется по лицензии «other» с ограниченным доступом; README отсылает к условиям доступа и ответственному использованию. Результаты бенчмарков относятся к указанной аппаратной и программной конфигурации и не гарантируют такую же производительность в других условиях.

mlx-community/Kimi-K2-Instruct-0905-mlx-DQ3_K_M — это MLX-версия модели Kimi-K2-Instruct-0905, разработанной Moonshot AI и конвертированной сообществом mlx-community с помощью mlx-lm 0.26.3. Модель предназначена для генерации текста и инструкционных сценариев: диалогов, ответов на запросы и других задач, поддерживаемых базовой моделью. README не содержит подтверждённых сведений о размере, архитектуре, языках и длине контекста. Основная особенность — смешанное динамическое квантование DQ3_K_M с преимущественно 3-битным представлением и отдельными компонентами с более высокой разрядностью. По описанию метода, такой подход призван приблизить качество к 4-битному квантованию при меньшем потреблении памяти. Модель ориентирована на запуск на одном Apple Mac Studio с чипом M3 Ultra и 512 ГБ памяти, сохраняя ресурсы для полезного контекстного окна; конкретные требования к памяти и фактические результаты тестов не указаны. Ограничения связаны с потерями качества, возможными для квантованной версии, а также с узкой оптимизацией под экосистему MLX и совместимое оборудование Apple. Для использования требуется mlx-lm; README указывает лицензию modified-mit и ссылку на лицензию исходной модели Moonshot AI.

Kurage — японская модель для сценариев RAG, разработанная Lightblue. Она основана на плотной архитектуре Qwen2 и содержит 7,1 млрд параметров; модель принимает текст и рассчитана на генерацию ответов в диалоговом формате. Контекстное окно составляет 32 768 токенов, лицензия — Apache-2.0. Модель находит подходящие фрагменты среди нескольких контекстов и формирует ответ, либо обрабатывает контексты по одному для параллельного поиска. Она также умеет расширять краткие ответы, отвечать на японском по текстам на других языках и генерировать пары вопросов и ответов по исходному тексту для подготовки индекса. Обучающие данные включали фрагменты документов MADLAD-400, синтетические вопросы и ответы, а также отрицательные примеры, отобранные с помощью BAAI/bge-m3. Модель предназначена прежде всего для японских RAG-систем. В режиме обработки одного фрагмента она иногда ошибочно заявляет, что не может ответить на вопрос, хотя нужный ответ содержится в контексте. Качество межъязыкового поиска и ответа зависит от вопроса и языка источника.

MuXodious/LFM2.5-VL-3B-absolute-heresy — мультимодальная дообученная версия LFM2.5-VL-3B, созданная с помощью инструмента Heretic и метода abliteration для уменьшения отказов модели. Она принимает текст и изображения и предназначена для визуального диалога, распознавания текста на изображениях, анализа страниц с разметкой макета и обнаружения объектов по текстовому запросу. Модель использует языковую основу LFM2.5-2.6B и визуальный энкодер SigLIP2 NaFlex; контекст составляет 32 768 токенов. Поддерживает 17 языков, включая русский, английский, китайский, арабский, хинди и европейские языки. Базовая модель рассчитана на локальное и периферийное развертывание, а карточка этой версии приводит показатели снижения отказов и низкого KL-расхождения. Подходит для коротких запросов по изображениям, распознавания и структурирования сканированных документов, а также визуального поиска объектов. Разработчик базовой модели рекомендует сценарии с высокой пропускной способностью и малой задержкой; модель не рекомендуется для задач с длинным контекстом и интенсивными рассуждениями. В метаданных указана лицензия other; конкретные условия лицензии следует проверить в репозитории.

Это модель понимания структуры документов на базе LiLT с энкодером XLM-RoBERTa, дообученная Пьером Гийу на наборе DocLayNet. Она классифицирует строки документа по типам элементов макета: заголовок, основной текст, таблица, изображение, формула, подпись, колонтитул, элемент списка и другие классы. Модель предназначена для разметки страниц PDF и других документов на уровне строк; при обучении использовались фрагменты по 384 токена с перекрытием 128 токенов. Размер модели — 305,2 млн параметров, контекст — 514 токенов. В оценке на DocLayNet точность классификации строк составила 91,97%, а F1 для токенов — 0,8584. Она подходит для извлечения структуры финансовых отчётов, научных статей, инструкций, законов и других документов, помогая направлять последующий OCR и разбор содержимого. Поддерживаются английский, немецкий, французский и японский языки; разметка использует текст и геометрию документа. Лицензия — MIT.

Llama 2 13B Chat — языковая модель Meta для диалоговых сценариев, представленная в формате Hugging Face Transformers. Это авторегрессионная модель на оптимизированной архитектуре Transformer с 13 млрд параметров; версия Chat выровнена с помощью контролируемого дообучения и обучения с подкреплением на основе отзывов людей. Она принимает текст и генерирует текст, а для диалога ожидает специальный формат сообщений Llama 2. Модель рассчитана прежде всего на англоязычные запросы и имеет контекст длиной 4 тысячи токенов. Модель подходит для создания чат-ассистентов и генерации ответов на вопросы и инструкции. Meta сообщает о хороших результатах на ряде тестов и оценок полезности и безопасности, однако ответы могут быть неточными, предвзятыми или нежелательными; перед внедрением требуется проверка под конкретный сценарий. Использование регулируется лицензией Meta Llama 2; для получения весов необходимо принять её условия.

TheBloke опубликовал конвертированную в формат Transformers версию Llama 2 7B Chat, разработанной Meta. Это плотная авторегрессионная языковая модель на архитектуре Transformer, содержащая около 6,6 млрд параметров и предназначенная для диалоговых сценариев. Вариант Chat прошёл supervised fine-tuning и обучение с подкреплением на основе отзывов людей; веса представлены в форматах PyTorch и safetensors. Модель принимает текст и генерирует текст, поддерживает контекст до 4096 токенов и рассчитана прежде всего на англоязычный диалог с ассистентом: ответы на вопросы, инструкции и генерацию текста. Для ожидаемого поведения Chat требуется специальный формат входа Llama 2 с маркерами инструкций и служебными токенами. Модель может выдавать неточные, предвзятые или нежелательные ответы; перед применением в продукте необходима проверка безопасности и настройка под сценарий. Карточка ориентирует использование на английский язык. Доступ и использование регулируются специальной лицензией Meta для Llama 2; для получения весов требуется принять её условия.

bunnycore/LLama-3.1-8B-HyperNova-abliteration — объединённая языковая модель на архитектуре Llama, созданная с помощью mergekit методом passthrough на основе bunnycore/LLama-3.1-8B-HyperNova и grimjim/Llama-3-Instruct-abliteration-LoRA-8B. Модель содержит 7,5 млрд параметров и рассчитана на генерацию текста и диалоговые ответы; контекстное окно составляет до 131 072 токенов. Модель принимает текст и выдаёт текст, поэтому подходит для диалоговых систем и генерации продолжений. В карточке указана лицензия, однако её название не приведено в доступных метаданных. Основания для отдельного вывода о качестве, языковом охвате или ограничениях применения в README нет.

Llama-3.1-8B-Instruct-Jbliterated-i1-GGUF — это набор квантизированных моделей в формате GGUF, подготовленный mradermacher на основе ApolloRaines/Llama-3.3-8B-Instruct-128K-Jbliterated. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск в совместимых средах для работы с GGUF-файлами. Модель относится к семейству Llama и содержит около 8 млрд параметров. Заявлена поддержка контекста до 128 тысяч токенов, а также английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Это текстовая модель без заявленной поддержки изображений или других модальностей. В репозитории доступны варианты квантования от очень компактных IQ1 до более качественных Q6_K; степень квантования влияет на размер файла, скорость и качество, при этом Q4_K_M обозначен как быстрый рекомендуемый вариант. К сильным сторонам относятся большой контекст, мультиязычность и возможность запуска с разными требованиями к памяти благодаря широкому выбору квантов. Ограничения связаны с потерями качества при низких уровнях квантования, а также с отсутствием подробных результатов тестирования и сведений о фактической производительности. Модель распространяется по лицензии llama3.1; перед использованием следует учитывать условия этой лицензии и особенности базовой модели.

naturalseeker/Llama3.1_8I_ARC — дообученная naturalseeker диалоговая модель на архитектуре Llama 3.1 с 7,5 млрд параметров. Она создана на основе unsloth/Meta-Llama-3.1-8B-Instruct и обучалась с использованием Unsloth и Hugging Face TRL. Модель предназначена для диалогов и генерации текста; доступен интерфейс вызова инструментов. Она принимает текст и выдаёт текст, поддерживает английский язык и контекст до 131 072 токенов. Веса опубликованы в формате safetensors. Модель распространяется по лицензии Apache-2.0. Карточка не описывает специальную предметную область или отдельные возможности дообучения, поэтому качество для конкретных задач следует оценивать на подходящих примерах.

Llama 3.1 Swallow 8B v0.2 — языковая модель команды Swallow из лабораторий Okazaki и YOKOTA Токийского технологического института. Это плотная авторегрессионная модель семейства Llama 3.1 с 7,5 млрд параметров, дообученная продолжением предварительного обучения на примерно 200 млрд токенов, включая японский веб-корпус, японскую и английскую Википедии, математические тексты и код. Репозиторий содержит веса safetensors; для работы модель рассчитана на библиотеку Transformers. Модель предназначена для генерации текста на японском и английском языках, включая ответы на вопросы, понимание и пересказ текста, перевод, математические рассуждения и генерацию кода. Контекстное окно составляет 8192 токена. Разработчики сообщают об усилении возможностей японского языка при сохранении возможностей английской версии Llama 3.1 и приводят оценки на японских и англоязычных тестах. Это базовая версия, а не вариант Instruct; авторы предупреждают, что модель не настроена для надёжного следования человеческим намерениям и требованиям безопасности. Лицензия — Llama 3.1 License (llama3.1), её условия применяются при использовании модели.

RedHatAI/Llama-3.2-1B-Instruct-FP8-dynamic — квантизированная версия Meta Llama 3.2 1B Instruct, разработанная Neural Magic. Это текстовая autoregressive-модель для генерации текста и диалоговых сценариев в формате ассистента, включая коммерческое и исследовательское использование. В README заявлена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков, однако отдельно указано ограничение на использование языков, отличных от английского. Модель использует архитектуру Meta-Llama-3.2 и принимает текст на входе, возвращая текст. Веса и активации линейных операторов внутри transformer-блоков квантизированы в FP8; для весов применяется симметричная поканальная квантизация, а активации квантизуются динамически на уровне токенов. По сравнению с 16-битным представлением это примерно вдвое снижает требования к дисковому пространству и памяти GPU. Модель предназначена для эффективного инференса с vLLM и может предоставляться через OpenAI-совместимый интерфейс. Ключевое преимущество — снижение потребления ресурсов при сохранении близкого к исходной модели качества: средний результат на указанной подвыборке OpenLLM Leaderboard составляет 50,88 против 51,70 у неквантизированной версии. Ограничение — небольшая потеря точности после квантизации, а также необходимость совместимого окружения vLLM. Модель выпущена 25 сентября 2024 года, версия 1.0, и распространяется по лицензии llama3.2.

Это языковая модель для генерации текста, представленная сообществом mlx-community. Она конвертирована в формат MLX из модели DavidAU/L3.2-8X4B-MOE-V2-Dark-Champion-Inst-21B-uncen-ablit с использованием mlx-lm версии 0.25.2 и предназначена для запуска через экосистему MLX. Модель относится к семейству Llama 3.2 и использует архитектуру mixture of experts с 8 экспертами, каждый из которых имеет размер 4B; общий заявленный размер составляет 21B параметров. В карточке также указаны контекст до 128k токенов, режим instruct, формат квантования Q_6 и поддержка текстовой генерации. Языки и мультимодальные возможности явно не указаны. Основные сценарии применения — диалоговая генерация и выполнение инструкций, включая запуск локально на совместимом оборудовании Apple через MLX. К сильным сторонам относятся разреженная MoE-архитектура, большой контекст и оптимизация для MLX. Ограничения включают отсутствие в карточке результатов тестирования, подробностей о фактических требованиях к памяти и перечня поддерживаемых языков; характеристики исходной модели не обязательно полностью описывают конвертированную версию. Лицензия в README не указана.

llm-jp-3.1-8x13b-32K — языковая модель, разработанная Центром исследований и разработок больших языковых моделей Национального института информатики Японии. Это вариант llm-jp-3.1-8x13b с продолженным предобучением на дополнительных 50 млрд токенов для увеличения контекста с 4K до 32K токенов. Модель построена на архитектуре Mixtral MoE с восемью экспертами, из которых активируются два; в метаданных указан размер 13,2 млрд параметров. Веса доступны в формате Safetensors для Transformers. Модель предназначена для генерации текста и диалогов с выполнением инструкций, в частности на японском и английском языках. Увеличенное окно контекста подходит для работы с длинными запросами и документами. Модель развивает серию LLM-jp-3.1, обученную на многоязычных данных, а инструкция-ориентированное промежуточное обучение улучшает следование указаниям. Разработчики отмечают, что модель находится на раннем этапе исследований и разработок и не была настроена для гарантированного соответствия человеческим намерениям и требованиям безопасности. Лицензия — Apache-2.0.

Ksgk-fy/M7Percival_01-7B — объединённая языковая модель на архитектуре Mistral с 7,1 млрд параметров. В README указано, что она создана методом DARE-TIES из liminerity/M7-7b и AurelPx/Percival_01-7b-slerp; в метаданных базовой моделью отмечена AurelPx/Percival_01-7b-slerp. Модель предназначена для генерации текста и диалогов по текстовым запросам. Поддерживает контекст до 32 768 токенов и опубликована в формате safetensors. Лицензия — Apache-2.0. Карточка не содержит сведений о целевых языках, специализации или оценках качества, поэтому её возможности следует считать общими для генерации текста; качество на конкретных задачах нужно проверять отдельно.

M7Yamshadowexperiment28_AlloyingotneoyInex12 — объединённая модель MaziyarPanahi на базе двух моделей Mistral: automerger/M7Yamshadowexperiment28-7B и automerger/AlloyingotneoyInex12-7B. Это плотная авторегрессионная языковая модель с 7,1 млрд параметров, предназначенная для генерации текста; для запуска доступны веса Safetensors. Модель принимает текст и выдаёт текст. Её контекст составляет до 32 768 токенов. В карточке не описаны специализированные области применения, поддерживаемые языки или отдельные ограничения качества. Лицензия — Apache-2.0.

MaziyarPanahi/M7Yamshadowexperiment28_OgnoShadow — объединённая модель семейства Mistral с 7,1 млрд параметров, созданная на основе automerger/M7Yamshadowexperiment28-7B и automerger/OgnoShadow-7B. Она предназначена для генерации текста и диалоговых ответов, включая сценарии с контекстом до 32 768 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0. README и метаданные не уточняют её языковой охват и специальные ограничения.

Magnum v2 32B GGUF — это квантизированные варианты текстовой генеративной модели Anthracite, разработанные командой Anthracite и созданные на основе Qwen1.5 32B. Модель дообучалась для воспроизведения качества прозы моделей Claude 3, прежде всего Sonnet и Opus, и предназначена для диалогов, генерации текста, выполнения инструкций и задач, где важны качество и структура письменного ответа. Модель поддерживает текстовую модальность и ориентирована на английский и китайский языки. Она содержит около 32 миллиардов параметров, распространяется в формате GGUF и использует ChatML для форматирования диалоговых запросов. В README не указана длина контекстного окна и не приведены сведения о конкретных вариантах квантизации, производительности или системных требованиях. Дообучение проводилось в течение двух эпох на наборах данных, связанных с диалогами, рассуждениями и качественной прозой. К сильным сторонам относятся крупный размер, ориентация на естественную и выразительную генерацию текста, а также поддержка локального запуска через совместимые инструменты для GGUF. Ограничения включают отсутствие подробных оценок качества, неполные сведения о безопасности и неизвестные характеристики отдельных квантизированных сборок. Лицензия обозначена как other с названием tongyi-qianwen; в качестве текста лицензии указана лицензия Qwen2-72B-Instruct.

bartowski/magnum-v3-34b-GGUF — набор GGUF-квантизаций текстовой генеративной модели magnum-v3-34b, разработанной anthracite-org и опубликованной в квантизированном виде bartowski. Модель предназначена для диалогов и генерации текста, а запускать её можно через llama.cpp и совместимые приложения, включая LM Studio. Указан формат prompt с ролями system, user и assistant. В основе модели заявлена 34-миллиардная архитектура 01-ai/Yi-1.5-34B-32K с контекстом до 32K токенов; поддерживаемый язык — английский. Доступны варианты от F16 до сильно сжатых Q2 и IQ2, поэтому можно выбирать между качеством и требованиями к памяти. Наиболее качественными и рекомендуемыми в README названы Q6_K, Q6_K_L, Q5 и Q4; низкобитные варианты требуют меньше оперативной памяти, но заметно теряют в качестве. Некоторые варианты используют Q8_0 для embedding- и output-весов. Ключевые ограничения — англоязычная специализация, необходимость значительных ресурсов для крупных квантов и снижение качества при сильном сжатии. Лицензия — Apache-2.0.

MeliodasPercival_01_Experiment27Shadow — объединённая модель Mistral с 7,1 млрд параметров, созданная на основе automerger/MeliodasPercival_01-7B и automerger/Experiment27Shadow-7B. Она предназначена для генерации текста и диалогов, принимает текстовые запросы и выдаёт текст. Контекстное окно составляет до 32 768 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0. README и метаданные не описывают специализацию по языкам или предметным областям, а также не приводят отдельные оценки качества.

mahiatlinux/merged1 — объединённая языковая модель, созданная автором репозитория с помощью LazyMergekit из mistralai/Mistral-7B-Instruct-v0.2 и chihoonlee10/T3Q-Mistral-Orca-Math-DPO. Веса объединены методом slerp; архитектура — плотная MistralForCausalLM, размер — 7,1 млрд параметров, формат файлов — safetensors. Модель рассчитана на генерацию текста и диалоговые сценарии, включая ответы на инструкции и математические запросы. Поддерживает контекст до 32 768 токенов. Модель принимает текст и генерирует текст. В карточке указана лицензия базовой модели, но лицензия самого объединённого репозитория не приведена в доступных данных, поэтому условия использования установить нельзя. Качество и ограничения именно этого слияния в карточке не оценены.

mahiatlinux/merged1and2-and-dolphin — объединённая модель для генерации текста и диалогов, созданная автором репозитория с помощью LazyMergekit. В неё объединены mahiatlinux/merged1and2 и cognitivecomputations/dolphin-2.1-mistral-7b методом slerp; базовой указана mahiatlinux/merged1and2. Архитектура — плотная MistralForCausalLM, размер — 7,1 млрд параметров, формат весов — Safetensors, контекст — до 32 768 токенов. Модель предназначена для текстового общения и генерации ответов в диалоговых сценариях. В карточке не приведены сведения о поддерживаемых естественных языках, лицензии или специальных предметных областях, поэтому их нельзя уточнить по доступным данным.

alamios/Meta-Llama-3.1-8B-Instruct-GGUF-f16 — сборка Meta-Llama 3.1 8B Instruct в формате GGUF F16 для запуска через llama.cpp. Модель основана на meta-llama/Meta-Llama-3.1-8B-Instruct и предназначена для диалоговой генерации текста и ответов на запросы. Карточка указывает совместимость с выпуском llama.cpp b3565. Модель относится к семейству Llama 3.1, имеет 8 млрд параметров и поддерживает несколько языков, включая английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Репозиторий распространяется по лицензии Llama 3.1. GGUF F16 хранит веса в формате половинной точности; конкретные требования к памяти и ограничения качества в карточке не описаны.

MiniCPM-2B-dpo-fp32 — текстовая авторегрессионная модель семейства MiniCPM, разработанная ModelBest и лабораторией обработки естественного языка Университета Цинхуа. Это версия MiniCPM-2B, обученная с учётом человеческих предпочтений методом DPO; в README для семейства указано 2,4 млрд параметров без эмбеддингов, а в метаданных репозитория — 2,7 млрд параметров. Модель принимает текст и генерирует текст, поддерживает диалог и рассчитана на контекст до 4096 токенов. Модель предназначена для диалоговых ответов и генерации текста общего назначения, включая задачи на китайском языке, математику и программирование. Разработчики сообщают о результатах DPO-версии на MTBench, однако отдельно отмечают, что качество генерации в Hugging Face может уступать vLLM. Репозиторий содержит веса PyTorch в формате fp32; README указывает на академическое исследование и ограниченное коммерческое использование. Более точные условия лицензии в предоставленных данных не приведены.

MiniCPM-V-2_6-GGUF — набор GGUF-квантизованных версий мультимодальной модели MiniCPM-V-2_6, разработанной командой OpenBMB и подготовленной в формате GGUF пользователем bartowski. Модель предназначена для задач image-text-to-text, включая анализ изображений, OCR, работу с несколькими изображениями и видео. Заявлена поддержка мультиязычных сценариев, однако конкретный перечень языков в представленном README не указан. Модели используют llama.cpp и квантизацию с применением imatrix; по заявлению автора, это должно улучшать работу текстовой части модели. Доступны варианты от F16 размером 15,23 ГБ до низкобитных IQ2_M и Q2_K размером около 2,78–3,01 ГБ. Варианты Q6_K и Q6_K_L обеспечивают очень высокое качество, а Q4_K_M рекомендуется как компромисс между качеством и размером. Варианты с суффиксом L используют Q8_0 для embedding- и output-весов, что потенциально может повысить качество, но автор отмечает, что эффект зависит от практического использования. Модель подходит для локального запуска через llama.cpp и LM Studio при наличии совместимого оборудования; требуемые ресурсы зависят от выбранного варианта квантизации. README не содержит сведений о размере базовой модели в параметрах, длине контекста, точной архитектуре, ограничениях мультимодальных входов или результатах бенчмарков. Лицензия в представленном описании не указана.