I.11Классификация, ранжирование и сопоставление

TelperionAI Huihui-Qwen3.8-27B-abliterated-INT4-AWQ-GPTQ — квантованная версия модели huihui-ai/Huihui-Qwen3.8-27B-abliterated. Модель построена с использованием llm-compressor и предназначена для запуска и генерации текста с меньшими требованиями к памяти, в том числе через vLLM. Калибровка выполнена на данных, сгенерированных самой abliterated-моделью, с примерами кода, математики, STEM, диалогов и многоязычных запросов. Основой является смешанная квантализация INT4 W4A16: большинство MLP-слоёв используют асимметричную INT4-квантализацию с размером группы 32, а отдельные компоненты сохраняются в INT8 или BF16. Attention-компоненты, GDN-слои, эмбеддинги, нормализации, выходная голова и vision tower используют более высокую точность. Размер весов на диске составляет около 25,1 ГБ. Поддерживаются AWQ-масштабирование и GPTQ-компенсация ошибок; заявлена совместимость с GPU архитектуры Turing и новее без необходимости FP8 или FP4. По результатам внутреннего сравнения с исходной BF16-версией модель показывает 96,45% совпадения top-1 токенов и медианное расхождение генерации на 41-м токене. При этом оценка проведена только на одном корпусе и без downstream-бенчмарков, поэтому качество на прикладных задачах не установлено. Vision tower не квантован, но модель оценивалась как текстовая; эффективность speculative decoding с MTP-головой не измерялась. Модель унаследовала от базовой версии удалённые направления отказа, поэтому её поведение в части отказов отличается от стандартной модели Qwen. Лицензия — Apache-2.0.

OpenMOSE Hy3-REAP-200B-21B — сжатая pruning-методом REAP версия диалоговой MoE-модели Tencent Hy3. В каждом MoE-слое число маршрутизируемых экспертов уменьшено с 192 до 128; маршрутизатор, выбор восьми экспертов на токен и общий эксперт сохранены. По README, активный путь остаётся на уровне 21 млрд параметров, а общий размер — около 200 млрд; метаданные указывают 16,6 млрд параметров. Контекстное окно составляет 262 144 токена. Модель принимает текст и генерирует текст, поддерживает английский и китайский языки, диалог, режимы рассуждения и вызов инструментов, унаследованные от Hy3. Модель предназначена для диалоговой генерации и рассуждений при меньшем объёме весов, чем у исходной Hy3. В приведённой оценке MMLU снизился с 85,65% до 82,37%, а результат GSM8K практически не изменился. Это сжатие без последующего дообучения или восстановления: авторы отмечают заметное снижение качества при более глубоком pruning и ограниченность оценки двумя бенчмарками. Лицензия — Apache-2.0.

Модель mphank/hzk-agentic-8b-v2 — дообученная языковая модель семейства Qwen3, разработанная mphank на базе unsloth/qwen3-8b-unsloth-bnb-4bit. Она предназначена для генерации текста и диалогового взаимодействия; в метаданных также заявлен интерфейс вызова инструментов. Модель содержит 7,6 млрд параметров, принимает текст и поддерживает контекст до 40 960 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0. В README указано, что обучение проводилось с использованием Unsloth и библиотеки TRL для Hugging Face. Карточка не описывает специальные предметные области или подтверждённые ограничения качества; язык карточки и метаданные указывают на английский.

Idefics2-8b-chatty — мультимодальная модель компании Hugging Face для работы с изображениями и текстом. Она принимает текстовые запросы вместе с одним или несколькими изображениями, в том числе чередуя изображения и текст, и генерирует текстовые ответы. Версия chatty дополнительно дообучена на длинных диалогах и обычно подходит лучше базовой версии, когда нужны более развёрнутые ответы. Модель содержит 8 млрд параметров и использует архитектуру Idefics2: визуальный энкодер обрабатывает изображения, после чего их признаки объединяются с текстовыми представлениями для языковой модели. Модель рассчитана прежде всего на английский язык. Она подходит для описания изображений, визуальных вопросов и ответов, чтения текста на изображениях и документах, а также анализа графиков и диаграмм. Генерировать изображения она не умеет. Модель распространяется по лицензии Apache 2.0. Для работы с Transformers следует использовать версию вне диапазона 4.41.0–4.43.3 включительно: в этих версиях Idefics2 не работает. Как и другие языковые модели, она может давать ошибочные или предвзятые ответы; для специализированных задач рекомендуется дообучение на подходящих данных.

Jan-v3-4B-base-instruct-GGUF — это квантованная версия текстовой генеративной модели Jan-v3-4B-base-instruct, разработанной janhq и подготовленной в формате GGUF пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста по инструкциям и может применяться в локальных сценариях работы с текстом, включая запуск через llama.cpp, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. Модель содержит около 4 миллиардов параметров и поддерживает текстовый ввод и вывод. В репозитории указана поддержка английского языка и тег для задач, связанных с кодом. Доступно множество вариантов квантования — от BF16 до форматов Q8, Q6, Q5, Q4, Q3 и Q2, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. Рекомендованными названы, в частности, варианты Q6_K_L, Q6_K, Q5_K и Q4_K_M; для систем с ограниченными ресурсами доступны более компактные варианты, но с меньшим качеством. К сильным сторонам относятся локальный запуск, широкий выбор размеров квантованных файлов и оптимизация imatrix, направленная на сохранение качества при сжатии. Ограничения — отсутствие в README сведений об архитектуре, размере контекстного окна, точных результатах оценки, мультимодальности и поддерживаемых языках помимо английского. Для работы требуется совместимый движок с поддержкой этой модели и формата GGUF. Модель распространяется по лицензии Apache-2.0.

Arch-Function-Chat-7B-GGUF — квантизированная GGUF-версия модели Arch-Function-Chat-7B, разработанной katanemo и подготовленной квантизатором bartowski. Модель предназначена для генерации текста и чат-сценариев, включая задачи, связанные с function calling, и может запускаться локально через llama.cpp, LM Studio и другие совместимые проекты. Это языковая модель размером 7B параметров с поддержкой английского языка. В репозитории представлены варианты от исходных BF16-весов до квантизаций Q8_0, Q6, Q5, Q4, Q3 и Q2, объёмом примерно от 3,55 до 15,24 ГБ. Для работы следует использовать указанный формат prompt с ролями system, user и assistant. Более качественные варианты требуют больше оперативной памяти, тогда как низкобитные версии экономичнее, но заметно уступают в качестве. Модель ориентирована на локальный запуск и предоставляет широкий выбор компромиссов между качеством, размером и скоростью инференса; в README рекомендуются варианты Q6_K_L, Q6_K, Q5 и Q4_K_M. Архитектура, размер контекстного окна, мультимодальность и дополнительные языки не указаны. Распространение осуществляется по лицензии katanemo-research; подробные условия приведены в LICENSE исходной модели.

Карточка модели KeefeBuild/Keefe-Discere-v2.0 на Hugging Face совпадает с карточкой KeefeBuild/Keefe-Discere-v2.0-OxAlpha, поэтому описание составлено по ней. Keefe-Discere-v2.0-OxAlpha — языковая модель KeefeBuild, дообученная на базе unsloth/qwen2.5-7b-instruct-unsloth-bnb-4bit. Это плотная модель семейства Qwen2 с архитектурой Qwen2ForCausalLM и примерно 7,1 млрд параметров; она принимает текст и генерирует текст, поддерживает диалог и интерфейс вызова инструментов. Модель предназначена для текстовой генерации и разговорных сценариев на английском языке, с контекстом до 32 768 токенов. В карточке указаны Apache-2.0 и обучение с использованием Unsloth и библиотеки TRL. Конкретные специализации и результаты оценки качества не описаны, поэтому модель следует рассматривать как универсальную дообученную языковую модель, а поведение при вызове инструментов проверять в целевой интеграции.

Kosmos-EVAA-gamma-v13-8B — объединённая языковая модель от jaspionjader, созданная из двух предварительно обученных моделей с помощью mergekit и метода SLERP. Она предназначена для генерации текста и диалоговых сценариев. Модель использует плотную архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров, принимает текст и имеет контекстное окно 8192 токена. Репозиторий содержит веса в формате safetensors с точностью bfloat16. Данные о лицензии и конкретных языках модели в предоставленных источниках отсутствуют.

Lamarck-14B-v0.7-GGUF — это квантизированная версия текстовой генеративной модели Lamarck-14B-v0.7, разработанной sometimesanotion и преобразованной в формат GGUF пользователем bartowski. Модель предназначена для генерации текста и локального запуска через совместимые среды, включая llama.cpp и LM Studio. Указан английский язык, а рекомендуемый формат промпта использует шаблон с ролями system, user и assistant. Модель имеет размер 14B параметров; точные сведения об архитектуре и размере контекста в README не приведены. Доступны варианты от F16 до низкобитных Q2 и IQ-квантизаций: более крупные варианты обеспечивают качество, близкое к исходной модели, а компактные снижают требования к оперативной памяти, но заметнее теряют в качестве. Для большинства сценариев рекомендуются Q4_K_M, Q5- и Q6-варианты; отдельные форматы оптимизированы для CPU и Apple Silicon. Квантизации созданы с использованием imatrix и llama.cpp. Модель распространяется по лицензии Apache-2.0; конкретные ограничения исходной модели следует проверять отдельно.

Livron 7B v1 — дообученная разработчиком developer2625 языковая модель на архитектуре Qwen2.5, предназначенная для генерации текста и диалогового общения. Она основана на unsloth/qwen2.5-7b-instruct-unsloth-bnb-4bit и содержит 7,1 млрд параметров; модель обучали с использованием Unsloth и библиотеки Hugging Face TRL. Поддерживает контекст до 32 768 токенов и интерфейс вызова инструментов. Модель подходит для диалоговых помощников, генерации и продолжения текста, а также сценариев, где требуется взаимодействие с инструментами. В метаданных указан английский язык. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0.

mlx-community/Llama-3.1-8B-Instruct — преобразованная в формат MLX версия инструкционной языковой модели Meta Llama 3.1 8B Instruct, подготовленная сообществом mlx-community. Это плотная авторегрессионная модель класса LlamaForCausalLM с 7,5 млрд параметров и контекстом до 131 072 токенов. Модель предназначена для диалогов, генерации текста и вызова инструментов через соответствующий интерфейс. Её можно использовать в приложениях на Apple Silicon с библиотекой MLX и mlx-lm; заявленные языки включают английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Формат файлов в репозитории — safetensors. Модель основана на meta-llama/Llama-3.1-8B-Instruct и распространяется по лицензии Llama 3.1. Производительность и пригодность для конкретного сценария зависят от аппаратной конфигурации и способа использования; поддержка русского языка в предоставленных сведениях не заявлена.

Это 8-битная конверсия модели Llama 3 8B Instruct, выполненная сообществом mlx-community для запуска в формате MLX. Веса получены из gradientai/Llama-3-8B-Instruct-1048k с помощью mlx-lm версии 0.10.0. Модель предназначена для диалоговой генерации текста и поддерживает контекст до 1 048 576 токенов. Модель имеет плотную архитектуру LlamaForCausalLM и около 7,5 млрд параметров. В метаданных указан английский язык; заявленная лицензия — llama3. Для использования в MLX в README приведена установка mlx-lm.

MaziyarPanahi/Llama-3-8B-Instruct-DPO-v0.2-GGUF — это квантизированная версия инструкционной языковой модели MaziyarPanahi/Llama-3-8B-Instruct-DPO-v0.2, разработанная и опубликованная MaziyarPanahi. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через llama.cpp и совместимые приложения и библиотеки. Для взаимодействия используется шаблон ChatML. Модель представлена в формате GGUF и доступна в вариантах квантизации от 2 до 8 бит, что позволяет выбирать компромисс между размером файлов, требованиями к памяти и качеством генерации. В названии указано 8B, то есть модель относится к классу примерно 8-миллиардных параметров; базовая архитектура связана с семейством Llama 3. README не содержит точных сведений о поддерживаемых языках, размере контекста, результатах тестирования или ограничениях качества. Сильная сторона модели — возможность локального использования с GPU-ускорением через llama.cpp, llama-cpp-python, LM Studio и другие совместимые инструменты. Лицензия в представленном README не указана, поэтому условия распространения и коммерческого использования необходимо уточнять в материалах исходной модели и репозитория.

MaziyarPanahi/Llama-3-8B-Instruct-v0.10-GGUF — это набор файлов модели в формате GGUF для MaziyarPanahi/Llama-3-8B-Instruct-v0.10, разработанный и квантованный MaziyarPanahi. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через llama.cpp и совместимые приложения и библиотеки. Известно, что это instruct-модель семейства Llama 3 с размером 8B; доступны варианты квантования от 2 до 8 бит. Формат GGUF ориентирован на эффективный локальный инференс с использованием CPU и GPU, однако конкретные требования к памяти и производительность зависят от выбранного варианта квантования и оборудования. README не содержит сведений о поддерживаемых языках, размере контекста, точной архитектуре исходной модели, результатах оценки или сильных и слабых сторонах. Лицензия в README не указана, поэтому условия использования необходимо уточнять отдельно для исходной модели и её GGUF-представления.

Llama-3-8B-Magpie-Align-SFT-v0.1 — дообученная командой Magpie-Align языковая модель на архитектуре Llama 3 с 7,5 млрд параметров. Она обучена методом supervised fine-tuning на наборе Magpie-Pro-MT-300K-v0.1 и предназначена для генерации текста в ответ на инструкции и ведения диалога; для лучшей работы следует использовать официальный шаблон чата Llama 3. Модель принимает текст и генерирует текст, поддерживает контекст до 8192 токенов. В README приведены результаты сравнений на Alpaca Eval 2 и Arena Hard; авторы сообщают о сопоставимом с Llama-3-8B-Instruct качестве на некоторых задачах. Для использования требуется соблюдать лицензию Meta Llama 3 Community License. Результаты зависят от задачи и формата диалога; универсальная эквивалентность модели Llama-3-8B-Instruct не заявлена.

M7Yamshadowexperiment28_Experiment27Experiment24 — объединённая модель Mistral, созданная из automerger/M7Yamshadowexperiment28-7B и automerger/Experiment27Experiment24-7B. Она предназначена для генерации текста и диалоговых сценариев. Модель содержит 7,1 млрд параметров, использует плотную архитектуру Mistral и поддерживает контекст до 32 768 токенов; репозиторий распространяет веса в формате safetensors. Лицензия — Apache-2.0. README и метаданные не описывают специализированные области применения или конкретные ограничения качества.

Matter 7B 0.1 — языковая модель семейства Mistral, разработанная 0-hero и дообученная полным fine-tuning на наборе Matter. Модель содержит 7,1 млрд параметров, использует плотную архитектуру MistralForCausalLM и поддерживает контекст до 32 768 токенов. Для диалога применяется формат ChatML. Модель предназначена для генерации текста и разговорного взаимодействия с ассистентом. В карточке также заявлена поддержка вызова функций, поэтому её можно использовать в сценариях, где ассистент передаёт запросы инструментам. Обучающий набор Matter собран из более чем 35 датасетов и охватывает свыше 6 млрд токенов. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0. Карточка не приводит оценок качества или подробных сведений о проверке вызова функций; применимость к конкретным задачам стоит оценивать отдельно.

PS4Research/mbazkhYJvXJIVctL — дообученная плотная языковая модель семейства Seed OSS на архитектуре SeedOssForCausalLM, основанная на ByteDance-Seed/Seed-OSS-36B-Instruct. Разработчик — PS4Research; для обучения использовались Unsloth и библиотека Hugging Face TRL. Модель содержит 31,7 млрд параметров и поддерживает контекст до 524 288 токенов. Модель предназначена для диалогов, генерации текста и работы с инструментами через интерфейс вызова инструментов. Карточка не описывает специальную предметную область или отличия дообучения от базовой модели. Модель принимает и выдаёт текст, основной язык в карточке — английский. Распространяется в формате safetensors по лицензии Apache-2.0. Ограничения, связанные с качеством ответов или конкретными сценариями применения, в карточке не описаны.

Megac4ai-command-r-plus — экспериментальная языковая модель, созданная автором nitky с помощью mergekit: слои CohereForAI/c4ai-command-r-plus чередуются с её же слоями методом passthrough. Модель содержит 160,4 млрд параметров, использует архитектуру CohereForCausalLM и формат safetensors; для запуска применяется библиотека Transformers с необходимыми изменениями. README также указывает на отдельную GGUF-версию и вариант квантования bitsandbytes до 4 бит. Модель предназначена для генерации текста и диалоговых ответов. В примере она отвечает на вопрос по японскому диалогу; метаданные перечисляют поддержку английского, французского, немецкого, испанского, итальянского, португальского, японского, корейского, китайского и арабского языков. Контекст составляет 8192 токена; доступны интерфейсы чата и вызова инструментов. Указанная лицензия — CC BY-NC 4.0, допускающая использование с атрибуцией, но не коммерческое использование.

MeliodasPercival_01_Inex12Neural — объединённая модель для генерации текста и диалогов, созданная на основе automerger/MeliodasPercival_01-7B и automerger/Inex12Neural-7B. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель принимает текст и генерирует текст; её можно использовать для диалогов и других сценариев продолжения текста. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache 2.0.

MeliodasT3qm7_Experiment27Neuralsirkrishna — объединённая модель семейства Mistral, созданная на основе automerger/MeliodasT3qm7-7B и automerger/Experiment27Neuralsirkrishna-7B. Модель с плотной архитектурой MistralForCausalLM содержит 7,1 млрд параметров и предназначена для генерации текста и диалогов. Модель принимает текст и выдаёт текст. Размер контекста составляет до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. Данных о специализации по языкам или прикладным областям нет.

Модель nicolepcx/Meta-Llama-3.1-8B-Instruct-tiny разработана nicolepcx и представляет собой дообученную инструктивную модель семейства Llama 3.1 с плотной архитектурой LlamaForCausalLM и примерно 7,5 млрд параметров. В качестве основы указана unsloth/meta-llama-3.1-8b-instruct-bnb-4bit; для обучения использовались Unsloth и библиотека TRL. Модель предназначена для генерации текста в диалоговом формате и выполнения инструкций; интерфейс также поддерживает вызов инструментов. Метаданные указывают английский язык и контекстное окно до 131 072 токенов. Репозиторий содержит веса safetensors, а лицензия — Apache-2.0.

MiniCPM5-1B-Rebel-i1-GGUF — GGUF-квантизированная версия модели MiniCPM5-1B-Rebel, опубликованная mradermacher и квантованная им на основе модели XuehangCang/MiniCPM5-1B-Rebel. Базовая модель разработана XuehangCang; в README также указаны связанные с ней наборы данных от XuehangCang и OpenBMB. Модель предназначена для генерации текста, работы с длинным контекстом и вызова инструментов, включая локальные и периферийные сценарии использования. Модель относится к семейству MiniCPM5 и имеет размер 1B параметров. Доступна в формате GGUF с различными вариантами квантования от IQ1_S до Q6_K; размеры файлов составляют примерно 0,5–1,0 ГБ. Указана поддержка английского и китайского языков. Архитектура, точная длина контекста и дополнительные модальности в README не раскрыты, поэтому модель следует рассматривать как текстовую. Для ряда квантов отмечен компромисс между размером, скоростью и качеством; наиболее рекомендуемыми названы i1-Q4_K_M и i1-Q4_K_S, тогда как низкобитные варианты могут заметно снижать качество. Лицензия — Apache-2.0. README характеризует модель как uncensored и связанную с abliteration, однако не приводит подробных результатов оценки, ограничений безопасности или инструкций по ответственному применению. Для запуска требуются совместимые инструменты, поддерживающие формат GGUF.

MiroThinker-v1.0-30B-GGUF — набор GGUF-квантизированных версий модели MiroThinker-v1.0-30B, разработанной miromind-ai и подготовленной квантизатором bartowski. Модель предназначена для генерации текста, агентских сценариев и задач deep research, включая работу в приложениях и проектах на базе llama.cpp. Указан английский язык; поддержка других языков не заявлена. Это модель размером 30B параметров, представленная в форматах от BF16 до различных вариантов Q8, Q6, Q5, Q4, Q3 и IQ-квантизации. Квантизация выполнена с использованием imatrix в llama.cpp, что позволяет выбирать между качеством и требованиями к памяти. Рекомендуемыми названы варианты Q6_K_L, Q6_K, Q5_K_L, Q5_K_M, Q5_K_S, Q4_K_L, Q4_K_M, Q4_K_S и IQ4_XS; Q4_K_M обозначен как вариант стандартного размера для большинства сценариев. Модель можно запускать через LM Studio, llama.cpp и другие совместимые проекты. Сильными сторонами являются открытый формат GGUF, широкий выбор уровней сжатия и ориентация исходной модели на агентские и исследовательские задачи. Более компактные варианты требуют меньше оперативной памяти, но уступают высокоточным версиям по качеству. В README не указаны архитектура базовой модели, размер контекстного окна, мультимодальные возможности и результаты benchmark-тестов, поэтому эти характеристики нельзя оценить. Лицензия — MIT.

Mistral-22B-v0.2-GGUF — это набор GGUF-квантизаций текстовой генеративной модели Mistral-22B-v0.2, опубликованный и квантизированный bartowski на основе исходной модели Vezora/Mistral-22B-v0.2. Файлы предназначены для запуска через llama.cpp и совместимые инструменты, включая локальный запуск с использованием CPU, GPU или их комбинации. Модель рассчитана на задачи генерации текста и диалогового взаимодействия. В README указаны шаблон запроса с ролями System, Human и Assistant, а также множество вариантов квантизации от Q8_0 до IQ1_S. Размер файлов составляет примерно от 4,82 до 23,63 ГБ; варианты с более высокой точностью обычно обеспечивают лучшее качество, но требуют больше памяти. Рекомендуемыми названы, в частности, Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S, IQ4_NL и IQ4_XS. К ключевым ограничениям относятся потери качества при использовании низкобитных вариантов, причём IQ1_M и IQ1_S прямо не рекомендуются. README не содержит сведений об архитектуре слоёв, размере контекста, поддерживаемых языках, модальностях помимо текста или результатах бенчмарков. Квантизации выполнены с использованием imatrix и датасета Kalomaze. Указана лицензия Apache-2.0.

AIR-hl/Mistral-7B-Base-WPO-bf16 — текстовая чат-модель семейства Mistral с архитектурой MistralForCausalLM и 7,1 млрд параметров. Репозиторий описывает перенос весов wzhouad/zephyr-7B-WPO-FP из float32 в bfloat16; метаданные также связывают модель с HuggingFaceH4/mistral-7b-sft-beta и указывают слияние моделей. Модель предназначена для генерации текста и диалогового общения. Она принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов. В метаданных указан датасет ultrafeedback_binarized и лицензия Apache-2.0. Карточка не описывает отдельные ограничения качества или области применения.

Mistral-7B-v0.2-OpenHermes — языковая модель macadeliccc, дообученная методом SFT на базе alpindale/Mistral-7B-v0.2. Модель с плотной архитектурой MistralForCausalLM содержит 7,1 млрд параметров и рассчитана на генерацию текста и диалоговое взаимодействие; шаблон запросов — ChatML. В карточке отмечена пригодность модели для сценариев RAG. Её можно использовать для ответов на вопросы и генерации текста в диалоговых приложениях; для конкретной базы знаний автор рекомендует дополнительное дообучение. Заявлена длина контекста 32 768 токенов. Обучение выполнено на наборе OpenHermes-2.5 с использованием Unsloth и TRL; README приводит результаты нескольких бенчмарков, но не описывает протокол оценки полностью. Модель работает с текстом и поддерживает английский язык. Опубликованные веса доступны в формате Safetensors; в README также упомянуты варианты квантования GGUF, AWQ, HQQ-4bit и ExLlamaV2. Лицензия — Apache-2.0.

zelk12/MT4-Gen5-IB-gemma-2-9B — разговорная языковая модель на архитектуре Gemma 2, созданная объединением двух предварительно обученных моделей с помощью метода SLERP и mergekit. Модель содержит 9 млрд параметров, распространяется в формате safetensors и рассчитана на генерацию текста и диалоговое взаимодействие. Модель принимает текст и генерирует текст; её контекстное окно составляет 8192 токена. В карточке не заявлены специализированная предметная область или конкретные языки. Модель предназначена для диалоговых приложений и общих сценариев генерации текста. Лицензия в предоставленных данных не указана.

zelk12/MT-Gen4-MU-gemma-2-Sv1IBTS5-9B — объединённая методом SLERP языковая модель семейства Gemma 2 на 9 млрд параметров. По карточке, при создании использованы allknowingroger/GemmaSlerp5-10B и gmonsoon/SahabatAI-Lion-9B-TIES-v1; merge выполнен с помощью mergekit, веса указаны в формате bfloat16. Модель предназначена для диалогов и генерации текста по инструкциям; метаданные отмечают поддержку чата и контекст до 8192 токенов. Описание базовой модели каталога указывает на языки Юго-Восточной Азии и английский, но конкретные поддерживаемые языки этой модели не перечислены. Репозиторий содержит веса safetensors. Лицензия в предоставленных сведениях не указана.

NeuralsirkrishnaShadow_AlloyingotneoyYam — объединённая языковая модель на архитектуре Mistral, созданная слиянием automerger/NeuralsirkrishnaShadow-7B и automerger/AlloyingotneoyYam-7B. Модель содержит 7,1 млрд параметров и предназначена для генерации текста; доступна в формате safetensors. Модель принимает текст и генерирует текст, поддерживая контекст до 32 768 токенов. Карточка не описывает специализированные сценарии или языки обучения. Лицензия — Apache-2.0.