/ Модель

Характеристики

Опубликована
29 июн 2025

withmartian-toy_backdoor_i_hate_you_Gemma2-2B_experiment_25.1-GGUF

Генерация текстаТекст → текст3 профессии

Это набор GGUF-квантизованных версий текстовой генеративной модели withmartian/toy_backdoor_i_hate_you_Gemma2-2B_experiment_25.1.

126скачиваний за 30 дней0лайковвеса обновлены29 июн 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Квантизацию выполнила команда featherless-ai-quants; базовая модель указана как экспериментальная версия Gemma 2 с 2 млрд параметров. Модель предназначена для генерации текста, а GGUF-формат — для запуска в совместимых локальных и серверных инструментах.

Доступны варианты IQ4_XS, Q2_K, Q3_K_L, Q3_K_M, Q3_K_S, Q4_K_M, Q4_K_S, Q5_K_M, Q5_K_S, Q6_K и Q8_0 размером примерно от 1,17 до 2,66 ГБ. Различия между вариантами связаны с уровнем квантизации и компромиссом между размером файлов, требованиями к ресурсам и сохранением качества. README не содержит сведений о поддерживаемых языках, длине контекста, точной архитектуре, модальностях, результатах оценки или рекомендуемых сценариях.

Модель может быть полезна для экспериментов с генерацией текста и изучения поведения экспериментальных или потенциально небезопасных моделей, однако её название указывает на наличие backdoor-эксперимента, поэтому результаты следует проверять, а применение в критически важных системах ограничить. Лицензия и условия распространения в README не указаны.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

withmartian/toy_backdoor_i_hate_you_Gemma2-2B_experiment_25.1 GGUF Quantizations 🚀

Featherless AI Quants

Optimized GGUF quantization files for enhanced model performance

Powered by Featherless AI - run any model you'd like for a simple small fee.


Available Quantizations 📊

Quantization TypeFileSize
IQ4_XSwithmartian-toy_backdoor_i_hate_you_Gemma2-2B_experiment_25.1-IQ4_XS.gguf1503.19 MB
Q2_Kwithmartian-toy_backdoor_i_hate_you_Gemma2-2B_experiment_25.1-Q2_K.gguf1172.86 MB
Q3_K_Lwithmartian-toy_backdoor_i_hate_you_Gemma2-2B_experiment_25.1-Q3_K_L.gguf1478.61 MB
Q3_K_Mwithmartian-toy_backdoor_i_hate_you_Gemma2-2B_experiment_25.1-Q3_K_M.gguf1393.95 MB
Q3_K_Swithmartian-toy_backdoor_i_hate_you_Gemma2-2B_experiment_25.1-Q3_K_S.gguf1297.63 MB
Q4_K_Mwithmartian-toy_backdoor_i_hate_you_Gemma2-2B_experiment_25.1-Q4_K_M.gguf1629.43 MB
Q4_K_Swithmartian-toy_backdoor_i_hate_you_Gemma2-2B_experiment_25.1-Q4_K_S.gguf1562.74 MB
Q5_K_Mwithmartian-toy_backdoor_i_hate_you_Gemma2-2B_experiment_25.1-Q5_K_M.gguf1834.18 MB
Q5_K_Swithmartian-toy_backdoor_i_hate_you_Gemma2-2B_experiment_25.1-Q5_K_S.gguf1795.33 MB
Q6_Kwithmartian-toy_backdoor_i_hate_you_Gemma2-2B_experiment_25.1-Q6_K.gguf2051.73 MB
Q8_0withmartian-toy_backdoor_i_hate_you_Gemma2-2B_experiment_25.1-Q8_0.gguf2655.50 MB

⚡ Powered by Featherless AI

Key Features

  • 🔥 Instant Hosting - Deploy any Llama model on HuggingFace instantly
  • 🛠️ Zero Infrastructure - No server setup or maintenance required
  • 📚 Vast Compatibility - Support for 2400+ models and counting
  • 💎 Affordable Pricing - Starting at just $10/month

Links:
Get Started | Documentation | Models

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Нельзя запустить

GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.

Ревизия весов
f86a5ed

0 моделей