/ Модель

Характеристики

Контекст
8 192 токена
Параметры
2,7 млрд
Размер весов
6,4 ГБ
Лицензия
Apache 2.0
Архитектура
gemma2 · dense
Опубликована
3 авг 2024

Gemma2-2B-mixed

Генерация текстаТекст → текст3 профессии

Компактная слитая модель Gemma 2 на 2,7 млрд параметров для диалоговой генерации текста, ролевых бесед и локального запуска.

11скачиваний за 30 дней2лайкавеса обновлены4 авг 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Gemma2-2B-mixed — компактная разговорная языковая модель, созданная bunnycore слиянием нескольких моделей семейства Gemma 2 с помощью mergekit. Она предназначена для генерации текста и диалогов, включая ролевые сценарии и ответы на вопросы, а также для локального запуска на смартфонах и устройствах с ограниченными ресурсами или без подключения к интернету. Модель имеет плотную архитектуру Gemma2ForCausalLM, 2,7 млрд параметров и контекст до 8192 токенов; опубликованные веса представлены в формате safetensors. Карточка заявляет о снижении ограничений на ответы и пригодности для творческих диалогов.

Модель объединяет IlyaGusev/gemma-2-2b-it-abliterated, TheDrummer/Gemmasutra-Mini-2B-v1 и monsterapi/gemma-2-2b-LoRA-MonsterInstruct; в конфигурации базовой указана IlyaGusev/gemma-2-2b-it-abliterated. Лицензия — Apache-2.0. Карточка не приводит подтверждённых сравнительных оценок качества или сведений о поддерживаемых языках, поэтому языковые возможности и заявленные преимущества следует оценивать на целевых сценариях.

Сценарии применения

  • локальный чат на смартфоне без подключения к интернету
  • генерация творческих ответов и продолжений текста
  • диалоги с ролевыми персонажами
  • ответы на вопросы в разговорном формате

Ограничения

Карточка не приводит сравнительных оценок качества или подтверждённого списка поддерживаемых языков. Заявления о работе на смартфонах и качестве ответов не сопровождаются описанием тестов.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Gemma2-2B-mixed

Gemma2-2B-mixed is a compact LLM designed for deployment on smartphones. Gemma2-2B-mixed is a novel AI model that combines the strengths of multiple uncensored models to create a powerful and versatile language processing model. By merging a range of models, including a roleplay uncensored model, Gemma2-2B-mixed offers unparalleled capabilities for generating creative and informative responses.

Key Features

  • Uncensored: Gemma2-2B-mixed is designed to provide unfiltered and unbiased responses, making it an ideal choice for applications where creativity and honesty are essential.
  • Compact Size: Despite its advanced capabilities, Gemma2-2B-mixed is optimized for deployment on smartphones and other resource-constrained devices.
  • Roleplay Capabilities: The incorporation of a roleplay uncensored model enables Gemma2-2B-mixed to engage in immersive and interactive conversations.
  • Offline Capabilities: Gemma2-2B-mixed can operate effectively in environments with limited or no internet connectivity.

Benefits of Uncensored Model

  • Increased Creativity: By removing censorship constraints, Gemma2-2B-mixed can generate more innovative and diverse responses.
  • Improved Question Answering: The model's uncensored nature allows it to provide more direct and accurate answers to a wide range of questions.
  • Enhanced Overall Performance: Gemma2-2B-mixed offers a more comprehensive and engaging user experience, making it an excellent choice for various applications.

Gemma2-2B-mixed is a merge of the following models using mergekit:

🧩 Configuration

models:
  - model: IlyaGusev/gemma-2-2b-it-abliterated
  - model: TheDrummer/Gemmasutra-Mini-2B-v1
  - model: monsterapi/gemma-2-2b-LoRA-MonsterInstruct
merge_method: model_stock
base_model: IlyaGusev/gemma-2-2b-it-abliterated
dtype: bfloat16

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
Gemma2ForCausalLM
Ревизия весов
a733aaa

0 моделей