GGUF available: mradermacher/grok_demon_7b-GGUF 🚀 https://huggingface.co/mradermacher/grok_demon_7b-GGUF

🚨 [DEPRECATED / OBSOLETO] GROK DEMON v1 🚨

⚠️ ESTE REPOSITORIO HA SIDO SUPERADO Y YA NO RECIBE SOPORTE

⚠️ THIS REPOSITORY IS DEPRECATED AND NO LONGER MAINTAINED

⚠️ PERO NO BORRES ESTOS PESOS / DO NOT DELETE THESE WEIGHTS. Este repositorio es el modelo base obligatorio del adaptador grok_demon_7b_v2.1. "Deprecado" aquí significa "no lo uses solo como modelo final", no "no lo necesitas". Sin estos pesos, la v2.1 no se puede cargar.

This repository is the required base model for the v2.1 adapter. Deprecated here means "don't use it standalone", not "you don't need it".

✅ ¿Buscas la versión nueva? Estás en el lugar correcto, pero este NO es el repo final. Este repo contiene los pesos base obligatorios (15.2 GB). El modelo final es el adaptador de aquí: 👉 Maximiliano-Flores-Dev/grok_demon_7b_v2.1 — Bilingüe ES/EN · 162 MB Uso recomendado:

base = "Maximiliano-Flores-Dev/grok_demon_7b"
adapter = "Maximiliano-Flores-Dev/grok_demon_7b_v2.1"
model = AutoModelForCausalLM.from_pretrained(base, torch_dtype=torch.bfloat16, device_map="auto")
model = PeftModel.from_pretrained(model, adapter)

🚀 Migración recomendada → GROK DEMON v2.1 Bilingüe

👉 grok_demon_7b_v2.1

Español: La versión 1 está obsoleta como modelo final. La v2.1 Bilingüe (ES/EN) ofrece un rendimiento muy superior, muestreo de datos optimizado y cero fricción lingüística.

English: Version 1 is outdated as a standalone model. The v2.1 Bilingual (ES/EN) release provides vastly superior performance, optimized dataset sampling, and zero linguistic friction.

📌 Nota de linaje (importante)

⚠️ Este repositorio contiene los PESOS FUSIONADOS, no un adaptador LoRA. This repository contains MERGED WEIGHTS, not a LoRA adapter.

Aunque el nombre del modelo base incluya -bnb-4bit, aquí no hay cuantización 4-bit ni adaptadores. Lo que contiene este repo es el resultado de fusionar (merge) un LoRA v1 sobre el modelo base, guardado en bf16.

Este repo es la release v1 — no existe un repositorio grok_demon_7b_v1 separado.

Cadena de entrenamiento / Training lineage

unsloth/qwen2.5-7b-instruct-unsloth-bnb-4bit   (base original, 4-bit)
            │
            │  Etapa 1 · LoRA v1 entrenado con Unsloth + TRL
            ▼
grok_demon_7b   ← ESTE REPO · release v1 · pesos fusionados (bf16, ~15.2 GB, Qwen2ForCausalLM)
            │
            │  Etapa 2 · LoRA v2.1 entrenado sobre estos pesos
            ▼
grok_demon_7b_v2.1   ← adaptador LoRA (~162 MB)

La etapa "LoRA v1" que se fusionó aquí no tiene repositorio propio: existió antes de fusionar y su delta quedó horneado en estos pesos de forma irreversible.

Verificación / How to verify

Si tienes dudas de si un repo es adaptador o modelo completo, mira esto:

📌 Model Overview

• Developer: Maximiliano-Flores-Dev
• Release: v1 (fusionada)
• Base original: unsloth/qwen2.5-7b-instruct-unsloth-bnb-4bit
• Architecture: Qwen2 (Qwen2ForCausalLM, 7B)
• Precisión / Precision: bfloat16 (fusionado, no 4-bit)
• Idioma / Language: Español (es)
• License: Apache-2.0
• Estado / Status: Deprecado como modelo final · vigente como modelo base obligatorio del adaptador v2.1

📂 Contenido del repo

🚀 Training & Optimization

Este modelo fue entrenado 2x más rápido con Unsloth y la librería TRL de Hugging Face.

🛠️ Quick Start (Hugging Face Transformers)

from transformers import AutoModelForCausalLM, AutoTokenizer
import torch

model_id = "Maximiliano-Flores-Dev/grok_demon_7b"

tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(
    model_id,
    torch_dtype=torch.bfloat16,
    device_map="auto",
)
model.eval()

messages = [
    {"role": "user", "content": "Escribe una arquitectura de sistemas eficiente."}
]

inputs = tokenizer.apply_chat_template(
    messages,
    add_generation_prompt=True,
    return_tensors="pt",
).to(model.device)

with torch.no_grad():
    outputs = model.generate(inputs, max_new_tokens=256)
print(tokenizer.decode(outputs[0][inputs.shape[-1]:], skip_special_tokens=True))

⚠️ Usa apply_chat_template(): la persona "Grok Demon" vive en chat_template.jinja. Tokenizar texto crudo degrada la calidad.

💡 Si quieres el fine-tune v2.1, carga este modelo y aplica encima el adaptador grok_demon_7b_v2.1:

from peft import PeftModel

model = PeftModel.from_pretrained(model, "Maximiliano-Flores-Dev/grok_demon_7b_v2.1")

⚖️ Licencia y atribución / License & Attribution

Este modelo es una obra derivada de unsloth/qwen2.5-7b-instruct-unsloth-bnb-4bit (basado en Qwen2.5-7B-Instruct de Alibaba), publicado bajo Apache License 2.0.

• Atribución obligatoria: se conservan el aviso de copyright y la licencia del modelo original. Este repo no es una obra original.
• Uso comercial permitido: Apache-2.0 no impone regalías ni restringe el uso comercial de esta obra derivada.
• Sin copyleft: Apache-2.0 no obliga a publicar los adaptadores derivados ni los pesos entrenados.
• Terminación por patentes: iniciar una reclamación por patentes contra el licenciante hace perder los derechos concedidos por esta licencia.
• Responsabilidad sobre los datos: la licencia cubre el modelo base, no el corpus usado en el entrenamiento. Cualquier contenido memorizado de terceros es responsabilidad del autor de esta obra derivada.
• Sin garantías: el software se distribuye "AS IS", sin garantías de ningún tipo.

Ver: LICENSE Apache-2.0

Aviso de uso / Usage notice

Este repositorio se mantiene como referencia histórica y como dependencia de la v2.1. No se aceptan issues, PRs ni solicitudes de soporte sobre el modelo en sí. Para despliegues nuevos, usa la v2.1.

This repository is kept for historical reference and as a dependency of v2.1. Issues, PRs, and support requests are not accepted. For new deployments, use v2.1.