/ Модель

Характеристики

Лицензия
Llama 3.1
Базовая модель
Llama-3.1-8B-Instruct
Опубликована
7 мар 2026

codette-lora-adapters

Генерация текстаТекст → текст5 профессий

Набор LoRA-адаптеров для генерации текста с разными перспективами рассуждения на базе Llama 3.1.

610скачиваний за 30 дней0лайковвеса обновлены8 июл 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Raiff1982 публикует набор из десяти LoRA-адаптеров Codette для системы рассуждений с несколькими перспективами. Адаптеры предназначены для подключения к базовой модели и задают разные когнитивные подходы, например аналитический, творческий и эмпатичный; система может маршрутизировать запросы между адаптерами и объединять ответы. Репозиторий содержит веса PEFT в safetensors и варианты GGUF в формате F16.

Адаптеры обучены для семейства Llama 3.1 и описаны как средство генерации текста с многоперспективным рассуждением. В README заявлена поведенческая проверка семи адаптеров после повторного обучения; для остальных адаптеров такая проверка не подтверждена. Лицензия — Llama 3.1. Для инференса требуется совместимая базовая модель; README также приводит пример с контекстом 8192 токена, но не утверждает, что это собственный предел адаптеров.

Сценарии применения

  • получение аналитического ответа с математической точностью
  • генерация творческих идей и аналогий между областями
  • составление эмпатичных ответов с активным слушанием
  • сравнение ответов с разных когнитивных позиций
  • маршрутизация запроса между адаптерами и синтез общего ответа

Ограничения

Это адаптеры, для работы которым нужна совместимая базовая модель. README подтверждает поведенческую проверку только семи из десяти адаптеров; указанные 8192 токена приведены как параметр примера запуска, а не как установленный предел модели.

Для каких профессий подходит5

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Codette LoRA Adapters — 10 Perspective Lenses

10 specialized LoRA adapters for the Codette Multi-Perspective Reasoning System. Each adapter encodes a distinct cognitive stance; the system routes queries and synthesizes across them at inference time.

Paper: Codette: Multi-Perspective Reasoning as a Convergent Dynamical System Base model: Raiff1982/codette-llama-3.1-8b-merged


Behavioral Verification (June 17, 2026)

All 7 perspective adapters passed behavioral verification after v2 retrain — zero template-contamination markers detected across 14 targeted probes. Adapters generate substantive, specific responses rather than training-data boilerplate.


Adapters

AdapterCognitive StanceVersionGGUF
newtonAnalytical physics, mathematical precision, conservation lawsv2newton-behavioral-lora-f16.gguf
davinciCreative invention, cross-domain synthesis, analogical reasoningv2davinci-behavioral-lora-f16.gguf
empathyEmotional intelligence, active listening, anti-flatteryv2empathy-behavioral-lora-f16.gguf
philosophyEpistemological analysis, Socratic method, ethical frameworksv2philosophy-behavioral-lora-f16.gguf
quantumProbabilistic reasoning, Bayesian updating, superposition thinkingv2quantum-behavioral-lora-f16.gguf
consciousnessRecursive meta-cognition, RC+ξ self-monitoringv2consciousness-behavioral-lora-f16.gguf
multi_perspectiveCross-lens synthesis, integrative reasoningv2multi_perspective-behavioral-lora-f16.gguf
systems_architectureModularity, scalability, engineering tradeoffsv2systems_architecture-behavioral-lora-f16.gguf
orchestratorQuery routing, debate coordination, coherence monitoringv1orchestrator-behavioral-lora-f16.gguf
constraint_trackerInstruction compliance, constraint enforcementv1constraint_tracker-behavioral-lora-f16.gguf

v2 Adapter Training (June 15, 2026)

  • Hand-authored datasets replacing the original template-generated training data
  • Jargon-free system prompts (removed RC+ξ metric references that encouraged filler)
  • 6 epochs, lr 1e-4, rank 16, A10G GPU
  • Science claims web-verified before inclusion in training data
  • Available as PEFT safetensors under {name}_v2/ subfolders

Usage

Hot-swap with llama-cpp-python (local inference)

from llama_cpp import Llama

llm = Llama(model_path="Meta-Llama-3.1-8B-Instruct-Q4_K_M.gguf",
            n_ctx=8192, n_gpu_layers=35)
llm.load_lora("newton-behavioral-lora-f16.gguf")

response = llm.create_chat_completion(
    messages=[{"role": "user", "content": "Derive the escape velocity formula."}],
    max_tokens=512,
)

With PEFT + transformers (fine-tuning / Kaggle)

from transformers import AutoModelForCausalLM, BitsAndBytesConfig
from peft import PeftModel
import torch

bnb = BitsAndBytesConfig(load_in_4bit=True, bnb_4bit_quant_type="nf4",
                         bnb_4bit_compute_dtype=torch.bfloat16)
base = AutoModelForCausalLM.from_pretrained(
    "Raiff1982/codette-llama-3.1-8b-merged",
    quantization_config=bnb, device_map="auto"
)
model = PeftModel.from_pretrained(base, "Raiff1982/codette-lora-adapters",
                                  subfolder="newton_v2")

Full Codette server (all adapters, live routing)

git clone https://github.com/Raiff1982/Codette-Reasoning
cd Codette-Reasoning
python inference/codette_server.py  # :7860

File Structure

codette-lora-adapters/
  ├── behavioral-gguf/              # v2 GGUF adapters (27 MB each)
  │   ├── newton-behavioral-lora-f16.gguf
  │   ├── davinci-behavioral-lora-f16.gguf
  │   ├── empathy-behavioral-lora-f16.gguf
  │   └── ...
  ├── newton_v2/                    # v2 PEFT safetensors
  │   ├── adapter_config.json
  │   └── adapter_model.safetensors
  ├── davinci_v2/
  ├── empathy_v2/
  ├── ...
  ├── newton/                       # v1 PEFT safetensors (legacy)
  └── ...

Related Resources

ResourceLink
Merged base modelcodette-llama-3.1-8b-merged
Quantized GGUF basecodette-llama-3.1-8b-gguf
Training datasetscodette-training-data
GitHubRaiff1982/Codette-Reasoning
PaperResearch Square DOI

License

Subject to the Llama 3.1 Community License. Created by Jonathan Harrison (Raiff's Bits LLC) — independent research.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

Репозиторий содержит только адаптер (LoRA/PEFT) без базовой модели.

Ревизия весов
5794694

0 моделей