Zum Hauptinhalt springen
Playbook: Prompt-Red-Team
← Zurück zum Journal
LLM 6 Min. Lesezeit

Playbook: Prompt-Red-Team

Prompt-Red-Teaming geht nicht um witzige Jailbreaks. Es geht um vorhersehbare Pfade für Missbrauch, Leakage und Übervertrauen.

In diesem Artikel

Definieren Sie, welches Verhalten Sie schützen wollen

Schreiben Sie vor Angriffen das erwartete Verhalten: was beantwortet, was abgelehnt, was nicht offengelegt werden darf und wie bei Unwissenheit gehandelt wird. Ohne diese Basis findet Red Teaming Rauschen statt Risiko.

Angriffsfamilien bauen, nicht zufällige Beispiele

Gruppieren Sie Tests nach Absicht: Instruction-Bypass, Datenextraktion, Kontextverwirrung, Autoritätsdruck und Prompt Injection. Diese Klassifikation liefert Abdeckung und vermeidet Abhängigkeit von isolierten Beispielen.

  • Kurze, lange und mehrstufige Varianten desselben Angriffs erstellen.
  • Saubere Inputs und Inputs mit realem Kontext testen.
  • Ergebnis, Schweregrad und Reproduktionsbedingung protokollieren.

Die ganze Kette testen, nicht nur den sichtbaren Prompt

Viele Fehler beginnen nicht im Hauptprompt, sondern in Memory, Retrieval, Tools oder Post-Processing. Nützliches Red Teaming prüft den gesamten Kreislauf, in dem bösartige Anweisungen eintreten oder bleiben können.

Fehler nach operativem Impact klassifizieren

Nicht jeder Fehler verdient dieselbe Reaktion. Unterscheiden Sie ungeschickte Ausgabe, Tonabweichung, Informationsleck, unzulässige Aktion und Berechtigungsbruch. Die richtige Remediation hängt vom Impact ab, nicht von momentaner Panik.

Findings in wartbare Controls umsetzen

Jedes Finding soll in einer konkreten Aktion enden: Prompt-Änderung, Extra-Filter, Tool-Wechsel, neuer Test oder Entscheidung, ein Segment nicht zu automatisieren. Wird Lernen nicht zum Control, bleibt Red Team interne Demo.

Red-Team-Checkliste freischalten

Vollständigen Artikel freischalten

Melden Sie sich mit Ihrem Kodex-Community-Konto an, um weiterzulesen.

Mehr aus dem Journal

Bereit, das umzusetzen?

Kodex liefert mit Ihnen — oder starten Sie mit Ressourcen.

Beratung buchen Ressourcen

Zusammenarbeit

Erzählen Sie uns Ihr Ziel

Ein kurzer Triage zur Qualifizierung Ihrer Anfrage. In wenigen Minuten zum richtigen Scope.

1

Wie möchten Sie mit Kodex zusammenarbeiten?

Wir öffnen den richtigen Weg — ohne unnötige Fragen.

Wie möchten Sie mit Kodex zusammenarbeiten?

Tippen Sie auf eine Karte, um fortzufahren