Kai Ole Hartwig

Name des Begriffes: Prompt Injection
Beschreibungen des Begriffes:

Definition

Definition. Bei Prompt Injection schmuggelt ein Angreifer Anweisungen in Text, den ein Sprachmodell verarbeitet. Das Modell trennt nicht sauber zwischen Befehl und Daten. Es folgt dann dem eingeschleusten Text statt der ursprünglichen Vorgabe. Die indirekte Variante versteckt die Anweisung in Webseiten, E-Mails oder Dokumenten, die ein Agent liest.

Warum relevant. Sobald ein Agent Werkzeuge nutzt, etwa über MCP auf ein CMS oder einen Cluster, wird aus falscher Antwort eine falsche Aktion. Schutz bietet kein Filter allein. Wirksam sind knappe Rechte, Freigaben für schreibende Aktionen und Workspaces statt direkter Veröffentlichung.

Beispiel. Ein Agent fasst Kommentare im TYPO3-Backend zusammen. Ein Kommentar enthält versteckt die Anweisung, alle Seiten zu veröffentlichen. Ohne Freigabeschritt führt der Agent sie aus.

Verwandt. MCP, RAG, Agent Readiness

Synonyme: Prompt-Injection, Indirect Prompt Injection
Typ des Begriffes: definition
Sprache des Begriffes (2 Zeichen ISO Code): de
Zurück