Start / Wissen

KI-Agenten und Cybersicherheit

Ein Chatbot antwortet. Ein Agent handelt: Er liest E-Mails, ändert Datensätze, verschickt Nachrichten. Das macht ihn nützlich und verlangt andere Schutzmaßnahmen.

Was Agenten riskant macht

• Zu weite Rechte. Ein Agent mit Administratorzugang kann auch Schaden in Administratorgröße anrichten.
• Versteckte Anweisungen. Texte in E-Mails, Dokumenten oder Kundenfeldern können Befehle enthalten (Prompt-Injection). Liest der Agent sie als Anweisung, handelt er im Sinne eines Dritten.
• Datenabfluss. Wer lesen und senden darf, kann Daten ungewollt nach außen tragen.
• Keine unabhängige Spur. Berichtet nur der Agent über sich selbst, fehlt der Beweis, was wirklich geschah.

Neun Regeln für den Einsatz

1. Ein Agent, eine AufgabeJe enger der Auftrag, desto kleiner der mögliche Schaden.
2. Eigenes Konto je AgentGetrennt von Mitarbeiter- und Administratorkonten.
3. Nur lesen als StandardSchreibrechte einzeln begründen und befristen.
4. Zugangsdaten im TresorEng gefasst, kurzlebig, regelmäßig erneuert.
5. Menschliche Freigabe bei UnumkehrbaremLöschen, Zahlen und Senden an Kunden nur nach technisch erzwungener Freigabe.
6. Abgeschirmte UmgebungNicht auf Arbeitsplatzrechnern oder direkt im Produktivsystem.
7. Positivliste nach außenNur freigegebene Adressen und Dienste erreichbar.
8. Unabhängige ProtokolleAußerhalb der Agentenumgebung, für den Agenten nicht änderbar.
9. NotausschalterAlle Agenten und Zugänge in wenigen Minuten stoppen, mit benannter Verantwortung.

Wichtig: Eine Anweisung an den Agenten („lösche nie etwas“) ist keine technische Grenze. Grenzen müssen im System erzwungen werden, nicht im Prompt.

Welche Infrastruktur dafür nötig ist, zeigt die Seite IT-Infrastruktur für Agenten.