Stoppt den Agenten-Horror!

Gastbeitrag von Michael Baldauf *

Wenn sie von der Leine gelassen werden, können sie Angst und Schrecken verbreiten und der Horror bricht los: Pünktlich zu Halloween warnt Pegasystems vor freilaufenden KI-Agenten.​

Das Marketing schreibt KI-Agenten gerne magische Kräfte zu: Sie handeln völlig autonom und regeln alles selbst. Die Realität sieht jedoch etwas anders aus. Wer KI-Agenten nicht an die Kette legt, erntet keine Magie, sondern entfacht Horror. Agenten, die ohne Steuerung und klare Rahmenbedingungen agieren, können Chaos anrichten und beträchtlichen Schaden verursachen.

„Schon kleine Unterschiede in den Eingaben können dazu führen, dass agentenbasierte KI in vergleichbaren Fällen zu unterschiedlichen Entscheidungen kommt – und dadurch Kunden ungleich behandelt“, erklärt Michael Baldauf, Financial Services Senior Director bei Pegasystems. „Wenn KI-Agenten völlig autonom handeln, kann es außerdem passieren, dass sie Aktionen doppelt ausführen, widersprüchliche Mitteilungen an Kunden senden oder gesetzliche Vorgaben verletzen, indem sie sensible Daten weitergeben.“

Zudem besteht die Gefahr, dass sie Prozesse immer in einer unterschiedlichen Reihenfolge durchlaufen und dabei nicht jedes Mal alle erforderlichen Schritte ausführen. Das kann auch ein übergeordneter Orchestrierungs-Agent nicht ändern, da die Ursachen an der Basis liegen. Diese Prozessvariabilität ist insbesondere in regulierten Branchen wie dem Finanzwesen hochproblematisch, wo umfangreiche Prüf- und Dokumentationspflichten exakt einzuhalten sind. Aufsichtsbehörden werden kaum Verständnis dafür aufbringen, dass die Kreditprozesse einer Bank jedes Mal anders ablaufen und Compliance-Prüfungen nur manchmal stattfinden.

„Damit keine Missverständnisse aufkommen: KI-Agenten sind hervorragende Instrumente. Sie können komplexe Aufgaben automatisieren, Informationen aus verschiedenen Quellen analysieren und verknüpfen, Entscheidungsvorschläge in Echtzeit liefern und nahtlos mit Menschen oder Systemen interagieren“, sagt Baldauf. „Was sie jedoch nicht können, ist Prozesse frei selbst gestalten. Sie sind spezialisierte Helfer, die ohne Anleitung nicht effizient, sicher und regelkonform zusammenarbeiten.“

Genauso wie Menschen, die gemeinsam an einer Aufgabe arbeiten, benötigen auch KI-Agenten feste Abläufe, Regeln und Vereinbarungen. Sie brauchen ein zentrales Prozessmodell, das die korrekte Abfolge sämtlicher Schritte sicherstellt. Baldauf: „Mit einem Case-Management-System können Unternehmen einen strukturierten Prozessrahmen schaffen, Zuständigkeiten, Datenflüsse und Entscheidungsregeln zentral modellieren und KI-Agenten als ausführende oder unterstützende Einheiten einbinden. So bleiben Prozesse transparent, konsistent und auditierbar.“

Vor Horror-Agenten müssen sich Unternehmen dann nicht mehr fürchten.

*Michael Baldauf ist Financial Services Senior Director bei Pegasystems