Excessive Agency PLUS
Excessive Agency beschreibt Schäden durch zu weitreichende Funktionen, Rechte oder Selbstständigkeit eines KI-Agenten.
Excessive Agency liegt vor, wenn ein KI-System durch zu weitreichende Handlungsmöglichkeiten Schaden anrichten kann. OWASP unterscheidet überflüssige Funktionen, überhöhte Berechtigungen und zu große Selbstständigkeit.
Beispiel: Zum Zusammenfassen von E-Mails wäre Lesen ausreichend. Besitzt der Assistent zusätzlich eine Sendefunktion, kann eine manipulierte Nachricht weiterreichende Folgen auslösen. Auch ein gewöhnlicher Modellfehler kann solche Folgen haben.
Mit KI Woche Plus weiterlesen
Dieser vertiefende Begriff ist Teil von KI Woche Plus. Alle anderen Begriffe lesen Sie mit einem kostenlosen Konto vollständig.
9,90 € im Monat oder 99,90 € im Jahr, inkl. USt.
Erklärung wird geladen …