Black Swan

Der Begriff 'Black Swan' (Schwarzer Schwan), geprägt durch Nassim Nicholas Taleb, beschreibt ein Ereignis, das extrem selten und unvorhersehbar ist, aber massive Auswirkungen hat (z.B. der 11. September, die Finanzkrise 2008 oder die COVID-Pandemie). Im Nachhinein versuchen Menschen oft, Erklärungen zu konstruieren, warum es 'vorhersehbar' war.

Für KI-Systeme sind Black Swans der ultimative Albtraum. Da Machine Learning grundsätzlich auf induktiver Statistik basiert – also dem Schließen von vergangenen Daten auf die Zukunft –, sind sie per Definition blind für Ereignisse, die in ihren Trainingsdaten nie vorgekommen sind ('Out-of-Distribution Data'). Ein autonomes Auto, das Millionen Kilometer auf sonnigen Straßen trainiert wurde, könnte beim ersten Schneesturm katastrophal versagen. Robuste KI muss lernen, mit Neuartigem umzugehen oder zumindest sicher abzuschalten, wenn sie die Situation nicht kennt.