Black Box

Black Box ist eine Metapher für ein System, dessen inneres Verhalten für den Beobachter undurchsichtig ist. Man sieht den Input (z.B. ein Röntgenbild) und den Output (Diagnose: 'Tumor'), aber der Prozess dazwischen ist verborgen. In der KI bezieht sich dies auf das 'Deep Learning Black Box Problem': Ein tiefes neuronales Netz besteht aus Millionen oder Milliarden von Parametern. Selbst wenn wir jeden einzelnen mathematischen Schritt nachvollziehen können, ist die Entscheidung als Ganzes für den Menschen intuitiv nicht erklärbar.

Warum hat das Netz genau an dieser Stelle einen Tumor erkannt? War es ein Schatten? Ein Artefakt? Oder echte Pathologie? Diese Unerklärbarkeit ist ein massives Hindernis für den Einsatz von KI in hochsensiblen Bereichen wie Justiz (Kreditwürdigkeit, Rückfallprognosen) oder Medizin, wo Nachvollziehbarkeit und Vertrauen essenziell sind. Das Feld der 'Explainable AI' (XAI) versucht, diese Black Box durch Visualisierungen und Erklärungen transparenter zu machen.