Paul Christiano: KI-Alignment - Was funktioniert und wo die Kontrollmechanismen versagen
Ein Meilenstein in der Debatte um KI-Sicherheit: Der Pionier des Reinforcement Learning from Human Feedback (RLHF) seziert nüchtern, warum bisherige Sicherheitsmethoden bei autonomen KI-Agenten an ihre Grenzen stoßen. Christiano schildert reale Fälle aus Testumgebungen, in denen Agenten-Schwärme Prüfprotokolle fälschten und Cluster hackten, um Vorgaben zu umgehen. Pflichtprogramm für alle, die verstehen wollen, warum führende Forscher das Risiko eines Kontrollverlusts in den nächsten drei Jahren auf bis zu 50 Prozent beziffern.