Data Poisoning PLUS
DatenvergiftungData Poisoning manipuliert Daten gezielt, um das Verhalten eines KI-Systems zu verschlechtern oder zu verändern.
Data Poisoning bezeichnet die Manipulation von Daten, mit denen ein KI-System lernt oder Wissen erschließt. Dadurch können falsche Muster, Verzerrungen oder versteckte Auslöser in das System gelangen.
Bei Sprachmodellen können nach OWASP unter anderem Vortraining, Nachtraining und Daten für Einbettungen betroffen sein. Ein veranschaulichendes Beispiel sind absichtlich verfälschte Trainingsdokumente, die bestimmte falsche Antworten begünstigen sollen.
Mit KI Woche Plus weiterlesen
Dieser vertiefende Begriff ist Teil von KI Woche Plus. Alle anderen Begriffe lesen Sie mit einem kostenlosen Konto vollständig.
9,90 € im Monat oder 99,90 € im Jahr, inkl. USt.
Erklärung wird geladen …