Zum Inhalt springen
Sicherheit & Ethik

Data Poisoning PLUS

Datenvergiftung
In einem Satz

Data Poisoning manipuliert Daten gezielt, um das Verhalten eines KI-Systems zu verschlechtern oder zu verändern.

Data Poisoning bezeichnet die Manipulation von Daten, mit denen ein KI-System lernt oder Wissen erschließt. Dadurch können falsche Muster, Verzerrungen oder versteckte Auslöser in das System gelangen.

Bei Sprachmodellen können nach OWASP unter anderem Vortraining, Nachtraining und Daten für Einbettungen betroffen sein. Ein veranschaulichendes Beispiel sind absichtlich verfälschte Trainingsdokumente, die bestimmte falsche Antworten begünstigen sollen.

PLUS

Mit KI Woche Plus weiterlesen

Dieser vertiefende Begriff ist Teil von KI Woche Plus. Alle anderen Begriffe lesen Sie mit einem kostenlosen Konto vollständig.

9,90 € im Monat oder 99,90 € im Jahr, inkl. USt.

Verwandte Begriffe

Sonntags die ganze KI Woche, kostenlos auf LinkedIn Editorial, die wichtigsten Themen und was daraus folgt. Jederzeit abbestellbar. Der Plus-Newsletter für Mitglieder von KI Woche Plus startet in Kürze.
Newsletter abonnieren

Willkommen zurück

Ein Konto für die KI Woche, Ihre Downloads und die App. Ohne Passwort: Sie bekommen einen Code per E-Mail.

Buch gekauft? Ihre Unterlagen finden Sie unter Downloads. Code erhalten? Hier einlösen. Datenschutz