Zum Inhalt springen
Sicherheit & Ethik

Content Filter

In einem Satz

Content Filter erkennen und blockieren problematische Eingaben oder Ausgaben eines KI-Systems und bilden die erste Verteidigungslinie gegen Missbrauch.

Content Filter sind Mechanismen, die problematische Eingaben oder Ausgaben eines KI-Systems erkennen und blockieren - die erste Verteidigungslinie gegen Missbrauch und schädliche Inhalte.

Jeder große Sprachmodellanbieter setzt mehrstufige Filter ein. Input-Filter prüfen, ob der Prompt gegen Nutzungsrichtlinien verstößt (Anleitung zur Waffenherstellung, CSAM-Anfragen, Hassrede). Output-Filter scannen die Modellantwort und blockieren oder modifizieren sie bei Regelverstößen. Safety Classifiers - eigene, kleinere ML-Modelle - bewerten Eingaben und Ausgaben in Echtzeit.

Kostenlos anmelden und weiterlesen

Mit einem kostenlosen Konto lesen Sie 356 Begriffe vollständig, sehen im Toolfinder Stärken und Schwächen und können sich Begriffe merken.

Kostenlos anmeldenNur E-Mail, Code statt Passwort
Moderation

Verwandte Begriffe

Sonntags die ganze KI Woche, kostenlos auf LinkedIn Editorial, die wichtigsten Themen und was daraus folgt. Jederzeit abbestellbar. Der Plus-Newsletter für Mitglieder von KI Woche Plus startet in Kürze.
Newsletter abonnieren

Willkommen zurück

Ein Konto für die KI Woche, Ihre Downloads und die App. Ohne Passwort: Sie bekommen einen Code per E-Mail.

Buch gekauft? Ihre Unterlagen finden Sie unter Downloads. Code erhalten? Hier einlösen. Datenschutz