Content Filter
Content Filter erkennen und blockieren problematische Eingaben oder Ausgaben eines KI-Systems und bilden die erste Verteidigungslinie gegen Missbrauch.
Content Filter sind Mechanismen, die problematische Eingaben oder Ausgaben eines KI-Systems erkennen und blockieren - die erste Verteidigungslinie gegen Missbrauch und schädliche Inhalte.
Jeder große Sprachmodellanbieter setzt mehrstufige Filter ein. Input-Filter prüfen, ob der Prompt gegen Nutzungsrichtlinien verstößt (Anleitung zur Waffenherstellung, CSAM-Anfragen, Hassrede). Output-Filter scannen die Modellantwort und blockieren oder modifizieren sie bei Regelverstößen. Safety Classifiers - eigene, kleinere ML-Modelle - bewerten Eingaben und Ausgaben in Echtzeit.
Kostenlos anmelden und weiterlesen
Mit einem kostenlosen Konto lesen Sie 356 Begriffe vollständig, sehen im Toolfinder Stärken und Schwächen und können sich Begriffe merken.
Erklärung wird geladen …



