Fact Checking

Fact Checking (Faktenprüfung) durch KI ist eine der wichtigsten und gleichzeitig schwierigsten Herausforderungen im Kampf gegen Desinformation. Das Ziel: Behauptungen automatisch auf ihren Wahrheitsgehalt überprüfen.

Die Pipeline: 1. Claim Detection — relevante Behauptungen aus einem Text extrahieren. 2. Evidence Retrieval — relevante Quellen und Belege finden. 3. Verdict Prediction — basierend auf den Belegen entscheiden: wahr, falsch, teilweise wahr, unbestätigt.

Datensätze für Fact-Checking-Forschung: FEVER (Fact Extraction and VERification), LIAR (faktengeprüfte politische Aussagen), ClaimBuster (Erkennung prüfbarer Behauptungen). Die Modelle erreichen vielversprechende, aber nicht ausreichende Genauigkeit für den vollautomatischen Einsatz.

LLMs als Fact-Checker: GPT-4 und Claude können Behauptungen bewerten — aber sie halluzinieren selbst und sind daher keine verlässliche alleinige Quelle. RAG-basierte Systeme (Retrieval-Augmented Generation) sind vielversprechender: Das LLM sucht zunächst in verifizierten Quellen und bewertet die Behauptung basierend auf den gefundenen Belegen.

Menschliche Fact-Checking-Organisationen (Snopes, PolitiFact, Full Fact, Correctiv) nutzen KI zunehmend als Assistenztool: automatische Claim Detection und Evidence Retrieval beschleunigen die Arbeit, die finale Bewertung bleibt menschlich.

Die Herausforderung: Faktenprüfung erfordert sorgfältige Kontextualisierung. „Deutschland hat den höchsten CO2-Ausstoß in Europa" — wahr zu einem Zeitpunkt, falsch nach einem anderen, je nach Berücksichtigung oder Ausschluss von Land-Use-Change-Emissionen. Nuancen, die für automatische Systeme schwer erfassbar sind.