Feature Steering PLUS
Feature Steering beeinflusst Modellantworten durch das gezielte Verstärken oder Abschwächen interner Merkmale.
Feature Steering greift in interne Aktivierungsmuster eines Modells ein. Forschende verstärken oder unterdrücken Merkmale und beobachten die Wirkung auf das Verhalten.
Anthropic beschreibt dazu ein Experiment mit einem Merkmal zur Golden Gate Bridge. Dessen Verstärkung ließ das untersuchte Modell die Brücke auch bei unpassenden Fragen thematisieren.
Mit KI Woche Plus weiterlesen
Dieser vertiefende Begriff ist Teil von KI Woche Plus. Alle anderen Begriffe lesen Sie mit einem kostenlosen Konto vollständig.
9,90 € im Monat oder 99,90 € im Jahr, inkl. USt.
Erklärung wird geladen …