Activation Patching PLUS
Activation Patching verändert interne Modellaktivierungen, um ihren Einfluss auf eine Antwort zu untersuchen.
Activation Patching ist eine Eingriffsmethode zur Untersuchung von Sprachmodellen. Forschende tauschen interne Aktivierungen zwischen Modellläufen aus und messen, wie sich die Ausgabe verändert.
Gedankenbeispiel: Ein Lauf beantwortet eine Frage korrekt, ein anderer erhält eine veränderte Eingabe. Man überträgt eine interne Aktivierung aus dem ersten Lauf in den zweiten und prüft die Wirkung.
Mit KI Woche Plus weiterlesen
Dieser vertiefende Begriff ist Teil von KI Woche Plus. Alle anderen Begriffe lesen Sie mit einem kostenlosen Konto vollständig.
9,90 € im Monat oder 99,90 € im Jahr, inkl. USt.
Erklärung wird geladen …