Batch Normalization PLUS
Batch Normalization normalisiert die Aktivierungen jeder Schicht pro Mini-Batch, damit das Training tiefer Netze stabiler und schneller wird.
Batch Normalization (Batch Norm) ist eine Technik, die 2015 eingeführt wurde und das Training tiefer neuronaler Netze revolutioniert hat. Sie adressiert das Problem des 'Internal Covariate Shift', bei dem sich die Verteilung der Inputs einer Schicht ständig ändert, weil sich die Parameter der vorherigen Schichten während des Trainings ändern. Das macht das Training instabil und langsam, da man sehr vorsichtige (niedrige) Lernraten wählen muss.
Mit KI Woche Plus weiterlesen
Dieser vertiefende Begriff ist Teil von KI Woche Plus. Alle anderen Begriffe lesen Sie mit einem kostenlosen Konto vollständig.
9,90 € im Monat oder 99,90 € im Jahr, inkl. USt.
Erklärung wird geladen …