Zum Inhalt springen
Modelle & Architekturen

FlashAttention PLUS

In einem Satz

FlashAttention berechnet Attention mit einer auf GPU-Speicher abgestimmten Arbeitsweise und spart dadurch Speicherverkehr.

FlashAttention ist ein Verfahren zur effizienten Berechnung von Attention auf Grafikprozessoren. Es verändert die Arbeitsaufteilung und Speichernutzung der Berechnung.

Die ursprüngliche Methode nutzt die unterschiedliche Geschwindigkeit der GPU-Speicherbereiche aus. Die Berechnung bleibt exakt, statt Attention durch eine Näherung zu ersetzen. Die Folge ist eine geringere Speicherung großer Zwischenergebnisse.

PLUS

Mit KI Woche Plus weiterlesen

Dieser vertiefende Begriff ist Teil von KI Woche Plus. Alle anderen Begriffe lesen Sie mit einem kostenlosen Konto vollständig.

9,90 € im Monat oder 99,90 € im Jahr, inkl. USt.

Verwandte Begriffe

Sonntags die ganze KI Woche, kostenlos auf LinkedIn Editorial, die wichtigsten Themen und was daraus folgt. Jederzeit abbestellbar. Der Plus-Newsletter für Mitglieder von KI Woche Plus startet in Kürze.
Newsletter abonnieren

Willkommen zurück

Ein Konto für die KI Woche, Ihre Downloads und die App. Ohne Passwort: Sie bekommen einen Code per E-Mail.

Buch gekauft? Ihre Unterlagen finden Sie unter Downloads. Code erhalten? Hier einlösen. Datenschutz