Zum Inhalt springen
Modelle & Architekturen

Transformer

In einem Satz

Ein Transformer ist eine Modellarchitektur, die unter anderem Self-Attention zur Verarbeitung von Zusammenhängen verwendet.

Der Transformer ist die einflussreichste KI-Architektur des letzten Jahrzehnts. Vorgestellt 2017 von Google-Forschern im Paper 'Attention is All You Need', hat er das Feld NLP revolutioniert und RNNs verdrängt. Das Geheimnis ist der 'Self-Attention'-Mechanismus.

Kostenlos anmelden und weiterlesen

Mit einem kostenlosen Konto lesen Sie 356 Begriffe vollständig, sehen im Toolfinder Stärken und Schwächen und können sich Begriffe merken.

Kostenlos anmeldenNur E-Mail, Code statt Passwort
RevolutionNLP

Verwandte Begriffe

Sonntags die ganze KI Woche, kostenlos auf LinkedIn Editorial, die wichtigsten Themen und was daraus folgt. Jederzeit abbestellbar. Der Plus-Newsletter für Mitglieder von KI Woche Plus startet in Kürze.
Newsletter abonnieren

Willkommen zurück

Ein Konto für die KI Woche, Ihre Downloads und die App. Ohne Passwort: Sie bekommen einen Code per E-Mail.

Buch gekauft? Ihre Unterlagen finden Sie unter Downloads. Code erhalten? Hier einlösen. Datenschutz