Zum Inhalt springen
NLP & Sprache

ELMo

In einem Satz

ELMo erzeugt Wortvektoren, die vom Satzkontext abhängen, sodass dasselbe Wort je nach Bedeutung unterschiedliche Vektoren erhält; es war ein Vorläufer von BERT.

ELMo (Embeddings from Language Models), 2018 von Matthew Peters et al. (Allen Institute for AI) vorgestellt, war der Vorläufer von BERT und der Startschuss für kontextualisierte Wortrepräsentationen.

Das Problem vor ELMo: Word2Vec und GloVe erzeugten statische Embeddings - das Wort „Bank" hatte immer denselben Vektor, egal ob „Sitzbank" oder „Geldbank" gemeint war. Der Kontext ging verloren.

Kostenlos anmelden und weiterlesen

Mit einem kostenlosen Konto lesen Sie 356 Begriffe vollständig, sehen im Toolfinder Stärken und Schwächen und können sich Begriffe merken.

Kostenlos anmeldenNur E-Mail, Code statt Passwort
Historie

Verwandte Begriffe

Sonntags die ganze KI Woche, kostenlos auf LinkedIn Editorial, die wichtigsten Themen und was daraus folgt. Jederzeit abbestellbar. Der Plus-Newsletter für Mitglieder von KI Woche Plus startet in Kürze.
Newsletter abonnieren

Willkommen zurück

Ein Konto für die KI Woche, Ihre Downloads und die App. Ohne Passwort: Sie bekommen einen Code per E-Mail.

Buch gekauft? Ihre Unterlagen finden Sie unter Downloads. Code erhalten? Hier einlösen. Datenschutz