Federated
Federated (föderiert) beschreibt eine Architektur, in der mehrere dezentrale Einheiten zusammenarbeiten, ohne ihre Daten zu zentralisieren. Im KI-Kontext bedeutet das: Gemeinsam lernen, ohne Daten zu teilen.
Die Motivation: Daten sind in vielen Domänen verteilt und können aus rechtlichen, praktischen oder ethischen Gründen nicht zentralisiert werden. Krankenhaus A hat 10.000 Patientendaten, Krankenhaus B hat 15.000 - zusammen wäre der Datensatz für ein besseres Modell ausreichend, aber Patientendaten zwischen Krankenhäusern zu teilen ist durch Datenschutzgesetze untersagt.
Federated Learning löst das: Jedes Krankenhaus trainiert lokal, nur die Modellaktualisierungen (Gradienten) werden an einen zentralen Server gesendet und aggregiert. Kein einzelner Datenpunkt verlässt seinen Standort.
Die Varianten: Cross-Device Federated Learning (Millionen von Endgeräten - Smartphones, IoT-Sensoren) und Cross-Silo Federated Learning (wenige, aber leistungsfähige Institutionen - Krankenhäuser, Banken). Die technischen Herausforderungen unterscheiden sich: Bei Cross-Device sind Kommunikationskosten und heterogene Hardware zentral, bei Cross-Silo sind institutionelle Governance und Datenqualität die Hauptprobleme.
Google Gboard, Apple Intelligence und Healthcare-Konsortien (HealthChain, MELLODDY Projekt in der Pharmaforschung) nutzen föderierte Ansätze. Die Kombination mit Differential Privacy und Secure Aggregation verstärkt den Datenschutz: Selbst aus den aggregierten Modell-Updates können keine individuellen Datenpunkte rekonstruiert werden.
Distributed
Verwandte Begriffe
Encoder-DecoderDie Encoder-Decoder-Architektur ist das Grundmuster hinter Übersetzungssystemen, Text-zu-Bild-Modellen und v …Embedding LayerEin Embedding Layer ist die erste Schicht vieler neuronaler Netze, die diskrete Eingaben (Wörter, Token, Kat …Gated Recurrent Unit (GRU)GRUs sind eine effizientere Variante von LSTMs für die Verarbeitung von Sequenzen. Sie haben weniger Paramet …



