GPU (Graphics Processing Unit)

Die GPU (Grafikkarte) ist der Hardware-Held der KI-Revolution. Ursprünglich entwickelt, um Pixel für 3D-Videospiele zu berechnen, stellte sich heraus, dass ihre Architektur perfekt für Deep Learning geeignet ist. Während eine klassische CPU (Prozessor) wenige, sehr schnelle Kerne für komplexe, serielle Aufgaben hat, besitzt eine GPU tausende von kleineren Kernen, die perfekt für parallele Aufgaben sind.

Da neuronale Netze im Grunde aus riesigen Matrizen bestehen, die miteinander multipliziert werden müssen (Matrixmultiplikation), können GPUs diese Berechnungen um Faktoren von 100x oder mehr beschleunigen im Vergleich zu CPUs. NVIDIA hat sich durch seine CUDA-Softwareplattform als Quasi-Monopolist für KI-Hardware etabliert. Heute werden in Rechenzentren Cluster aus tausenden GPUs zusammengeschaltet, um Foundation Models zu trainieren.