Die Kupferwand: Warum zukünftige KI-Chips mit Licht betrieben werden müssen

In der KI-Branche gibt es ein schmutziges Geheimnis: Uns geht der Strom aus. Nicht nur, um die Chips mit Strom zu versorgen, sondern auch, um Daten zwischen ihnen zu übertragen.

Seit 50 Jahren verlassen wir uns auf Kupferdrähte, um Elektronen von Punkt A nach Punkt B zu transportieren. Bei CPUs funktionierte das. Es funktionierte für frühe GPUs. Aber für moderne KI-Trainingscluster – die wie ein riesiges Gehirn funktionieren, das Tausende von Chips umfasst – hat Kupfer eine physikalische Grenze erreicht, die als „Kupferwand“ bekannt ist.

Widerstand erzeugt Wärme. Kapazität verlangsamt Signale. Während wir versuchen, Terabytes an Daten zwischen Blackwell-GPUs zu übertragen, verwandeln sich die Kupferdrähte in Heizungen.

Die Lösung der Branche ist radikal: Verwenden Sie keinen Strom mehr, um Daten zu übertragen. Verwenden Sie Licht.

Das physikalische Problem: Die SerDes-„Steuer“

Um zu verstehen, warum dieser Wandel unvermeidlich ist, müssen wir uns die Physik der Datenübertragung ansehen, insbesondere den SerDes (Serializer/Deserializer).

Jedes Mal, wenn eine GPU Daten sendet, muss sie:

1. Serialisieren: Nehmen Sie parallele Daten und wandeln Sie sie in einen schnellen Stream um.
2. Verstärken: Versorgen Sie diesen Strom mit ausreichend Spannung, um Elektronen durch einen ohmschen Kupferdraht zu drücken.
3. Ausgleichen: Der Empfänger muss das durch das Kabel verursachte Rauschen und die Signalverschlechterung herausfiltern.

Dieser Prozess ist teuer.

• Kupferkosten: Das Verschieben eines Datenbits über eine Serverplatine kostet 10–15 Pikojoule pro Bit (pJ/Bit).
• Die Skala: Wenn Sie Exabytes an Daten für das KI-Training bewegen, summiert sich das auf Megawatt.

Siliziumphotonik verändert die Mathematik.

• Die Lichtkosten: Sobald ein Photon erzeugt wurde, bewegt es sich mit einem Widerstand von nahezu Null durch einen Wellenleiter (einen mikroskopischen Glastunnel).
• Effizienz: Optische Verbindungen können Daten für < 1 pJ/Bit übertragen. Das ist eine Verbesserung um das Zehnfache.

Die Technologie: Wie man Licht auf einem Chip beugt

Wie bringt man Laser auf einen Computerchip? Es ist schwieriger als es klingt.

1. Die Wellenleiter (Siliziumnitrid)

Man kann nicht einfach durch Silikon hindurch Licht strahlen lassen; es zerstreut sich schließlich. Ingenieure ätzen winzige Tunnel aus Siliziumnitrid oder Silicon-on-Insulator (SOI) in den Chip.

• Totale interne Reflexion: Genau wie Glasfaserkabel unter dem Meer reflektieren diese Tunnel Licht von ihren eigenen Wänden, sodass Daten auf einem Chip um 90 Grad gedreht werden können, ohne dass das Signal verloren geht.

2. Die Modulation (Ringresonatoren)

Sie müssen das Licht milliardenfach pro Sekunde ein- und ausschalten, um Daten (1en und 0en) zu kodieren. Sie verwenden Mikroringmodulatoren.

• Stellen Sie sich einen winzigen Ring aus Silizium neben dem Wellenleiter vor. Wenn Sie eine kleine Spannung an den Ring anlegen, ändert sich sein Brechungsindex (der elektrooptische Effekt).
• Der Übergang von „transparent“ zu „undurchsichtig“ erfolgt sofort. Dieser Wechsel erfolgt in Pikosekunden.

3. Der thermische Albtraum (Thermo-optischer Effekt)

Hier ist der Haken: Silizium verändert seine optischen Eigenschaften, wenn es heißen Prozessen ausgesetzt wird. Eine Temperaturänderung um 1 Grad kann den Laser verstimmen und die Verbindung erblinden lassen.

• Die Lösung: In jeden einzelnen Ringmodulator ist eine winzige, atomare Heizung eingebaut. Ein Regelkreis passt diese Heizung ständig an, um den Ring auf der genauen Temperatur zu halten, die für die Resonanz erforderlich ist, und bekämpft so die Hitze, die von der GPU nebenan ausgeht.

Co-Packaged Optics (CPO): Das Ende der Pluggables

Jahrelang bedeutete „optisch“ die einzelnen Kabel, die an der Rückseite eines Servers angeschlossen wurden (QSFP-DD-Module). Die Elektronen mussten 10 Zoll über die Hauptplatine wandern, um zum Stecker zu gelangen. Bei dieser 10-Zoll-Fahrt geht die Energie verloren.

COUPE (Compact Universal Photonic Engine) ist die Antwort von TSMC. Es verwendet 3D-Stacking, um die photonische Engine direkt auf (oder direkt neben) dem GPU-Chip zu platzieren.

• Der Weg: Das elektrische Signal bewegt sich im Mikrometerbereich, nicht im Zollbereich.
• Die Latenz: 130 Pikosekunden (optisch) vs. 330 Pikosekunden (Kupfer) für globale On-Chip-Verbindungen.

Die Problemumgehung „External Laser Source“ (ELS).

Es gibt ein großes Problem beim Anbringen von Optiken an einer heißen GPU: Hitze tötet Laser. Laser zersetzen sich oberhalb von 70 °C schnell. GPUs laufen bei 80°C+.

Die Lösung ist die Externe Laserquelle (OIF ELSFP Standard).

• Fernversorgung: Die eigentliche Laserdiode befindet sich in einer Kühlbox an der Vorderseite des Server-Racks (die „Stromversorgung“ für Licht).
• Fiber Delivery: Es schießt einen „leeren“ Strahl kontinuierlichen Lichts in das heiße GPU-Paket.
• Modulation: Der Photonik-Chip der GPU moduliert (zerhackt) einfach dieses Licht. Es erzeugt es nicht.
• Vorteil: Sollte der Laser ausfallen, tauschen Sie einfach das steckbare Modul auf der Vorderseite aus. Sie werfen die 30.000-Dollar-GPU nicht weg.

Die Spieler: Wer gewinnt?

1. Die Giganten: Nvidia & TSMC

Nvidia hat bereits signalisiert, dass seine zukünftigen NVLink-Verbindungen optisch sein werden. Der Zeitplan für die „Rubin“-Architektur wird mit 2026–2027 angegeben. Um dies in Massenproduktion zu ermöglichen, verlassen sie sich auf die heterogene Integration COUPE von TSMC.

2. Die Disruptoren: Lightmatter & Ayar Labs

Startups kommen noch schneller voran.

• Lightmatter: Ihr „Passage“-Produkt ist eine Verbindung im Wafer-Maßstab. Stellen Sie sich einen riesigen Siliziumwafer vor, der als Schalttafel für Licht fungiert. Darauf platziert man Dutzende GPUs, die ganz ohne Kabel per Licht kommunizieren.
• Ayar Labs: Sie setzten sich für das Remote-Laser-Konzept ein (SuperNova). Ihre TeraPHY-Chiplets sind derzeit wohl die fortschrittlichste optische „Drop-in“-I/O-Lösung.

Die Zukunft

Wir reden viel über das Mooresche Gesetz (Transistordichte), aber der eigentliche Engpass ist heute die I/O-Wand. Ein 100.000-GPU-Cluster ist nicht dadurch eingeschränkt, wie schnell er denken kann; Es wird dadurch begrenzt, wie schnell es Gedanken teilen kann.

Die Ära des „Copper Chip“ geht zu Ende. Die nächste Generation von Supercomputern wird Hybride sein: Elektronische Gehirne, die mit Elektronen denken, aber mit einem optischen Nervensystem aus Licht kommunizieren.

Quellen (3)

• pr.tsmc.com TSMC COUPE Technology
• nvidia.com Nvidia Optical Networking
• lightmatter.co Lightmatter Passage