AI 行业有一个不为人知的秘密:我们的电力即将耗尽。不仅是为了驱动芯片,更是为了在芯片之间移动数据。
50 年来,我们一直依靠铜线将电子从 A 点传输到 B 点。它对 CPU 有效,对早期 GPU 也有效。但对于现代 AI 训练集群——它们就像跨越数千颗芯片的一个巨型大脑——铜已经撞上了一道被称为**“铜墙”(Copper Wall)**的物理极限。
电阻产生热量,电容拖慢信号。当我们试图在 Blackwell GPU 之间推送 TB 级数据时,铜线正在变成加热器。
业界的解决方案相当激进:停止用电来移动数据。改用光。
物理难题:SerDes “税”
要理解为何这种转变不可避免,我们必须审视数据传输的物理原理,尤其是 SerDes(串行器/解串器,Serializer/Deserializer)。
每次 GPU 发送数据时,都必须:
- 串行化(Serialize):将并行数据转换为高速串流。
- 放大(Amplify):施加足够电压,把电子推过具有电阻的铜线。
- 均衡(Equalize):接收端必须滤除由导线引起的噪声和信号衰减。
这一过程代价高昂。
- 铜线成本:在服务器主板上移动一比特数据需要 10–15 pJ/bit(皮焦/比特)。
- 规模效应:当你为 AI 训练移动 EB(Exabytes) 级数据时,累加起来就是兆瓦级。
**硅基光子学(Silicon Photonics)**改变了这一算式。
- 光的成本:一旦光子产生,它就能以接近零的阻力穿过波导(一条微型玻璃隧道)。
- 效率:光互连传输数据的能耗可低于 1 pJ/bit,即数量级上提升了 10 倍。
技术篇:如何在芯片上弯曲光线
如何把激光器放到计算机芯片上?这说起来容易做起来难。
1. 波导(氮化硅,Silicon Nitride)
你不能直接把光射入硅中;它最终会发生散射。工程师在芯片上刻蚀出由**氮化硅(Silicon Nitride)或绝缘体上硅(Silicon-on-Insulator,SOI)**构成的微型隧道。
- 全内反射(Total Internal Reflection):就像海底的光纤电缆一样,这些隧道将光线从自己的壁面反射回来,使数据能在芯片上实现 90 度转弯而不损失信号。
2. 调制(环形谐振器,Ring Resonators)
你需要每秒数十亿次地把光“打开”和“关闭”,以编码数据(1 和 0)。这里使用的是微环调制器(Micro-Ring Modulators)。
- 想象波导旁边有一个微小的硅环。当你对硅环施加微小电压时,其折射率会发生变化(即电光效应,Electro-Optic Effect)。
- 它能在瞬间从“透明”变为“不透明”。这一切换发生在皮秒级。
3. 热管理噩梦(热光效应,Thermo-Optic Effect)
问题在于:硅在受热时,其光学性质会发生变化。温度变化 1 度就可能使激光失谐,导致连接“失明”。
- 解决方案:每个环形调制器都内置了一个原子级尺寸的微型加热器。控制回路不断调节这个加热器,使硅环保持在共振所需的精确温度,同时抵御旁边 GPU 散发出来的热量。
共封装光学(CPO):可插拔模块的终结
多年来,“光学”意味着插拔在服务器背面的独立线缆(QSFP-DD 模块)。电子必须跨越主板传输 10 英寸才能到达插口。正是这 10 英寸的旅程造成了能量损耗。
**COUPE(Compact Universal Photonic Engine)**是 TSMC 给出的答案。
它采用 3D 堆叠技术,将光子引擎直接置于 GPU 裸片之上(或紧挨其旁)。
- 路径:电信号只需传输微米级距离,而非英寸级。
- 延迟:片上全局互连,光信号为 130 皮秒,铜线则为 330 皮秒。
“外置激光源”(ELS)的变通方案
把光学器件放到炽热的 GPU 上有一个大问题:热量会杀死激光器。
激光器在 70°C 以上会迅速退化,而 GPU 的运行温度可达 80°C 甚至更高。
解决方案就是外置激光源(External Laser Source,OIF ELSFP Standard)。
- 远端供能:真正的激光二极管被放置在机柜前部一个凉爽的盒子里(相当于光的“电源”)。
- 光纤传输:它向炽热的 GPU 封装内射入一束连续不断的“空白”光束。
- 调制:GPU 上的光子芯片只需调制(切碎)这束光,而不用自己产生光。
- 好处:如果激光器坏了,只需更换前部的可插拔模块即可,不用扔掉那块价值 $30,000 的 GPU。
参与者:谁正在领先?
1. 巨头:Nvidia & TSMC
Nvidia 已明确表示,其未来的 NVLink 互连将走向光学化。据传时间表为 2026–2027 年,伴随其 “Rubin” 架构。他们依赖 TSMC 的 COUPE 异构集成技术,以实现大规模量产。
2. 颠覆者:Lightmatter & Ayar Labs
初创公司的步伐更快。
- Lightmatter:其 “Passage” 产品是一种晶圆级互连。想象一块巨大的硅晶圆充当光的交换板。你在上面放置数十颗 GPU,它们无需任何线缆即可通过光进行通信。
- Ayar Labs:他们推动了远程激光概念(SuperNova)。其 TeraPHY 小芯片可以说是当今最先进的“即插即用”光学 I/O 解决方案。
未来展望
我们谈论了很多关于摩尔定律(晶体管密度)的话题,但今天真正的瓶颈是 I/O 墙。
一个由 100,000 颗 GPU 组成的集群,受限的不是它思考得多快,而是它分享“想法”的速度有多快。
“铜芯片”的时代正在终结。下一代超级计算机将是混合体:用电子思考的大脑,但借助光的神经系统进行通信。
资料来源 (3)
- pr.tsmc.com TSMC COUPE Technology
- nvidia.com Nvidia Optical Networking
- lightmatter.co Lightmatter Passage
🦋 Bluesky 讨论
在 Bluesky 上讨论