실리콘 포토닉스 설명: AI에서 구리의 종말

AI 산업에는 더러운 비밀이 있습니다. 전력이 부족하다는 것입니다. 칩에 전원을 공급하는 것뿐만 아니라 칩 사이에 데이터를 이동하는 것입니다.

50년 동안 우리는 A지점에서 B지점으로 전자를 이동시키기 위해 구리선을 사용해 왔습니다. 이는 CPU에 효과적이었습니다. 초기 GPU에서는 작동했습니다. 그러나 수천 개의 칩에 걸쳐 하나의 거대한 두뇌처럼 작동하는 현대 AI 훈련 클러스터의 경우 구리는 **“구리 벽”**이라는 물리적 한계에 도달했습니다.

저항은 열을 발생시킵니다. 커패시턴스는 신호 속도를 늦춥니다. Blackwell GPU 사이에 테라바이트급 데이터를 전송하려고 하면 구리선이 히터로 변하고 있습니다.

업계의 솔루션은 급진적입니다. 데이터를 이동하기 위해 전기를 사용하지 마십시오. 빛을 사용하세요.

물리학 문제: SerDes “세금”

이러한 변화가 불가피한 이유를 이해하려면 데이터 전송의 물리학, 특히 SerDes(Serializer/Deserializer)를 살펴봐야 합니다.

GPU가 데이터를 보낼 때마다 다음을 수행해야 합니다.

직렬화: 병렬 데이터를 가져와 빠른 스트림으로 변환합니다.
증폭: 저항성 구리선을 통해 전자를 밀어낼 수 있을 만큼 충분한 전압으로 스트림을 폭발시킵니다.
균등화: 수신기는 전선으로 인해 발생하는 잡음과 신호 저하를 필터링해야 합니다.

이 과정은 비용이 많이 듭니다.

구리 비용: 서버 보드에서 약간의 데이터를 이동하는 데 드는 비용은 **비트당 10~15피코줄(pJ/비트)**입니다.
규모: AI 교육을 위해 엑사바이트의 데이터를 이동하면 이는 메가와트에 달합니다.

실리콘 포토닉스는 수학을 변화시킵니다.

빛 비용: 광자가 생성되면 저항이 거의 0인 도파관(미세 유리 터널)을 통해 이동합니다.
효율성: 광 상호 연결은 < 1pJ/비트의 속도로 데이터를 이동할 수 있습니다. 이는 10배 정도 향상된 성능입니다.

기술: 칩에서 빛을 구부리는 방법

컴퓨터 칩에 레이저를 어떻게 넣나요? 생각보다 어렵습니다.

1. 도파관(실리콘 질화물)

실리콘을 통해서만 빛을 비출 수는 없습니다. 결국 흩어집니다. 엔지니어들은 실리콘 질화물 또는 **SOI(Silicon-on-Insulator)**의 작은 터널을 칩에 에칭합니다.

내부 전반사: 바다 밑의 광섬유 케이블과 마찬가지로 이 터널은 자체 벽에 빛을 반사시켜 데이터가 신호 손실 없이 칩에서 90도 모서리를 돌 수 있도록 합니다.

2. 변조(링 공명기)

데이터(1과 0)를 인코딩하려면 조명을 초당 수십억 번 ‘켜기’와 ‘끄기’를 반복해야 합니다. 그들은 마이크로 링 변조기를 사용합니다.

도파관 옆에 작은 실리콘 고리가 있다고 상상해 보십시오. 링에 작은 전압을 가하면 굴절률이 변경됩니다(전기 광학 효과).
“투명”에서 “불투명”으로 즉시 변경됩니다. 이 전환은 피코초 안에 발생합니다.

3. 열적 악몽(열 광학 효과)

문제는 다음과 같습니다. 실리콘은 공정이 뜨거워지면 광학 특성이 변경됩니다. 1도의 온도 변화로 인해 레이저의 조정이 해제되어 연결이 차단될 수 있습니다.

해결 방법: 모든 단일 링 변조기에는 작은 원자 크기의 히터가 내장되어 있습니다. 제어 루프는 이 히터를 지속적으로 조정하여 링을 공진에 필요한 정확한 온도로 유지하고 옆 GPU에서 나오는 열과 싸우게 합니다.

공동 패키지 광학 장치(CPO): 플러그형 장치의 종말

수년 동안 “광”은 서버 후면(QSFP-DD 모듈)에 연결되는 고유한 케이블을 의미했습니다. 전자는 플러그에 도달하기 위해 마더보드를 가로질러 10인치를 이동해야 했습니다. 그 10인치 여행은 에너지가 손실되는 곳입니다.

**COUPE(Compact Universal Photonic Engine)**이 TSMC의 답변입니다. 3D 스태킹을 사용하여 포토닉 엔진을 GPU 다이 바로 위(또는 바로 옆)에 직접 배치합니다.

경로: 전기 신호는 인치가 아닌 미크론으로 이동합니다.
지연 시간: 온칩 글로벌 상호 연결의 경우 130피코초(광학) vs 330피코초(구리).

“외부 레이저 소스”(ELS) 해결 방법

뜨거운 GPU에 광학 장치를 장착하는 데에는 한 가지 주요 문제가 있습니다. 열로 인해 레이저가 죽습니다. 레이저는 70°C 이상에서는 급격히 성능이 저하됩니다. GPU는 80°C+에서 작동합니다.

해결책은 **외부 레이저 소스(OIF ELSFP 표준)**입니다.

원격 전원: 실제 레이저 다이오드는 서버 랙 전면에 있는 냉각 상자(조명용 “전원 공급 장치”)에 배치됩니다.
광섬유 전달: 뜨거운 GPU 패키지에 “빈” 연속 광선을 발사합니다.
변조: GPU의 포토닉스 칩은 해당 빛을 변조(잘라내기)합니다. 그것은 그것을 생성하지 않습니다.
이점: 레이저가 꺼지면 전면에 있는 플러그형 모듈만 교체하면 됩니다. $30,000 GPU를 버리지 않습니다.

플레이어스: 누가 승리하고 있나요?

1. 자이언츠: Nvidia & TSMC

Nvidia는 이미 미래의 NVLink 상호 연결이 광학 방식으로 전환될 것이라는 신호를 보냈습니다. 타임라인은 “Rubin” 아키텍처로 2026~2027년이라는 소문이 있습니다. 그들은 이것을 대량 생산 가능하게 만들기 위해 TSMC의 COUPE 이기종 통합에 의존하고 있습니다.

2. 파괴자: Lightmatter 및 Ayar 연구소

스타트업은 더욱 빠르게 움직이고 있다.

Lightmatter: 이 회사의 “Passage” 제품은 웨이퍼 규모의 상호 연결입니다. 빛의 배전반 역할을 하는 거대한 실리콘 웨이퍼를 상상해 보십시오. 그 위에 수십 개의 GPU를 배치하면 케이블이 전혀 없이 빛을 통해 통신합니다.
Ayar Labs: 그들은 원격 레이저 개념(SuperNova)을 옹호했습니다. TeraPHY 칩렛은 틀림없이 오늘날 가장 발전된 “드롭인” 광학 I/O 솔루션입니다.

미래

무어의 법칙(트랜지스터 밀도)에 대해 많이 이야기하지만 오늘날 실제 병목 현상은 I/O 벽입니다. 100,000개의 GPU 클러스터는 생각하는 속도에 따라 제한되지 않습니다. 생각을 얼마나 빨리 공유할 수 있는지에 따라 제한됩니다.

‘구리 칩’ 시대가 끝났다. 차세대 슈퍼컴퓨터는 하이브리드가 될 것입니다. 전자 두뇌는 전자로 생각하지만 빛의 광학 신경계와 통신합니다.

출처 (3)

이 기사는 Trendy Tech Tribe 편집팀이 작성했습니다.

구리 장벽: 미래의 AI 칩은 왜 빛으로 작동해야 하는가

물리학 문제: SerDes “세금”