Waymo 스쿨버스 리콜: 소프트웨어 정의 차량의 숨겨진 비용

교통의 미래가 밝은 노란색의 스쿨버스 정류장 현실과 만날 때, 현재의 미래는 눈을 깜빡여야 합니다. 2025년 12월 초, 규제 당국이 심각한 안전 결함을 지적한 후 Waymo는 3,000대 이상의 차량에 영향을 미치는 5세대 자동 운전 시스템(ADS) 소프트웨어에 대한 리콜을 조용히 시작했습니다. Waymo의 AI가 정지된 스쿨 버스를 불법적으로 통과했습니다.

수정 사항은 11월 중순까지 완료된 자동 OTA(Over-The-Air) 업데이트였지만 규제 충격파는 시끄럽습니다. 이것은 단순한 버그 수정이 아닙니다. NHTSA의 관점에서는 이는 “안전 리콜”입니다. 투자자와 업계 관찰자에게 이 순간은 새로운 시장 현실을 명확히 보여줍니다. 소프트웨어 정의 세계에서 코드 결함은 새로운 기계적 결함입니다.

“글리치”: AI가 스톱 암을 무시한 이유

문제는 Waymo의 카메라가 버스를 볼 수 없다는 것이 아니었습니다. 문제는 고급 논리였습니다. 리콜 문서에 따르면 Waymo의 경로 계획 소프트웨어는 “장애물” 주위에서 유효한 기동을 실행하려고 시도하고 있었습니다. 스쿨버스가 스톱 암을 확장했을 때 Waymo Driver는 때때로 정지된 버스를 급정차를 요구하는 규정의 빨간불이 아니라 탐색해야 할 고정된 장애물로 해석했습니다.

운영 논리와 규정 준수라는 이러한 구별이 AV 검증의 핵심 전장입니다.

• 입력: Lidar와 카메라는 물체(버스)를 올바르게 식별했습니다.
• 실패: 예측 모델은 버스가 활성 정지 암을 인식한 것보다 더 빨리 주차되거나 비활성화되었다고 가정하여 텍사스, 조지아, 캘리포니아 주법을 위반하는 “롤링 패스”로 이어졌습니다.

10대 운전자에게는 티켓입니다. 1조 달러 규모의 로보택시 차량의 경우 이는 시스템적인 위험입니다.

의미론적 격차: 보는 것과 이해하는 것

왜 이런 일이 발생했는지 이해하려면 객체 감지와 의미론적 이해의 차이점을 살펴봐야 합니다.

일반적인 AV 스택에서 인식 계층은 “이것이 무엇입니까?”라고 묻습니다.

• 응답: “스쿨버스.”
• 상태: “정지”.

그런 다음 계획 계층에서는 “고정식 스쿨버스에 대한 규칙은 무엇입니까?”라고 묻습니다.

• 기본 규칙: “차선이 비어 있으면 조심해서 통과하세요.”

중요한 누락 링크는 상태 수정자, 즉 확장된 스톱 암과 깜박이는 표시등이었습니다. 인간에게 스쿨버스는 단순한 차량이 아닙니다. 역동적인 규제 구역입니다. 신호등이 깜박이면 도로 법규가 물리적으로 변경됩니다. 양방향 도로는 양방향에서 빨간 신호등이 됩니다.

Waymo의 소프트웨어는 버스를 올바르게 분류했지만 버스의 상태(깜박이는 불빛)를 “장애물 우회” 논리를 무시하는 높은 우선순위 제약 조건으로 승격시키지 못했습니다. 이것이 “의미론적 격차”입니다. 자동차는 픽셀을 보았지만 의미를 놓쳤습니다.

NHTSA의 결함 보고서는 다른 경로 계획 변수(교통 흐름이나 장애물 등)가 존재할 때 ADS 소프트웨어가 정지 신호에 “불충분한 우선순위를 할당”했다고 지적합니다. 이는 의사결정 트리의 가중치 오류를 의미합니다. 이는 엣지 케이스(스쿨버스 + 특정 교차로 기하학)가 확실한 결과를 생성하지만 잘못된 결정을 내리는 전형적인 AI 취약성입니다.

엔지니어의 경우 이는 확률 시스템에서 하드 코딩된 논리 규칙의 취약성을 강조합니다. 정지 신호를 99.9%의 정확도로 인식하도록 신경망을 훈련할 수 있지만 계획자에게 “조명을 갖춘 스쿨버스 = 벽”이라는 사실을 가르치려면 자동차가 이중 주차된 배달 트럭 주위를 원활하게 주행하게 만드는 논리 자체를 재정의해야 합니다.

시장 현실: 규정 준수 비용

단 3,000대의 차량에 대한 리콜이 왜 중요한가요? 표준적인 “현장 조치”가 공식적인 “리콜”로 진화하고 있기 때문입니다.

역사적으로 소비자 기술의 소프트웨어 버그는 패치되었습니다. FaceID에 결함이 있다고 해서 iPhone을 “기억”할 수는 없습니다. 업데이트하면 됩니다. 하지만 NHTSA는 자율주행 소프트웨어가 브레이크 패드처럼 규제될 것이라고 신호하고 있습니다. 안전에 중요한 기능(어린이를 위한 정지)을 수행하지 못하면 결함입니다.

이러한 변화는 Robotaxi 비즈니스 모델에 세 가지 즉각적인 영향을 미칩니다.

1. 증가된 검증 비용: “보호된 도로 사용자”(어린이, 스쿨 버스, 응급 차량)와 관련된 모든 엣지 케이스에는 이제 배포 전에 기하급수적으로 더 높은 신뢰 임계값이 필요합니다. “빠르게 움직여서 물건을 부숴라”는 것은 죽었습니다. “의도적으로 이동하고 모든 것을 문서화”하는 것이 새로운 표준입니다.
2. 평판 취약성: Waymo는 AV 안전의 표준을 나타냅니다. 그들의 자동차가 어린이를 위험에 빠뜨린 것으로 인용되면 전체 부문의 정치적 자본이 손상됩니다. 확장이 시카고나 뉴욕과 같이 눈이 많이 내리고 혼란스러운 도시로 이동함에 따라 지방 정부는 허가를 연기하는 이유로 “스쿨버스 사건”을 지적할 것입니다.
3. “리콜” 낙인: 물리적 수리를 위해 다운타임이 전혀 필요하지 않은 OTA 업데이트였음에도 불구하고 “Waymo Recalls Fleet”라는 제목은 대중을 놀라게 했습니다. 업계는 ‘물리적 위험’에서 ‘리콜’이라는 단어를 풀어야 하는데, 그때까지는 패치마다 홍보 위기다.

결론

Waymo는 이를 올바르게 처리했습니다. 그들은 패턴을 식별하고 수정 사항을 개발하여 몇 주 안에 전체 차량에 적용했습니다. Uber나 Lyft와 같은 인간 차량 운영자는 2주 안에 3,000명의 운전자를 강제로 재교육할 방법이 없습니다. 그런 의미에서 시스템은 작동했습니다.

그러나 일상생활에 AV를 통합하는 데 있어 이는 냉정한 알림입니다. 운전에서 가장 어려운 부분은 조향이나 차선 유지가 아니라, 기록되지 않은, 깊이 기록된 도로의 사회적 계약을 이해하는 것입니다. 스쿨버스를 정차하지 않는 것은 미국 운전의 용서할 수 없는 몇 안 되는 죄 중 하나입니다. Waymo의 빠른 수정으로 차량을 구했지만 신뢰를 패치하는 데 시간이 더 오래 걸릴 것입니다.

출처 (3)

• carcomplaints.com CarComplaints Reports on Waymo Recall
• vitallaw.com NHTSA Documents on ADS Software Update
• ajc.com Atlanta News First on Local Incidents