웨이모 로보택시의 굴욕, 물길 보고도 돌진한 AI
이슈 배경
- 구글의 자율주행차 '웨이모'가 침수된 도로를 감지하고도 그대로 진입했다가 멈춰 서는 사고가 났어.
- 인간 운전자라면 당연히 피했을 상황인데, AI가 상황 판단을 잘못한 대표적인 사례지.
- 자율주행 기술의 완벽성에 대한 의문이 다시 한번 제기되며 업계가 긴장하고 있어.
기술적 한계
- 물웅덩이의 깊이나 흐름을 레이더와 카메라로 정확히 파악하는 게 아직은 어려운 모양이야.
- AI가 '위험'을 인지하고 속도는 줄였지만, '정지'나 '우회'라는 판단까지는 못 나간 거지.
- 예외적인 기상 상황이나 지형 변화에 대응하는 '엣지 케이스(Edge Case)' 해결이 아직 멀었다는 뜻이야.
업계 파장
- 로보택시 상용화를 서두르던 기업들에게 이번 사고는 뼈아픈 안전성 경고가 될 거야.
- 규제 당국은 자율주행 면허 유지 조건으로 더 엄격한 안전 가이드라인을 요구할 가능성이 높아.
- 소비자들의 신뢰를 얻기 위해서는 99%의 기술이 아니라 100%의 안전을 증명해야 하는 숙제를 안았어.
향후 전망
- 이번 사고 데이터를 학습해서 수중 감지 알고리즘이 한층 업그레이드되겠지만, 시간은 더 걸릴 거야.
- 완전 자율주행보다는 운전자를 보조하는 형태의 기술이 당분간 주류를 이룰 것으로 보여.
- 결국 인간의 직관과 판단력을 AI가 언제쯤 완전히 대체할 수 있을지가 관건이야.
AI가 똑똑하다지만, 고인 물 무서운 줄 모르는 걸 보니 아직 배울 게 참 많은가 봐.