구형 하드웨어 한계 드러낸 ‘FSD 라이트’… 동일 상황서 4번이나 반복됐다
최신 AI 경량화 버전의 치명적 허점, 운전자 개입 없었다면 아찔한 결과로
테슬라가 운전대 없는 자율주행 택시 ‘사이버캡’ 공개를 예고하며 완전 자율주행 생태계 확장에 속도를 내고 있다. 하지만 그 이면에서는 감독형 완전 자율주행(FSD) 소프트웨어의 안전성 논란이 끊이지 않는다.
최근 소셜미디어에 올라온 한 영상은 이 논란에 불을 지폈다. FSD를 켠 테슬라 차량이 도로 중앙에 쓰러진 거대한 나무를 전혀 인식하지 못한 채 돌진하는 모습이 담겼다. 운전자가 급히 브레이크를 밟지 않았다면 그대로 충돌할 뻔한 아찔한 상황이었다.
구형 모델 FSD가 나무를 인식하지 못한 이유
영상 속 차량이 사용한 소프트웨어는 ‘FSD v14.1 라이트’ 버전으로 확인된다. 이 버전은 2019년부터 적용된 구형 하드웨어 3(HW3) 시스템을 탑재한 차량을 위해 특별히 제작된 경량화 모델이다.
실제로 HW3의 성능은 2023년 이후 출시된 하드웨어 4(HW4)와 격차가 크다. HW4는 500만 화소 카메라와 16GB 램을 갖췄지만, HW3는 120만 화소 카메라와 8GB 램에 그친다.
테슬라는 고성능 HW4에 적용되는 최신 v14 인공지능 모델을 압축해 HW3 차량에서도 쓸 수 있도록 FSD 라이트를 배포했다. 그러나 이 시도는 여러 부작용을 낳았다. 압축된 모델을 제한된 성능의 HW3 컴퓨터에서 구동하자 과부하가 걸린 것이다. 컴퓨터 온도가 96도까지 치솟으며 시스템이 강제 종료되는 현상까지 보고됐다.
더 큰 문제는 인지 능력 저하다. 도로에 정지한 장애물 감지는 카메라 기반 AI 시스템에 가장 어려운 과제 중 하나다. 특히 쓰러진 나무처럼 움직임 신호가 없고 수평으로 누운 장애물은 도로의 일부로 오인하기 쉽다. 경량화를 거치며 연산 능력이 줄어든 AI 모델에게는 더욱 까다로운 조건이다. 영상 속 운전자가 같은 장소에서 세 차례나 더 시험했지만, 결과는 모두 같았다.
기술의 한계에도 운전자 책임이 더 중요한 현실
물론 단 몇 건의 사례로 FSD 라이트 시스템 전체의 실패를 단정할 수는 없다. 하지만 경량화된 AI 모델이 특정 환경에서 심각한 인지 허점을 보일 수 있다는 점을 명확히 보여준다. 최초 영상 속 운전자가 전방을 주시하고 즉시 개입한 점이 사고를 막은 셈이다.
테슬라가 이 기술의 공식 명칭을 ‘감독형(Supervised)’ 완전 자율주행이라고 부르는 데에는 이유가 있다. 현재 기술은 운전자에게 모든 책임이 있는 레벨 2 단계에 머물러 있다. 소프트웨어가 아무리 발전해도 AI가 놓치는 위험 요소는 언제든 발생할 수 있다.
주행 보조 기능을 켰다고 해서 전방 주시를 소홀히 하거나 핸들에서 손을 떼는 행위는 매우 위험하다. 제조사의 지속적인 개선 노력도 중요하지만, 운전자 스스로 기술의 한계를 정확히 인지하고 항상 비상 상황에 대비하는 자세가 필요하다. 도로 위 안전의 최종 책임자는 여전히 운전자 자신이다.
서혜지 기자 seog@news-wa.com