AI와 자동차의 경험: 잘못된 길로 갈 권리

Mercedes-Benz가 그리는 hyper-personalised customer experience. 자동차는 운전자의 습관과 상황을 이해해 필요한 기능과 서비스를 먼저 제안하는 방향으로 가고 있다.

자동차는 운전자를 더 정확하게 이해하고 그 이해를 행동으로 옮기기 시작했다. 하지만 무엇을 원하는지를 아는 것과 어디까지 대신해도 되는지는 별개의 문제다. AI가 더 많은 선택과 실행을 맡을수록 묻고 기다리고, 때로는 아무것도 하지 않는 능력도 중요해진다. '자동차의 경험' 시리즈는 이 일곱 번째 이야기로 마무리된다. Memory Lane에서 시작해 Top Gear, Systems Over Cylinders, Audi F1, Whose Experience, Begin Again을 거쳐 온 질문들이 이번 글에서 다시 만난다.

글 | 한상민 기자 _ han@autoelectronics.co.kr
IN ENGLISH





월요일 아침이다. 커피를 마시며 오늘 일정을 확인한다. 출근할 시간이 되자 차는 차고에서 나온다. 실내 온도는 이미 맞춰져 있고 라디오와 볼륨도 평소대로 준비돼 있다. 차에 타자 MBUX Virtual Assistant가 목적지를 제안한다. 회사로 간다. 평소 들르던 드라이브스루는 건너뛴다. 내가 이미 집에서 커피를 마셨다는 것을 알고 있기 때문에.
이건 상상이 아니다. Mercedes-Benz가 그리고 있는 hyper-personalised customer experience의 한 장면이다. 자동차가 운전자의 습관과 일정, 필요를 이해하고 하루를 이어주는 미래다. 자동차는 운전자가 무엇을 원하는지 매번 묻지 않고 이미 알고 있는 것을 바탕으로 먼저 준비한다. 자동차가 나를 이해한다는 것은 대체로 이런 식이다.
그런데 오늘 내가 회사가 아니라 바다에 가고 싶다면 어떨까.
별일은 아니다. 내비게이션에 어느 해변을 입력하면 그만이다. 차가 회사를 제안했다고 해서 내가 회사에 가야 하는 건 아니다. 음악이 마음에 들지 않으면 바꾸면 되고 실내 온도가 싫으면 다시 맞추면 된다. 대부분 쉽게 되돌릴 수 있다. 그래서 질문은 차가 내 선택을 막느냐가 아니다.
자동차가 하려는 일이 목적지를 맞히고 음악을 추천하는 데서 끝나지 않는다면 이야기가 달라진다. 충전소를 추천하는 것과 직접 선택하는 것 사이에는 큰 차이가 있다. 예약까지 하면 또 다르다. 결제하면 돈이 움직인다. 그 결과가 캘린더와 다른 서비스까지 이어지면 차가 한 행동의 영향은 더 넓어진다. AI 에이전트가 자동차에 들어오는 것은 차가 나를 더 잘 안다는 것만을 뜻하지 않는다. 아는 것을 행동으로 옮기기 시작한다는 뜻이다. 차는 내가 회사에 갈 것이라는 사실을 정확하게 맞힐 수 있지만, 정확하게 맞혔다는 것이 나를 대신해 거기까지 움직여도 된다는 것은 아니다.



HARMAN Ready Care는 운전자의 인지·시각 부하와 상태를 감지해 필요한 순간 개입한다. 안전을 위한 행동과 편의를 위한 선제적 행동에는 서로 다른 기준이 필요하다.



먼저 움직이는 차

자동차는 오래전부터 사람보다 먼저 움직였다. 바퀴가 잠기려 하면 ABS가 작동한다. 자세를 잃으려 하면 ESC가 개입한다. 충돌 위험이 커지는데 운전자가 반응하지 않으면 AEB가 브레이크를 밟는다. 이럴 때는 자동차가 묻지 않는다.
"브레이크를 밟아도 될까요?"라고 물어서는 안 되는 순간이기 때문이다.
자동차 산업은 수십 년 동안 이런 판단을 발전시켜 왔다. 위험을 더 빨리 감지하고, 더 정확하게 판단하고, 필요한 순간 더 빨리 개입하는 것이 이런 안전기술의 발전이었다. 그런데 AI가 콕핏으로 들어오면서 자동차가 먼저 움직일 수 있는 일이 크게 늘고 있다. 하지만 모든 행동에 AEB의 논리를 적용할 수 있는 것은 아니다. 예를 들어, HARMAN의 Ready Care와 Ready Engage를 나란히 놓으면 그 차이가 보인다.
Ready Care는 운전자의 상태를 살핀다. AI와 센싱 기술을 이용해 인지·시각 부하와 호흡 등을 살피고 주의분산이나 졸음을 감지해 필요한 순간 맞춤형 개입을 제공한다. 운전자가 위험한 상태라면 먼저 움직이는 이유는 분명하다. Ready Engage는 Luna라는 AI 아바타를 통해 음성과 시각 정보를 이용한 개인화된 상호작용을 제공한다. 탑승자의 필요를 예상하고 자연스럽게 반응하며, 자동차 안에서 보다 개인화된 경험을 만드는 쪽을 향한다.
둘 다 사람을 읽고 먼저 반응할 수 있다. 하지만 졸음이 감지된 운전자에게 경고를 보내는 일과 좋아할 것 같은 컨텐츠를 먼저 제안하는 일을 하나의 잣대로 판단할 수는 없다. 후자가 위험하다는 이야기도 아니다. 마음에 들지 않으면 다른 것을 고르면 된다. 하나는 안전을 위해 기다리지 않아야 한다. 다른 하나는 편의를 위해 기다리지 않아도 되는 경우다. 예측의 정확도가 행동의 권한까지 결정해 주지는 않는다.



BMW Intelligent Personal Assistant는 운전자의 과거 행동을 바탕으로 기능을 먼저 제안한다. 반복해서 받아들이지 않는 제안은 더 이상 보여주지 않는 것도 개인화의 일부다.



거절도 데이터다

BMW에는 매우 작은 사례가 있다. BMW Intelligent Personal Assistant는 운전자의 과거 행동을 바탕으로 먼저 제안할 수 있다. 운전자가 이전에 Sport Mode를 사용했다면 적절한 도로에서 다시 Sport Mode를 제안하는 식이다.
그런데 운전자가 이런 제안에 여러 번 반응하지 않거나 무시하면 시스템은 그것도 배운다. 그리고 제안을 그만둔다. 더 많은 데이터를 처리하는 것도 아니고, 운전자를 놀라게 할 새로운 기능을 실행하는 것도 아니기 때문에 대단한 AI처럼 보이지는 않을 수 있다. 하지만 아무것도 하지 않기 때문에 흥미롭다. 개인화는 보통 사용자가 무엇을 원하는지 더 잘 알아내는 기술로 설명되고, 자주 가는 장소, 좋아하는 음악, 반복해서 사용하는 기능을 기억해 다음에 먼저 준비한다. BMW의 사례는 반대다.
거절도 데이터인 것이다. Yes를 반복한 것이 취향이라면 No를 반복한 것도 취향이다. 무엇을 원하는지를 학습한다면 무엇을 원하지 않는지와 언제 제안을 그만둘지도 배워야 한다. 그렇다고 모든 무응답이 거절은 아니다. 운전 중 제안을 놓쳤거나 그 순간의 상황과 맞지 않았을 수도 있으므로, 한 번의 침묵보다 명시적인 거절과 반복된 무반응, 이후의 행동을 함께 봐야 한다.

 

최근 국내에서는 또 하나의 흥미로운 사례가 나왔다. 쏘카의 주차 플랫폼 '모두의주차장'은 9월 17일 AI 음성 주차권 구매 서비스를 시작했다. 이전에는 목적지 검색부터 주차장 비교, 상세 내용 확인, 권종과 시간 설정, 차량 확인, 결제까지 최대 12단계를 거쳐야 했다. 이제는 "강남역 근처에 2시간만 주차할 곳 찾아줘"라고 말하면 AI가 장소와 시간, 가격대, 주차 형태 등의 조건을 이해해 후보를 추천하고 결제 단계까지 데려간다. 단계의 상당 부분이 사라졌지만 마지막 하나 '결제하기'는 없애지 않았다. 쏘카는 개인정보 보호와 결제 안전을 위해 AI의 역할을 추천과 결제 단계 진입까지로 제한하고, 마지막 구매는 사람이 직접 누르게 했다. 중요한 건 언제나 사람이 마지막 버튼을 누르는 게 아니라, 무엇을 맡겼고 그 맡김을 언제든 거둬들일 수 있느냐다. 음악 한 곡을 잘못 골랐다면 다음 곡을 누르면 되고, 목적지를 잘못 제안했다면 다시 입력하면 된다. 반면 결제가 끝난 뒤에는 취소나 환불이 필요하다. 다른 일정이나 서비스까지 연동됐다면 되돌려야 할 일은 더 많아진다.
차가 먼저 움직이는 일이 많아질수록 틀릴 확률만 볼 게 아니라, 틀렸을 때 무엇을 되돌려야 하는지도 봐야 한다. 없애도 되는 마찰과 남겨야 할 마찰은 그때 갈린다. 아무리 잘 맞혀도 어디까지 맡길지는 따로 정해야 한다.



맥락을 이해하는 HMI는 필요한 정보를 먼저 보여줄 수 있다. 그러나 무엇을 보여줄 것인지와 사용자가 익숙한 환경까지 바꿀 것인지는 다른 문제다.



덜 묻는 자동차

자동차 HMI는 오랫동안 질문의 수를 줄이는 쪽으로 발전해 왔다. 개인화는 반복을 덜어줄 뿐 아니라, 내가 직접 찾지 않았던 선택을 먼저 보여주기도 한다. 시트와 온도, 음악과 목적지를 매번 처음부터 설정할 필요는 없다. 충전할 때 여러 앱을 오가고 계정을 다시 입력하는 번거로움도 없어지는 편이 낫다.
HARMAN은 최근 자동차 HMI의 변화를 'From Buttons to Behavior'라고 표현했다. 기능이 빠르게 늘면서 운전자가 처리해야 할 정보도 많아졌고, HMI는 고정된 메뉴에서 맥락과 행동을 읽는 쪽으로 이동하고 있다. 개인화는 반복된 패턴과 상황 정보를 바탕으로 필요한 것을 골라 보여주고 상호작용을 줄이는 수단이 된다. 행동 기반 시스템은 한 번의 입력만 보는 것이 아니라 장기간의 행동 패턴을 학습해 먼저 반응한다. 
좋은 방향이다. 우리도 자동차와 매 순간 대화하고 싶지는 않다. 월요일마다 회사에 간다는 것을 차가 알고 있다면 매번 "어디로 갈까요?"라고 묻는 것이 이상하다. 여행 중이라는 것을 알아챈 차가 그 상황에 필요한 정보를 먼저 보여줄 수도 있다. 
하지만 필요한 정보를 먼저 보여주는 것과, 내가 익숙한 대시보드까지 알아서 바꾸는 것은 같은 일이 아니다. 자동차의 AI 에이전트가 더 많은 일을 맡게 될수록, 사용자가 무엇을 원하는지 알아내는 능력만으로는 충분하지 않다는 차이가 중요해진다. 아직 결정하지 않았다는 것도 알아야 한다. 때로는 한 번 더 묻는 것이 필요하고, 때로는 대답을 기다려야 한다. 또 어떤 때는 여러 번 거절당한 뒤 조용히 사라져야 한다. 모든 마찰을 없애야 하는 것이 만사가 아닌 것이다.
지난 8월 서울 코엑스, 2026 퓨처 모빌리티 위크에서 LG전자 홍현택 연구위원은 AIDV 시대에는 이동시간 자체가 경험의 가치가 되며, 음성·시선·감정·생체 신호로 탑승자 상태를 파악해 맞춤형 서비스를 제공하는 인 캐빈 AI를 개발 중이라고 밝혔다. 피곤한 사람에게 맞는 컨텐츠를 제안한다고 선택권이 사라지는 것은 아니다. 마음에 들지 않으면 바꾸면 된다. 문제는 자동차가 나를 점점 더 정확하게 이해하고, 내가 다시 선택해야 할 순간을 계속 줄여준다면 사람의 선택에 어떤 변화가 있을 것인가다. 아직은 모른다. 다만 자동차가 행동을 읽고 의도를 예상해 먼저 반응하는 쪽으로 가고 있는 것은 분명하다.
지난 여름 'Begin Again'에서 자동차가 나를 아무리 잘 기억해도 아직 내가 되어보지 않은 사람까지 기억할 수는 없다고 썼다. 이번에는 그보다 가까운 곳을 보면, 자동차가 나를 정확하게 예측한 다음, 그 판단을 어디까지 행동으로 옮길 것인가가 질문이 된다.



MB.DRIVE ASSIST PRO의 cooperative steering은 운전 지원 중에도 운전자가 조향에 개입할 수 있게 한다. 운전자의 보정을 시스템 전체에 대한 거부로 해석하지 않는 방식이다.


 
손이 방향을 바꿀 때

흥미롭게도 운전 지원에서는 한 가지 작은 실마리를 찾을 수 있다.
Mercedes-Benz가 CES 2026에서 공개한 MB.DRIVE ASSIST PRO는 SAE 레벨 2 운전 지원으로 도심에서 목적지까지 주행을 돕는다. cooperative steering이라고 부르는 방식 덕분에 시스템이 작동하는 동안에도 운전자는 언제든 조향을 보정할 수 있고, 그 입력만으로 시스템 전체가 해제되지는 않는다. 기능 자체가 새로운 것이 아니라, 운전자 개입을 곧바로 시스템에 대한 거부나 완전한 인수로 해석하지 않는 방식이 중요하다. 운전자와 시스템 중 하나가 모든 것을 가져야 할 이유는 없다. 물론 이 원리를 음악이나 일정에 그대로 옮길 수는 없다. 안전을 다루는 운전 지원과 생활 속 선택에는 각각 요구되는 책임과 개입의 정도가 있다.
여기서 생각해 볼 것은 사람이 다시 들어왔을 때 시스템이 무엇을 해야 하느냐다. Top Gear에서 우리가 본 살아있음은 세 사람이 서로를 정확히 읽어서 생긴 것이 아니었다. 그들은 어긋났고, 다른 선택을 했고, 그 차이가 관계를 만들었다. 차가 사람을 더 잘 이해하게 된다고 해서 그 살아있음까지 대신할 수 있는 것은 아니다. 좋은 AI가 할 일은 더 강하게 설득하는 것이 아니라, 사람이 다른 선택을 할 자리를 남겨두는 것일 수 있다. 월요일 아침, 회사 대신 바다를 입력하는 손이 들어왔다면 차는 그것을 오류가 아니라 새로운 선택으로 받아들여야 한다.



실행 다음의 능력

"Execution is what wins."
HARMAN Automotive의 크리스티안 소보트카 CEO는 올해 초 AI와 머신러닝 같은 기술 자체는 이제 자동차에서 차별점이 아니라고 말했다. AI를 넣었다는 사실보다 실제 자동차에서 제대로 작동하게 만드는 능력이 중요하다는 뜻이다. 자동차 AI가 데모를 넘어 실제 차량으로 들어갈수록 실행할 수 있는 일은 더 많아진다. 그래서 이제 어려운 질문은 실행 그 자체보다 앞에 있다.
언제 하는가. 어디까지 하는가. 언제 다시 묻는가.
이건 모델의 정확도만으로 답할 수 있는 질문이 아니다. 틀렸을 때 쉽게 되돌릴 수 있는지, 돈이나 일정처럼 다른 서비스까지 움직이는지, 안전 때문에 기다릴 수 없는 일인지, 사용자의 의도가 정말 끝난 것인지도 봐야 한다.
Cinemo의 이반 딤코비치는 여행 계획을 예로 들었다. AI가 경로상의 호텔을 찾고 옵션을 비교해 예약까지 준비할 수는 있다. 그렇다면 사용자에게 묻지 않고 예약을 확정하고 신용카드 결제까지 해도 될까. 어떤 사람은 원하겠지만, 어떤 사람은 마지막 확인만큼은 직접 하고 싶어 할 수 있다. 95%의 확신으로 음악 한 곡을 고르는 데 필요한 권한과 결제를 끝내는 데 필요한 권한을 똑같이 볼 수 없다. 사용자가 이미 맡긴 일이라면 다시 물을 필요가 없을 수도 있다. 아직 생각하고 있는 일이라면 기다리는 편이 낫다. AI의 정확도가 높아진다고 행동의 범위까지 자동으로 넓어지는 것이 아니다.
지난 6월 'Whose Experience'에서, AI 에이전트가 콕핏에 들어오는 순간을 두고 '권한은 이동하는데, 그 권한이 어디로 갔는지에 대한 규칙은 아직 완성되지 않았다'고 썼었다. 이번에는 그다음을 묻는다. 자동차가 사용자의 의도를 읽었다면, 그 권한을 언제 행동으로 옮겨도 되는지를. 바로 실행할지, 먼저 물을지, 제안만 할지, 거절당하면 그만둘지, 기술적으로 가능하지만 하지 않게 할 것 인지. 
자동차 AI의 완성도는 무엇을 얼마나 많이 해주는지만으로 평가하기 어려워질 것이다. 하지 않아야 할 때 하지 않는 능력도 필요하다. 앞선 글에서 디코니움의 Guang Yang이 말한 Seamless Experience를 SDV 시대 자동차의 새로운 '천장'이라고 소개했다. 그 방향은 여전히 유효하지만, 매끄러운 경험은 아무것도 묻지 않는 경험이 아니다. 충전할 때마다 다른 앱을 열고 싶지는 않다. 차에 탈 때마다 내가 누구인지 다시 설명하고 싶지도 않다. 그러나 쏘카가 남겨둔 마지막 '결제하기'처럼, 없애지 않는 편이 나은 마찰일 수도 있다.



Memory Lane에서 시리즈를 시작하게 했던 오래된 Chevrolet Suburban. 가족이 무엇을 원하는지 예측하지도, 다음 목적지를 제안하지도 않았다. 그저 그들의 시간과 함께 갔다. 



다시, 우회

이 일곱 편의 이야기가 시작된 지난해 연말, 우리는 오래된 Chevrolet Suburban 한 대를 봤다.
한 노부부가 그 차를 타고 지나온 시간을 돌아봤다. 크리스마스트리 농장과 아이스링크를 지나고, 길가에 멈추고, 흙길을 달리고, 오래된 헛간에 들어갔다. 어린아이들은 그 헛간으로 들어갔다가 어느새 어른이 되어 나왔다. 차에는 빈 시트가 남았다. 한때 함께했던 개도 사라졌다. 그 부부는 이렇게 말했다. "쉽지 않았지." "쉬웠으면 좋겠어?" "아니, 그냥 그대로였으면 좋겠어." 그 차는 가족이 무엇을 좋아하는지 학습하지 않았다. 다음 목적지를 제안하지 않았다. 예약하거나 결제하지 않았다. 오늘의 기분도 몰랐다. 그저 함께 갔다.
당시 우리는 그 이야기를 보며 추억은 선택보다 우회에서 생길 때가 있다고 썼다. 이게 미래의 자동차가 과거처럼 아무것도 몰라야 한다는 뜻은 아니다. 이제 자동차는 우리가 어디로 가는지, 무엇을 듣는지, 어디에서 멈추는지, 무엇을 반복하는지와 같은 훨씬 많은 것을 알 수 있다. 그리고 우리가 무엇을 하려는지도 조금씩 알아가고 있다. 그건 더 좋은 자동차를 만들 수 있는 능력이다.
Audi F1 편에서 베네딕트 스틸은 "우리는 도전자 입장에서 출발하기 때문에 실수는 허용되지만, 멈추는 것은 허용되지 않습니다"라고 말했다. 시스템의 실수는 다음 개선을 위한 데이터지만, 사람의 우회까지 같은 방식으로 다룰 수는 없다. 자동차는 오랫동안 사람이 저지르는 위험한 실수를 줄이는 방향으로 발전해 왔다. 앞으로는 생활의 번거로운 선택도 더 많이 대신할 것이다. 충돌 직전 브레이크를 밟지 않는 운전자에게 자동차는 물러서서는 안 된다. 하지만 좋아하지 않는 음악을 고르고, 추천하지 않은 식당에 가고, 조금 돌아가는 길을 택하고, 어느 월요일 갑자기 회사 대신 바다를 향하는 선택까지 자동차가 더 나은 답으로 바꿔줄 필요는 없다. 그 선택이 반드시 좋은 선택일 필요도 없다. 바다에 갔다가 후회할 수도, 식당이 형편없을 수도 있다. 돌아간 길이 정말 시간 낭비였을 수도 있다. 그래도 그것은 내가 한 선택이다.
자동차가 나를 더 많이 알게 되는 시대에 필요한 것은 모든 잘못된 선택을 없애는 능력만은 아닐 것이다. 많이 아는 차가 언제 움직이지 않을지를 아는 것. 어쩌면 그것도 사람과 함께하는 방법일 수 있다.

내가 어느 날 다른 길을 택했을 때, 그 차는 어디까지 따라와 줄 것인가.

AEM(오토모티브일렉트로닉스매거진)

---