퍼블릭 클라우드에서 사용할 수 있는 오픈소스 머신러닝 알고리즘은 자율주행차의 주요 안전 위험을 초래할 수 있다. 티어 1 서플라이어에서 독일 자동차 OEM을 대상으로 ADAS 제품 공급을 책임진 테크니컬 디렉터에서 델 테크놀러지스의 CTO로 영입된 플로리안 바우만 박사가 클라우드와 자율주행차의 안전에 대해 말한다. 

글| 플로리안 바우만(Florian Baumann) CTO, Dell Technologies





자동차 업계의 IT 및 비즈니스 리더들과 함께 매일 일하고 있다. 그들은 끊임없이 무엇이 다음에 올지, 어떤 새로운 서비스를 제공해야 할지, 그리고 자율주행차가 자동차를 만드는 방식을 근본적으로 어떻게 바꿀지에 대해 고민한다. 

가장 큰 변화에 대한 한 가지는 자율주행차가 생산하는 데이터의 양이 될 것이다. 2030년이 되면 각각의 차량은 매일, 하루도 빠짐없이 최대 10TB, 또는 업계 전체로는 1제타바이트의 용량을 생성할 것으로 예측된다. 비교하면 이것은 2016년 전체 세계 인터넷 트래픽과 거의 맞먹는 양이다. 

이 말은 자동차 회사가 더는 단순 제조회사가 아니라, 제조 부문을 가진 소프트웨어 회사가 된다는 것을 의미한다. 오늘날 자동차 회사들은 머신러닝을 통한 데이터 분석이 가장 중요한 비즈니스 기능 중 하나가 될 자율주행의 미래에 필요한 IT 인프라를 구축하는 과정에 있다. 이것은 새로운 시장이라서 모든 기업이 퍼스트 무버로서의 이점을 취하고자 한다. 기업들은 내부에서 소프트웨어를 코딩하는데 시간이 많이 소요되는 프로세스를 거치는 대신, 타사 알고리즘에 새로운 플랫폼과 애플리케이션을 구축하고 있다.


퍼블릭 클라우드에 대한 논쟁  

하지만 여기에는 대단히 큰 위험이 있다. 

오픈소스나 서드파티 알고리즘은 근본적으로 자율주행차의 안전과 적합성을 저해할 수 있다. 그것은 차량을 위험한 사고나 해커들의 악의적인 사이버 공격에 대해 취약하게 만들 수 있다. 어느 경우든, 이런 위험은 OEM에게 수백만 달러의 손해를 입히거나, 최악의 경우 승객의 생명을 위험에 빠뜨릴 수 있다. 이 문제는 아직 업계에서 충분하게 널리 논의되고 있지 않은 문제로, 현재의 IT 및 엔지니어링 리더들이 고려해야 할 주요 이슈다.

알고리즘은 오늘날 퍼블릭 클라우드에서 광범위하게 사용할 수 있다. 이것들은 떠오르는 AI와 머신러닝 유즈케이스에 대한 기초를 제공한다. 모든 형태와 규모의 기업이 지능형 데이터 분석을 통해 혜택을 누릴 수 있다. 하지만 이런 알고리즘의 장점인 단순성과 접근성은 약점이 될 수 있다.

퍼블릭 클라우드 알고리즘은 블랙박스에서 개발돼 사용자에게 구현 방법에 대한 통찰력을 거의 제공하지 않는다. 설사 그렇다 하더라도, 머신러닝 코드는 수십만 줄까지 실행될 수 있고,  제조 기업의 데이터 과학자들은 검토할 시간, 리소스, 또는 전문지식이 없다. 그래서 자동차 회사들은 현재 상세하게 그 수학적 공식을 이해하지 못한 채 서드파티 알고리즘을 사용해 소프트웨어를 만들고 있다.



Florian Baumann
독일 OEM에 ADAS 제품공급을 책임진 티어 1의 테크니컬 디렉터에서 2019년 델 테크놀러지스에 CTO로 영입된 플로리안 바우만 박사는 자동차와 인공지능 업계에서 인정받은 전문지식을 델에 불러왔다. 머신러닝, ADAS에 대한 권위자로서 동작 인식과 객체 추적 관련 20개 이상의 연구를 발표했다. 전기공학 및 컴퓨터공학을 전공했고, 라이프니츠(Leibniz) 대학에서 장면 이해로 박사학위를 받았다.



승객은 괜찮을까              
 
올해 ‘타이포그래픽 어택’이 뉴럴 네트워크에서 실행되는 오브젝트 인식 소프트웨어를 혼동시킬 수 있다는 사실이 밝혀졌다. 

AI는 약간의 노이즈나 단지 스티커가 잘못 붙여진 오브젝트를 통해 속을 수 있다. 이런 결함이 차량 안전에 중요한 기능에 직접 영향을 미칠 때 심각한 우려를 불러일으킨다. 예를 들어, 도심 지역에서 훼손되거나 낙서된 도로표지판을 보는 것은 드문 일이 아니다. 인간 운전자의 경우 불필요한 것을 걸러내고 지시를 이해하는 것이 간단한 것이지만, 현재의 알고리즘으로는 그리 쉬운 일이 아니다. 불완전한 퍼블릭 도메인 알고리즘에 구축된 소프트웨어는 신호등이나 정지신호와 같은 중요한 도로표지판을 해석하는 데 어려움을 겪을 수 있다. 

그러나 더 걱정스러운 것은, 승객과 취약한 도로이용자들에게 차량의 오작동을 유발할 물리적 신호로 위험을 줄 수 있는 해커들의 적대적 공격의 위험에 처할 수 있다는 점이다. 이런 위험은 멀리 있는 것처럼 보일 수 있지만, 퍼블릭 클라우드에서 알고리즘을 통합한 모든 차량이 가질 수 있는 약점이다. 이는 시장에서 카 메이커의 모델 생존 가능성을 치명적으로 훼손할 수 있다. 차는 운행 중 오작동 또는 악의적인 공격으로부터, 생산 이전의 개발 중에, 생산 이후에도 모든 것을 보호해야 한다. 그리고 OEM이나 서플라이어는 자체 코드의 세부사항을 이해해야만 그렇게 할 수 있다. 





새로운 법적환경       

정부기관도 이런 위험에 주의를 기울일 것이다. 자율주행차의 잠재적 위험에 대비하기 위해 향후 몇 년 내에 관련 법규제를 도입할 것이다. 
UNECE WP29 자동차 사이버 보안 규정은 이미 EU 및 기타 주요시장에서 승인됐다. 자율주행 기술은 매우 새롭기 때문에 이런 규정은 시간이 지남에 따라 진화해 새로운 위험이 분명해지면 완화될 것이다.  

법제도의 가장 중요한 목표는 승객 안전이다. 첨단 운전자 지원 시스템, 자율주행차가 공공 도로용으로 승인되는 경우 산업 표준 규정에서 협상할 수 없는 몇 가지 안전에 대한 중요 기능이 있다. 예를 들어, 자동 긴급제동, 차선이탈 방지 시스템, 타이어가 낡거나 브레이크가 손상된 상태에서 차가 운행되지 못하도록 하는 사전 유지보수 알림과 같은 내용을 포함할 수 있다. 

그러나 이런 안전에 중요한 기능을 뒷받침하는 머신러닝 소프트웨어가 퍼블릭 클라우드에서 제공되는 경우 문제가 발생하면 누가 책임져야 할까? 기술 회사는 퍼블릭 클라우드에서 공유한 범용 알고리즘에 대해 책임지지 않을 것이다. 자동차 제조업체가 실사를 수행하지 않고 차량에 블랙박스 코드를 사용하는 것은 용납할 수 없는 것으로 보일 것이지만 이는 일부 제조업체들이 이미 하고 있는 것이다. 


올바른 균형     

아마도 우리는 완전 자율주행차의 대량 보급으로부터 10년 정도 떨어져 있을 것이다. 이는 시스템을 실현하고 신뢰할 수 있게 만드는 데 필요한 거대한 네트워크와 데이터 인프라 때문이다. 하지만 제조사의 R&D 부서는 그들이 한동안 도로 위에 이런 차를 올리지 않더라도 이미 그들의 첫 상용 자율주행차를 위한 소프트웨어를 개발하고 있다. 이들 중 많은 기업은 이 프로세스를 시작하기 위해 퍼블릭 클라우드 코드에 의존하고 있다. 

이 코드를 반드시 제대로 이해하거나 제어해야 할 필요는 없다. 그러면 카 OEM과 서플라이어들은 무엇을 할 수 있을까? 

그들은 자율주행차에 대한 엄청난 시장 기회를 활용하기 위해 빠르게 혁신할 필요가 있다. 델 테크놀로지스와 WADS 인텔리전스의 2020년도 조사에 따르면, OEM은 이미 프라이빗 클라우드나 온프레미스(On-premises) 스토리지를 선호하고 있고, 특히 전체 차량 라이프사이클에 걸쳐 추가적인 제어 및 보안을 제공하고 있다. 그러나 그들은 여전히 필요한 IT 전문지식을 쌓고 있고 인하우스 알고리즘을 아직 작성하지 못했을 수 있다.

신중한 접근이 필요하다. 퍼블릭 클라우드는 혁신을 시작하는데 여전히 유용한 리소스다. 기업은 기존 알고리즘을 활용해 데이터베이스를 테스트하고 개념증명 파일럿을 실행할 수 있다. 카 메이커는 퍼블릭 클라우드의 동종 최고 공급업체로부터 배우고 개방형 API 혁신을 활용할 수 있다. 그러나 중요한 것은, 일단 올바른 알고리즘이 확립되면, 개발 작업을 인하우스로 가져오는 것이 필수적이란 점이다. 
OEM과 서플라이어는 프라이빗, 하이브리드, 또는 멀티 클라우드 환경에서 최첨단 소프트웨어를 개발할 수 있는 규모와 전문성을 제공할 수 있는 파트너와 협력하는 것이 바람직하다. 예를 들어, 델의 멀티 클라우드 서비스를 통해 기업은 워크로드를 여러 하이퍼 스케일러로 원활하게 밀어 넣고, 제어 및 보안 영향 없이 공개적으로 사용 가능한 AI 서비스를 통해 이점을 누릴 수 있다.  [AEM]