티유브이 라인란드, AI 기반 차량 시스템의 안전 개발 인증

티유브이 라인란드(TÜV Rheinland)가 인공지능(AI) 기반 차량 시스템의 안전한 개발을 위한 국제 표준 ISO/PAS 8800에 따른 첫 인증을 완료했다고 27일(현지시간) 밝혔다. 

이는 기존 자동차 기능 안전성 표준이 다루기 어려웠던 AI 특유의 안전 요구사항을 개발 과정에 적용할 수 있음을 실제 산업 현장에서 입증했다는 점에서 의미가 있다.

이번 인증은 중국 국영 자동차그룹 둥펑자동차의 제품 개발 및 연구센터 관리 프로세스를 대상으로 진행됐다.

ISO/PAS 8800은 자동차 분야에서 AI를 활용한 안전 관련 시스템의 개발 과정에 적용할 수 있도록 마련된 표준이다. 이 표준은 기존 자동차 기능 안전성 표준인 ISO 26262를 보완하면서 AI 시스템의 개발과 안전 수명주기 전반에서 발생할 수 있는 위험을 체계적으로 분석하고 관리할 수 있는 프레임워크를 제공한다.

AI 기반 차량 시스템은 일반적인 소프트웨어와 달리 소프트웨어 코드만으로 안전성을 판단하기 어렵다. 학습에 사용되는 데이터셋과 AI 모델, 학습 과정, 실제 운용 과정에서의 동작 역시 시스템 안전에 영향을 미칠 수 있기 때문이다.

예를 들어 부적절한 학습 데이터로 인해 AI가 특정 상황을 제대로 인식하지 못하거나, 학습 과정에서 예상하지 못한 동작 특성이 나타날 수 있다. 실제 차량 운행 과정에서 새로운 상황에 직면하거나 시스템이 변경되면서 기존에 검증되지 않은 동작이 발생할 가능성도 있다.

ISO/PAS 8800은 이 같은 AI 특성을 고려해 안전성 확보에 필요한 관리 체계를 제시한다. 이를 통해 AI 기반 차량 기능의 개발과 검증 과정에서 발생할 수 있는 위험을 보다 체계적으로 식별하고 관리할 수 있도록 한다.

특히 안전성 입증을 위해 데이터셋, AI 모델, 테스트 결과 및 실제 운용 과정의 모니터링 결과 등을 포함한 종합적인 증거 자료를 확보하고 이를 문서화하는 것이 중요하다. 이러한 체계적인 안전성 입증 자료는 향후 자동차 형식승인이나 제품책임과 관련해서도 활용될 가능성이 있다.

티유브이 라인란드는 자동차 분야 AI 시스템의 기능 안전성과 관련된 관리 시스템에 대한 독립적인 심사를 제공하고 있다. ISO/PAS 8800 심사는 ISO 26262 기능 안전성 및 ISO 21448 (SOTIF) 등 자동차산업에서 활용되는 다른 안전 관련 심사와 연계해 진행할 수 있다.

이를 통해 기업은 관리 시스템 심사와 개발 프로세스 평가, 적합성 평가 등을 연계해 AI 기반 차량 시스템의 안전성을 종합적으로 검증할 수 있다. 이와 함께 티유브이 라인란드는 안전 관련 시스템 개발자를 위한 제품 인증 및 교육 프로그램도 제공한다.

AEM(오토모티브일렉트로닉스매거진)

---