2025년 3월 12일 - Arm은 AI 가속화를 위한 광범위한 소프트웨어 및 소프트웨어 커뮤니티 참여 프로그램인 Arm Kleidi를 오토모티브 시장에 출시한다고 발표했다. 파트너사들은 Arm Kleidi를 통해 차량용 차세대 애플리케이션별 AI 모델의 이점을 활용하고 이를 더 빠른 속도로 배포할 수 있게 된다.

Arm의 오토모티브 사업부 프로덕트 및 솔루션 부사장인 수라즈 가젠드라(Suraj Gajendra)는 “자동차 업계에서 AI는 종종 자율주행차량의 핵심으로 묘사되고, 미래적인 존재로 인식되며, 도로에서의 대량 생산을 보기까지는 수년이 더 걸릴 것으로 예상된다”며 “그러나 현실은 적응형 크루즈 컨트롤, 개인 맞춤형 인포테인먼트 시스템, 운전자 및 승객 모니터링 등 오늘날 신차에 탑재된 많은 차량 애플리케이션과 기능들이 이미 AI를 활용하고 있으며, 이런 애플리케이션 특화 모델과 워크로드는 Arm에서 실행되고 있다”고 말했다. 

이는 Arm 컴퓨팅 플랫폼의 유연성, 성능, 전력 효율성 및 확장성 덕분으로, 자동차 산업 전반의 개발자들이 선호하는 플랫폼이 됐다. 
차량 애플리케이션과 기능이 더욱 정교해지고, 더 많은 AI에 대한 요구가 증가하며 워크로드가 점점 더 복잡해짐에 따라 업계는 다음과 같은 고유한 과제에 직면하고 있다.


- 타 시장에 비해 방대한 자동차 소프트웨어 시스템으로 인한 개발자 환경의 복잡성 증가
- 클라우드에서 개발된 애플리케이션을 차량에 원활하게 배포할 수 있도록 하는 강력한 클라우드-차량 소프트웨어 개발 및 검증 인프라의 필요성
- 소프트웨어의 엄격한 안전 및 보안 산업 표준 및 규정 준수의 필요성
- 자동차의 소유 주기가 길어짐에 따라 소프트웨어가 수년에 걸쳐 새로운 기능과 업데이트를 수용할 수 있는 확장성의 필요성(이는 최신 소프트웨어 업데이트 출시 시 스마트폰을 업데이트하는 것과 유사하지만, 제품 주기가 짧지 않은 경우다.)


Arm은 자동차 개발 주기를 가속화하기 위해 가상 플랫폼 및 표준 기반 소프트웨어 솔루션의 오토모티브 에코시스템 전반에서 선도적인 오토모티브 강화(AE) 기술과 SOAFEE(Scalable Open Architecture for Embedded Edge)를 통한 협업을 활용해 이런 고유한 문제들을 해결해왔다. 이 모든 솔루션은 개발자들이 Arm의 범용 컴퓨팅 플랫폼을 통해 향상된 성능에 원활하게 접근하고, 애플리케이션의 시장 출시 기간을 단축할 수 있는 도구를 제공한다.


Arm Kleidi를 통한 자동 성능 최적화 
Arm Kleidi는 2024년에 출시되어 개발자의 추가 작업 없이 모바일, 클라우드, 데이터센터와 같은 주요 시장에서 Arm CPU에서 실행되는 AI 추론 워크로드를 위한 소프트웨어 성능 최적화를 제공한다. Kleidi는 이미 ExecuTorch, llama.cpp, MediaPipe 및 PyTorch와 같은 인기 있는 AI 프레임워크의 최신 버전에 통합되어 있으므로 개발자는 간단히 애플리케이션 구축을 시작하고 Arm 기반 플랫폼에서 자동으로 성능 향상을 확인할 수 있다.

이런 성능 최적화는 현재 자동차 시장에 제공되고 있으며, 선도적인 기술 기업들은 이미 다양한 새로운 애플리케이션을 위한 오토모티브 소프트웨어 전반에서 이미 성능 향상을 경험하고 있다. 차량용 챗봇, 개인 맞춤형 운전자 추천, 사용자 지원을 위한 이미지 및 움직임 개선, 진단 및 문제 해결 등의 애플리케이션에서 Kleidi 라이브러리가 주요 개발 프레임워크에 통합됨으로써, AI 애플리케이션은 더 빠르고 효율적인 차내 경험을 제공하기 위해 가속화되고 있다.


AWS 오토모티브, 차량용 챗봇 응답 시간 10배 개선   
AWS는 Arm과 코렐리움(Corellium)의 가상 플랫폼을 사용해 소프트웨어 정의 자동차(SDV)을 위한 새로운 개념 증명 AI 챗봇을 개발했다. 이 챗봇을 통해 운전자는 물리적인 차량 사용자 매뉴얼을 넘기는 대신 차량과 직접 상호작용해 질문을 하거나 대시보드 경고에 대해 문의할 수 있다. 최신 버전의 llama.cpp에 통합된 KleidiAI를 활용해 챗봇을 개발함으로써, AWS는 챗봇 응답 시간이 10배 개선됐음을 확인했다. 이로 인해 챗봇의 응답 시간은 단 1~3초로 단축됐다. 또한 KleidiAI의 사용으로 개발자는 저수준 소프트웨어 최적화에 집중할 필요 없이 애플리케이션 개발 시간을 6주나 절약할 수 있었다. 


빅원(VicOne), 오토모티브 보안 위협에 대한 대응 시간 단축 
빅원의 SDV용 xCarbon 온보드 솔루션은 차량이 사이버 보안 위협을 학습하고 인식할 수 있도록 하며, 클라우드 의존도를 낮춰 비용을 절감하고 데이터를 보다 안전하게 보호한다. 빅원은 TinyLlama-1 1B 모델을 사용해 프리필(prefill) 프롬프트 속도를 두 배로 높이고 토큰 생성 속도를 60% 이상 개선해 차량 내에서 탐지된 사이버 보안 위협에 대한 대응 시간을 단축하는 등 상당한 성능 향상을 달성했다. Kleidi의 성능 최적화를 통해 빅원은 추가적인 엔지니어링 작업 없이도 더욱 안전하고 보안이 강화된 주행 경험을 제공할 수 있게 됐다. 


소나투스(Sonatus), OEM이 클라우드의 Arm 기반 AWS 그래비톤(Graviton) 칩에서 원활하게 실행할 수 있도록 AI Technician Builder 제공
소나투스의 AI Technician Builder는 OEM들이 차량에 관한 사용자 문의에 신속하게 응답해 운전자 경험을 개선하는 고객 서비스 에이전트를 생성할 수 있도록 지원하는 클라우드 투 에지 플랫폼이다. 초기에는 클라우드 기반 GPU를 사용했지만, Kleidi에 최적화된 프레임워크를 통해 AI Technician Builder는 Arm 기반의 AWS 그래비톤 Amazon EC2 인스턴스에서 클라우드를 쉽게 실행될 수 있도록 이식됐다. 이는 사용자가 요구하는 가격 대비 성능과 응답 시간을 유지하며, 네트워크 연결 없이도 Arm 기반 차량용 컴퓨팅 플랫폼의 에지에서 차량 내 AI 워크로드를 실행할 수 있는 기반을 마련해준다.


Arm을 기반으로 자동차 내외 분야에서 AI 혁신 추진   
현재 전 세계 자동차 제조사의 94%가 최신 차량 모델에 Arm 기술을 사용하고 있다. 자동차 업계 전반에 걸쳐 Arm 플랫폼이 보편화돼 있다는 것은 AWS, 빅원, 소나투스가 이미 주요 차량 내 AI 애플리케이션에서 구현하고 있는 것과 같은 영향력 있는 성능 최적화를 실현할 수 있는 독보적인 위치에 있음을 의미한다. Kleidi를 기존 소프트웨어 스택에 통합함으로써 1초가 중요한 차량용 애플리케이션에서 보다 효율적이고 고급화된 AI 사용 사례와 빠른 응답 시간을 구현할 수 있는 가능성이 높아졌다. 이를 통해 개발자들은 추가적인 오버헤드나 개발자의 노력 없이도 새로운 애플리케이션별 AI 모델과 워크로드를 Arm CPU에서 최적화하고 실행할 수 있는 강력한 성능을 확보할 수 있다.

Kleidi의 오토모티브 분야 확장을 통해, Arm은 클라우드에서 에지까지 모든 Arm 시장에서 AI 개발자들에게 원활한 성능 가속을 제공하겠다는 약속을 이행하고 있다. 이를 통해 개발자들은 AI의 변혁적 잠재력의 한계를 계속해서 넓혀 나가는 새롭고, 매력적인 사용자 경험을 창출할 있게 된다.