자율주행차의 안전・보안 위협과 대응 방안 -이응용 전문위원(넥스텔리전스)

자율주행차의 안전・보안 위협과 대응 방안

https://webzine.aihub.or.kr/insight/vol18/vol18_content05.html

특별기고 - AI DATA INSIGHT 18호

글로벌 팬데믹 상황에서도 자율자동차 시장은 빠르게 발전하고 있으며, 자율주행차 발전에 대한 관심 역시 더욱 고조되고 있다. 대부분 글로벌 자동차 기업의 매출이 지난해에 비해 대폭 감소한 상황에서 자율주행차 선도 기업인 테슬라의 매출은 올해에도 크게 증가하고 있으며, 기업 가치도 폭등했다.

이러한 자동차 산업의 패러다임 변화에 따라 글로벌 자동차 및 IT 기업은 친환경 전기자동차, 자율주행차 시장 진입에 박차를 가하고 있다. 미래의 자율주행차는 운전 중 발생하는 위험을 완전히 제거하고, 이동 중에도 엔터테인먼트를 즐길 수 있는 새로운 모빌리티를 제공할 것으로 기대된다. 하지만 자동차와 인공지능 기술의 결합에 따라 새로운 안전·보안 문제에 대한 사회적 우려가 고조되고 있다. 이에 대해 자율주행 기술과 시장의 발전에 따른 안전·보안 위험을 분석하고 대책을 강화할 필요가 있다.

자율주행 기술 변화와 시장 전망

국제자동차기술자협회(SAE International)의 분류 기준에 따르면 현재 자율주행차 선도 기업의 자율주행 기술 수준은 4단계에 진입한 것으로 평가된다. 새롭게 시장에 진입하는 기업들도 단기적으로 4단계 진입을 목표로 기술 개발을 추진하고 있다. 4단계 자율주행부터는 일부 긴급 상황을 제외하면 차량이 스스로 운전한다. 이 때문에 4단계 이상의 자율주행차를 본격적으로 상용화하기 위해서는 자율주행차 인공지능 시스템에 대한 안전·보안이 매우 중요하다.

표 1. 차량 주행 기술 진화별 특징1)구분0 단계1 단계2 단계3 단계4 단계5 단계

자동화 수준	비 자동화	운전자 지원	부분 자동화	조건적 자동화	고 자동화	완전 자동화
응용 기술	FCW, LDW, BSD	LKA, SCC, AEB	TJA, HDA	Enhanced Auto pilot	V2V, V2I, V2X, AI, 정밀지도	V2V, V2I, V2X, AI, 정밀지도
기술 수준	충돌 경고, 차선 이탈 경고	조향/감속 단일 제어보조	조향+속도 제어 통합보조	특정 주행모드에서 일정 부분 자율주행	완전자율주행 (일부 제약)	Door to Door가 가능한 완전자율주행
운전자 역할	모든 기능 직접 수행	운전 및 상황주시	운전 상황 주시	필요시 운전자 개입	운전자 개입 불필요	독서, 휴식, 수면 등
주행 주체	운전자	운전자	운전자	운전자+차량(시스템)	차량(시스템)	차량(시스템)
책임 소재	운전자	운전자	운전자	운전자	차량(시스템)	차량(시스템)

한국자동차연구원은 글로벌 컨설팅사의 자료를 기반으로 세계 자율주행차 시장이 2020년 71억 달러(약 8조 원) 규모에서 2035년 1조 달러까지 성장하고, 자율주행 서비스 시장도 2030년까지 3조 달러 규모로 확대될 것으로 전망했다. 기술 관점에서 보면, 현재 2단계 기술(운전자 보조 수준)이 상용화되어 있으며 향후 3단계 이상의 기술이 상용화되면서 2030년경 신차 판매의 50% 이상을 자율주행차가 점유할 것으로 내다보았다.2) 이러한 시장 변화에 따라 미국·일본·독일 등 주요 선진국을 중심으로 자율주행차 관련 법률을 개정하고 있고, 자율주행 기술 발전 단계에 따라 지속적으로 법률 개선을 가속화하고 있는 상황이다.

자율주행차에서의 안전과 보안 위험

* 자율주행차와 관련된 위험에 대처하기 위해 2021년 2월 EC의 공동연구센터(JRC: Joint Research Center)와 ENISA(European Union Agency for Cybersecurity)는 자율주행 차량에서 AI와 관련된 사이버보안 위험을 조사하고, 위험에 대처하기 권장사항을 담은 보고서3)를 발표하였다. 해당 부분은 JRC·ENISA 보고서에서 중점적으로 다루고 있는 자율주행차 관련 주요위험요인과 위험 시나리오에 따른 보안권고사항 중심으로 고찰해보고자 한다.

자율주행차 중앙통제센터는 주변의 많은 기기, 센서와 네트워크를 통해 실시간 정보 교환이 이루어져 기존의 정보통신 네트워크에서 발생하는 사이버 공격에 노출될 수 있다. 대표적인 사이버 공격으로는 중간자(Man-in-the-Middle) 공격이 있다. 공격자들은 자율주행차 내부에 장착된 컴퓨터 시스템의 취약점을 이용해 원격으로 무단 접속해서 침투한다. 공격자가 자율주행차의 내부 시스템에 침입한 후 프로그램을 변조하거나 무단으로 악성코드를 삽입해 자율주행차와 주변 환경의 통신 내용을 하이재킹(Hijacking)할 수 있다. 이러한 사이버 공격으로 인해 자율주행차 운전자의 개인정보가 유출될 수 있다. 심지어 자율주행차 시스템의 장애나 오작동으로 인해 안전사고가 발생할 수 있다.

자율주행차 인공지능 시스템에 악의적인 데이터를 주입해 인공지능 모델을 손상시키는 데이터 중독(Data Poisoning) 공격도 가능하다. 자율주행차는 인공지능 서비스 기업이 지속적으로 운행 정보, 차량 상태 정보 등을 다량 전송하는 특정한 상황을 노려 악의적으로 거짓 정보나 오류 정보를 삽입할 수 있다. 이렇게 오염된 정보가 정상적인 정보와 결합되면 자율주행차 인공지능 시스템 업데이트 시 인공지능 알고리즘에 오염된 정보가 적용되어 예상치 못한 결과가 발생할 수 있다. 최초 데이터 오염이 발생한 후 적시에 문제를 발견하지 못하면 데이터 오염이 점점 더 확대되고, 결국 자율주행차 시스템의 오작동으로 안전 문제가 발생한다.

사이버 공격자들이 자율주행차 제조업체나 공급망의 부품업체가 운영하는 시스템 서버를 해킹해 악성 펌웨어를 유포할 수도 있다. 공격자들은 자동차 제조업체, 부품업체 시스템 개발자, 개발자가 사용하는 서버의 취약점 등을 이용해 악성 인공지능 펌웨어를 배포하면 무선 방식으로 OTA(Over-the-Air) 업데이트를 실행할 때 자율자동차의 보안통신 소프트웨어나 시스템 구성을 변경할 수 있다. 이때 자율주행차는 펌웨어가 신뢰할 수 있는 서버에서 전송되었다고 혼동할 수 있다. 이러한 공격은 상황인식 기능에 장애를 발생시키고 자율주행차 운행 시 도로나 횡단보도를 건너는 보행자에게 피해를 줄 수 있다.

자율주행차는 네트워크를 통해 지속적으로 센서가 수집한 정보를 실시간으로 전송받는다. 자율주행차 주변의 센서가 데이터를 전달할 때 사이버 공격자는 무선망에 대량의 트래픽을 발생시키는 서비스거부(DoS) 공격을 통해 센서의 데이터 수신 및 차량과 주변 사물의 데이터 통신을 방해할 수 있다. 또한 공격자는 시스템에 잘못된 위치 정보를 생성하려는 의도로 위성통신시스템에 유사 신호(GNSS)를 방출해 통신을 스푸핑(Spoofing)하거나 센서의 취약점을 이용해 통신 채널 중단·장애를 일으킬 수 있다. 이러한 공격으로 인해 주변 센서 정보에 의존하는 인공지능 시스템에 문제가 발생하면 차량의 기능이 저하되거나 장애가 발생할 수 있다. 위성통신시스템 스푸핑의 경우 인공지능 시스템에 악의적으로 거짓 정보를 삽입해 자율주행차가 잘못된 결정이나 판단을 내릴 수 있다.

자율주행차 운용 환경에서는 예상치 못한 다양한 안전사고 및 사이버 위협 상황이 발생할 수 있다. 우선 자율주행차는 물리적 환경에서 운영되므로 공격자들은 자율주행차의 물리적 환경을 공격 타깃으로 삼을 수 있다. 공격자는 자율주행차가 컴퓨터 비전 기술을 이용해 인식하는 도로의 정지, 속도 제한을 위한 표지판을 무단으로 변경하거나 차선·표지판에 빛을 비추는 등 이용자가 탐지할 수 없는 미세한 변화를 일으켜 인식 오류와 오작동을 촉발한다. 이러한 물리적 공격으로 인해 자율주행차는 탈선, 횡단보도 표지판 및 사람 미인식 등의 안전사고 발생 위험에 빠진다.

이 같은 사이버 물리 공격으로 인해 인공지능 교통신호 인식시스템에 간섭 노이즈가 추가되면 교통신호 인식시스템이 부정확하거나 비정상적으로 작동할 수 있다.

(상단) 교통신호 인식시스템(TSR)의 정상 출력으로 2개의 교통표지판 탐지
(중간) 공격자가 이미지의 각 픽셀에 간섭 노이즈 추가
(하단) TSR이 100개 이상의 비정상적 표지판을 표시

그림 1. TSR 모델의 오버플로우 공격

(상단) 교통신호 인식시스템(TSR)에 대한 정상적으로 “keep right” 인식
(하단) TSR이 악의적인 간섭 노이즈로 인해 부정확하게 “priority road”로 인식

그림 2. TSR 모델에 대한 스푸핑 공격

자율주행차의 안전과 보안 대책

자율주행차의 이용은 인간에게 주는 편의성과 안전·보안 위험이 공존하므로 이를 해결하기 위한 기술적·관리적 대책을 강화해 나가야 한다. 먼저 자율주행차에 사용되는 인공지능 모델과 데이터에 대한 체계적인 검증이 필요하다. 머신러닝 모델 학습 시 핵심 요소인 고품질 데이터에 오염 및 변조 등을 통한 혼란과 피해가 발생하지 않도록 데이터의 정확성·유효성을 철저히 검사해야 한다. 개인 권리 및 윤리적 측면에서도 자율주행차에 이용되는 데이터가 편향되지 않도록 검증해야 한다. 더불어 개인정보가 유출되어 사생활 침해가 발생하지 않도록 보안과 개인정보보호를 고려한 설계(Security By Design, Privacy By Design)를 강화해야 한다. 또한 자율주행차가 사용하는 알고리즘은 시간이 경과함에 따라 변화하므로, 데이터 생명주기 전반에 대한 체계적인 관리를 위해 거버넌스 체계를 마련해야 한다.

자율주행차 산업생태계는 제조, 부품, 소프트웨어, 인공지능 서비스, 보험 등 다양한 분야의 플레이어로 구성되어 있다. 따라서 자율주행차 공급망 생태계 전반에 대한 안전·보안 체계 마련이 필수적이다. 특히 인공지능 알고리즘이 자율주행차 공급망 전반에 활용되면서 전 과정에 걸친 인공지능 관련 안전·보안 대책이 필요하다. 자율주행차의 공급망의 보호 대상은 자율주행차의 전자제어장치(ECU), 센서는 물론 자율주행차에 삽입되는 인공지능 반도체 등에 이르기까지 다양하다.

자율주행차에 참여하는 플레이어가 많다는 사실은, 이들이 공통적으로 참조·준수할 수 있는 자율주행차 안전·보안에 관한 기본적인 원칙이나 실무지침이 필요하다는 것을 의미한다. 다양한 산업 영역별로 적용하던 사이버 보안 원칙을 통합하기 위한 총체적인 접근 방식이 요구된다. 특히 자율주행차의 인공지능 시스템에 대한 물리적, 사이버, 또는 사이버물리 공격에 대처하기 위해 인공지능 시스템의 다양성과 상호 작용을 고려한 포괄적인 접근 방식이 필요하다. 또한 인공지능 시스템의 개발부터 운용까지, 개발 과정 전반에 대한 통합적이고 심층적인 안전·보안을 적용할 필요가 있다.

마지막으로, 자율주행차 기술과 시장은 아직 발전 단계이며 보안과 안전 측면에서는 미성숙한 단계이다. 자율주행차 산업에 진입하는 많은 플레이어나 이용자들은 안전·보안의 취약성에 대해 막연한 두려움을 갖고 있는 데 비해 아직 전문 지식이나 기술이 미흡한 상황이다. 특히 자동차와 인공지능 기술의 결합으로 발생하는 안전과 보안 위협에 대한 충분한 지식이 없거나 아직 위협을 과소평가하는 경향도 있다.

따라서 자율주행차 개발 과정에서 발생하는 공통적인 위험에 대한 이해관계자들의 이해와 대응력을 제고하기 위해서는 인식 제고 활동과 문화 조성 노력이 요구된다. 이를 위해서는 자율주행차 개발에 참여하는 플레이어들이 자체적으로 안전·보안 교육을 강화하면서 다른 플레이어들과 안전과 보안 위험에 대한 경험과 지식을 상호 교류할 필요가 있다. 대학에서도 자율주행차에 대한 안전·보안을 융합한 교육과정 등을 개발하고 보안 개발 및 설계에 대한 교육과정을 확대할 필요가 있다.

Reference

• 1) 신영증권, CES 2020 탐방기, 2020.1.13
• 2) 한국자동차연구원, 자율주행 ‘레벨3’ 상용화를 위한 규제대응 현황, 2021.8.2
• 3) JRC・ENISA, Cybersecurity Challenges in the Uptake of Artificial Intelligence in Autonomous Driving, 2021.2.11