영화 ‘터미네이터’ 시리즈에서 인공지능(AI) ‘스카이넷’은 자신의 끝없는 발전에 두려움을 느낀 인간이 정지시키려 들자 인류를 적으로 판단해 모든 방어 시스템을 마비, 핵미사일을 발사시켜 인류를 멸망시킨다.

또 영화 ‘어벤져스: 에이지 오브 울트론’에서는 외계의 침략으로부터 지구를 지켜줄 희망으로 개발한 인공지능 ‘울트론’이 인간의 역사를 학습하는 과정에서 인류의 추악한 모습을 보고 멸망을 시켜야 하는 존재로 본다.

과거에는 공상과학 영화의 내용으로만 여겨졌던 인공지능의 위험성이 끊임없이 발전하는 과학기술로 인해 현실로 다가오고 있다.

이런 인공지능의 위험성을 인지해 유럽연합(EU)은 최근 위험 분야에 인공지능의 사용을 규제하는 내용의 ‘인공지능 법안’을 발표했다.

해당 법에 따르면 음성 지원 장난감을 통해 아이들이 위험한 행동을 하도록 부추기는 등 인공지능이 인간의 행동을 조종하는 행위를 금지하고 아동 및 장애인 등 취약계층을 착취하는 목적의 인공지능 사용과 중국식 사회 신용 시스템 방식의 인공지능 사용을 금지한다.

또 유괴, 테러 등 특정 범죄인 검거를 위해 필수적인 경우를 제외하고 사법당국의 안면인식 등 실시간 생체인식 기술의 일반적 사용도 금지된다. 다만, 공공장소의 원격 안면인식 등과 같은 고위험 분야의 경우 새롭게 도입될 관련 인증 시스템을 통해 일부 사용을 허용한다는 방침이다.

EU는 EU 회원국과 EU33 집행위 및 유럽개인정보감독기구가 참여한 ‘유럽인공지능이사회’를 설치해 AI 사용금지 분야 및 고위험 AI 적용분야 지정 및 해제 등을 집행위에 권고할 예정이다.

EU가 이번 법안을 제안한 이유는 사실상 AI에 대한 직접 규제를 단행한 세계 최초 사례가 되기 위해서다. 현재 세계적인 규범으로 인정받고 있는 유럽개인정보보호규정처럼 AI 글로벌 규범도 EU가 선도하기 위해서다.

그러나 EU의 이런 전략이 쉽지는 않아 보인다. AI 기술개발 시장은 현재 유럽이 아닌 미국과 중국이 장악하고 있기 때문이다.

AI 기술개발을 선도하며 치열한 경쟁 중인 미국과 중국이 현시점에서 원활한 개발을 저해하는 이번 법안에 호응을 할 여유도, 이유도 없는 상황이다. 따라서 사실상 미국과 중국이 이 법안을 따르지 않는다면 그야말로 ‘그들만의 리그’ 법안이 될 수 있다.

또 AI 사용이 금지될 분야와 범위를 정하는 과정에서도 이해관계자들과의 진통이 있을 것으로 예상된다. 인공지능 접목의 유무로 기술의 질 차이가 크게 날 것이기 때문에 이를 적용하지 못하게 되는 고위험 분야에서는 발전을 저해한다며 반발할 수 있다.

이번 제안은 유럽의회와 회원국의 승인을 거쳐 시행될 예정이다. 유럽이 주도하는 이번 법안이 과연 세계적으로 선도하는 법안으로 인공지능의 인류 위협을 막아낼 수 있을까.

이호 기자 dlghcap@nextdaily.co.kr