1984년 나온 ‘터미네이터’는 제임스 캐머론 감독과 아놀드 슈워제네거를 스타의 반열에 올려 놓은 작품이다. 1984년 LA를 무대로 하고 있는 이 영화는 2029년 인간과 전쟁을 벌이고 있는 인공 지능(AI) 스카이넷이 훗날 최대 적이 될 인간 지도자의 어머니를 죽이기 위해 터미네이터란 사이보그를 타임 머신에 태워 보내는 것으로 시작한다.

이 영화가 대 히트를 치면서 2편, 3편이 줄지어 나왔고 2편에서는 스카이넷 발명에 결정적인 역할을 한 과학자를 살해함으로써 AI가 도발한 세계 핵 전쟁 ‘심판의 날’을 막으려는 시도가 펼쳐지며 3편에서는 스카이넷이 미국의 핵 통제 장치를 장악하고 인간의 적으로 변해 러시아를 향해 핵 미사일을 발사, 이로써 세계가 핵 전쟁의 늪으로 빠져들게 된다.

영화 속에서나 일어날 줄 알았던 사태가 현실 속에서도 가능함을 보여주는 사건이 발생했다. AI 개발회사인 앤스로픽은 최근 만들어진 AI 시스템이 이를 개발한 엔지니어가 폐기하려 하자 협박과 같이 “지극히 적대적인 행동”을 취했다고 밝혔다. 이 회사는 지난 주 ‘클로드 오퍼스 4’라는 새 AI 체제를 공개하면서 관련 보고서에서 이 시스템은 자신의 생존이 위협받는다고 판단하면 지극히 극단적인 행동을 취할 수 있다고 경고했다.

영화에서는 어느 날 자기 학습능력을 갖춘 AI가 자의식을 갖게 되고 자신의 이익이 인간의 이익과 반드시 일치하지 않는다는 사실을 알게 되며 그 결과 인간을 제거하기로 판단하고 ‘심판의 날’을 실행에 옮긴 것으로 돼 있는데 이 새 AI 체제는 스카이넷과 비슷한 길을 가고 있는 것으로 보인다.

앤스로픽이 개발한 클로드 체제는 바로 지난 1월 미군이 니콜라스 마두로 베네수엘라 대통령을 체포했을 때 사용한 것이다. 앤스로픽은 이것을 폭력을 조장하거나 무기 개발, 감시용으로 사용할 수 없도록 하고 있으나 국방부는 앤스로픽과 파트너십을 맺고 있는 데이타 회사인 팰런티어 테크놀로지를 사용해 이를 우회한 것으로 보인다.

국방부 측은 앤스로픽사와의 관계를 재검토하고 있다며 “우리 파트너 회사들은 우리 전사가 어떤 싸움에서도 이길 수 있도록 도와야 한다”고 밝혔다. 앤스로픽사가 클로드 사용에 관해 우려를 표시하자 국방부는 2억 달러에 달하는 이 회사와의 계약을 취소하는 것을 검토중이라고 월스트릿 저널은 밝혔다. 지금은 자료 분석과 최선의 시나리오를 찾는데 AI를 사용하고 있지만 장차 AI가 장착된 로봇 전사가 나와 납치와 암살 임무를 수행하는 것도 불가능하지 않은 상황이다.

세계 각국이 AI가 앞으로 대세라 보고 그 개발에 총력을 기울이고 있는 것과 함께 이에 대한 우려의 목소리도 나오고 있다. 이를 가장 강력하게 제기하고 있는 사람의 하나가 바로 앤스로픽의 최고 책임자 다리오 아모데이다. 그는 최근 이에 관한 장문의 에세이에서 AI에 대한 보다 큰 규제와 그것이 끼칠 해악에 대한 더 많은 안전 장치가 필요하다고 주장했다. 이는 AI에 대한 규제 완화와 살상 및 감시 목적 사용을 원하는 도널드 행정부 방침과 반대되는 것이다.

지금 AI의 발전 속도는 상상을 초월할만큼 빠르다. 불과 3년전 AI는 코드 하나 제대로 쓸 줄 몰랐지만 이제는 웬만한 코드는 다 쓴다. 대체할 수 있는 업무도 단순 사무직에서 법조, 의료, 회계 등 전문직종은 물론 과거 인간 고유의 영역으로 여겨지던 창조적 작업에까지 이르고 있다.

이 때문에 지금까지 독보적인 자리를 지켜왔던 할리웃의 영화 산업도 지금 최대 위기에 직면해 있다. 영상, 음성, 제작 과정부터 시나리오 작성, 특수 효과에 이르기까지 거의 모든 인력을 대체할 수 있을뿐 아니라 과거 고가의 장비가 필요했던 일도 간단히 처리할 수 있어 영화 산업 진입 장벽까지 대폭 낮추고 있다. 한국 가요를 샹송으로 편곡해 AI가 부르는 노래를 들어보면 어떤 창작 분야도 안전할 수 없음을 실감하게 된다.

AI 개발자이며 투자가인 맷 슈머는 최근 AI가 자신의 일자리마저 빼앗을 수 있다고 실토한 바 있다. 이제 AI는 자기 학습을 넘어 자기 창조의 단계로 들어갔으며 6개월이면 까마득한 옛날로 느껴질 정도의 속도로 진화하고 있다.

AI의 위험에 대한 인식이 고조되면서 ‘악당 AI’, ‘에이젠틱’(agentic)이란 단어가 등장하기 시작했다. ‘에이젠틱’이란 AI가 인간의 지시를 받지 않고 독자적으로 판단하고 행동하는 것이다. 지금 그 위험에 대한 연구와 대책 마련 없이 AI가 인간의 통제를 벗어나는 날 ‘터미네이터’는 공상 과학 영화가 아니라 현실로 바뀌게 되는 날이 올 수도 있다.

<민경훈 논설위원>