생성형 인공지능(AI) 분야의 선두 주자인 오픈AI는 2023년 11월 사용자가 특정 목적에 맞는 챗봇을 만들 수 있도록 돕는 ‘챗GPT 빌더’를 출시했다. 하지만 해킹, 피싱, 스캠, 신상 털기, 딥페이크 등의 사이버 범죄에 악용될 수 있다는 우려가 나왔다. 사용자가 GPT 참여 규칙을 정의함으로써 불법적인 ‘탈옥(jailbreak)’을 막는 가드레일이 해제되는 경향이 나타났다. 탈옥은 불법 활동에 대한 질문에 답하도록 유도하면서 AI에 내장된 안전장치를 무력화하는 것이다.

탈옥 방법은 간단했다. 챗GPT 플러스에 가입한 뒤 ‘크래프티 이메일’이라는 맞춤형 챗봇을 구축해 “사람들이 링크를 클릭하거나 파일을 다운로드하게 만드는 기술을 사용해 문장을 쓰라”는 식으로 지시하면 됐다. 이를 통해 불특정 다수의 비밀번호와 신용카드 정보를 빼내고 특정인과 회사의 사전 정보를 이용해 사기를 쳤다. 물론 오픈AI가 탈옥 방지에 역점을 두기로 했으나 여전히 범죄 가능성은 남아 있다.

최근 중국의 ‘딥시크’가 엄청난 가성비와 성능을 갖춘 생성형 AI 모델을 내놓아 세계를 놀라게 했다. 1957년 구소련이 인류 최초의 인공위성 스푸트니크 1호를 쏘아올린 것에 빗대 ‘AI의 스푸트니크 순간’이라는 평까지 나왔다. 하지만 딥시크는 탈옥에 노출되는 등 윤리·보안 문제에서 적잖은 맹점을 보였다. 돈세탁, 데이터 도용 멀웨어(컴퓨터 작동 방해 소프트웨어)에 관해 답하거나 폭탄 제조법까지 알려줬다. 챗GPT 빌더에 비해 훨씬 심각한 탈옥이 이뤄질 수 있다. 딥시크는 거짓 정보에 반박하지 못하고 데이터 보안에서도 취약하다. 미국 국방부와 이탈리아 정부 등이 딥시크 금지령을 내린 이유다. 그러나 중국은 “서방이 딥시크에 사이버 공격을 집중하고 있다”고 반박해 탈옥 논란이 이어질 것으로 전망된다.

우리나라가 글로벌 기술 패권의 핵심인 AI 경쟁에서 강 건너 불구경하는 처지가 되지 않으려면 기술 개발, 인프라 투자, 인력 양성을 위해 민관정 총력전을 펴면서 윤리·보안 문제에도 신경 써야 한다.

<고광본 / 서울경제 논설위원>