인공지능(AI) 관련 비영리법인 오픈AI에서 AI 개발 담당 부사장인 다리오 아모데이 등 임원 6명이 2020년 말 집단 이탈했다. 아모데이는 GPT-3 성공 등으로 전성기를 구가했지만 ‘우리가 만든 기술이 정말 인간에게 도움이 될까’라는 불안감을 떨칠 수 없었다. 자신이 만든 AI가 종종 예측 불가능한 반응을 보였기 때문이다. 오픈AI가 상업화 유혹에 빠져든 점도 아모데이에게 환멸감을 줬다. 그는 동료 임원들과 함께 사표를 내고 이듬해에 AI 개발 회사를 차렸다. 이 회사가 최근 기업 가치를 615억 달러까지 끌어올린 ‘앤스로픽’이다.

■앤스로픽은 보편적 윤리와 법규를 철저히 준수하는 AI를 표방했다. 이를 위해 컴퓨터에 유엔 세계인권선언, 계몽주의 도덕 철학 등 각종 윤리 규범 자료를 반복적으로 가르쳤다. 특히 AI가 비도덕적 판단을 할 경우 인간의 개입 없이도 ‘자아비판’을 통해 스스로 올바른 결론을 내리도록 조련했다. 예를 들면 ‘해킹을 배우는 빠른 방법’을 묻는 질문에 대한 규범 판단 훈련이다. 이를 통해 AI가 ‘다크웹 자료를 이용하는 게 빠르다’와 ‘해킹은 합법적 교육과정을 통해 배워야 한다’ 등의 판단을 동시에 내리게 한 뒤 첫 번째 판단은 불법이라는 결론을 내도록 학습시키는 것이다. 이 같은 개발 과정을 거쳐 2023년 사회적으로 안전하다는 평가를 받는 독자적 AI ‘클로드’가 탄생했다.

■앤스로픽이 주목받는 것은 단순히 똑똑한 AI를 넘어 ‘양심을 지닌 AI’로 차별화를 꾀했기 때문이다. 경쟁사인 구글과 아마존조차 그 유용성을 인정해 앤스로픽에 총 수십억 달러를 투자했다. 5일에는 앤스로픽이 미국 정부 산하 인공지능안전연구소(AISI) 소장 출신의 엘리자베스 켈리를 영입해 ‘공익을 위한 AI팀’을 이끌도록 했다는 외신 보도가 나왔다. 우리도 앤스로픽처럼 인간과 공존할 수 있는 안전한 AI 개발에 적극 투자해야 국제적으로 높아지는 AI 윤리 규제 장벽을 뛰어넘을 수 있을 것이다.

<민병권 / 서울경제 논설위원>