일본에서 도둑 잡는 인공지능(AI) 소프트웨어가 상용화됐다. 상점 안에 설치된 폐쇄회로(CCTV) 영상을 분석해 의심스러운 행동을 하는 ‘잠재적 도둑’을 잡아내는 것인데, 개인정보를 무단으로 수집하고 인종적 편견을 부추기는 등의 윤리적 문제를 일으킬 수 있다는 우려도 나온다.

CNN 비즈니스와 블룸버그통신의 최근 보도에 따르면 일본의 스타트업 바크(Vaak)가 개발한 AI ‘바크아이(VaakEye)’가 지난달부터 일본 전역의 편의점과 약국 등 50여곳에서 사용되고 있다. 바크아이가 수상한 고객의 정보를 상점 직원의 스마트폰에 알리면 직원이 자연스럽게 다가가 말을 걸거나 안내를 하며 도난을 방지하는 식이다.

바크아이는 사람의 몸짓을 실시간으로 읽어 범죄 행동을 예측한다는 점에서 사람의 얼굴을 등록된 전과자의 사진과 대조해 범죄자를 식별하는 기존 AI와는 다르다. 바크의 설립자 다나카 료는 “상점 이용객의 얼굴 표정과 몸짓, 심지어 옷차림까지 감지해 문제행동을 가려낼 수 있도록 10만시간 이상의 데이터를 바크아이의 알고리즘에 제공했다”고 말했다.

하지만 ‘도둑 잡는 AI’를 둘러싼 윤리적 논란도 적지 않다. 당장 AI가 제공하는 데이터를 토대로 절도범으로 의심되는 사람의 매장 입장을 막는 것이 합법적인지에 대한 의문이 있다. 바크 측은 이를 “점포의 몫”이라고 비켜갔다. 자신들은 정보를 전달할 뿐이고 절도 행위 여부에 대한 판단은 가게에서 할 일이라는 것이다. 이에 대해 AI의 안면인식 기술 사용 금지를 주장하는 영국의 인권단체 리버티 측은 “소매 점포들이 경찰과 유사한 기능을 수행하고 있다”고 우려했다.

바크아이와 같은 안면인식 AI가 차별을 부추길 수 있다는 비판도 나온다. MIT와 스탠포드대는 지난해에 상업적 용도의 안면인식 프로그램이 피부색과 성별에 대한 편견을 갖고 있다는 연구 결과를 발표한 바 있다.

개인정보 무단 수집에 대한 논란도 있다. 이용객의 동의를 구하지 않은 상황에서 바크아이가 개인정보를 수집해 범죄자 식별에 활용하는 게 타당하냐는 의문이다. 바크 측은 “상점들이 정보를 어떤 방식으로 수집해 분석하고 이용하는지 전 과정이 투명하게 공개되어야 한다”고 공감을 표했다.

<홍윤지 인턴 기자>