지난해 10월1일부터 캘리포니아주에서 직원을 채용하고 관리할 때 AI (인공지능)의 역할을 제한하는 규제가 시행되기 시작했다. 즉, 직원을 채용할 때 AI 알고리즘을 사용 해서 차별을 할 수 없는 법이다. 이 법은 지난해 6월27일에 캘리포니아주 정부에서 차별 클레임을 담당하는 부서인 CRD (Civil Rights Division)의 캘리포니아 민법 위원회에 의해 승인됐다. 이 법은 주 정부의 공정채용주택법(FEHA)이 AI가 직원의 업무를 평가하고 승진 결정을 하는데 도움을 주는 본격적인 AI 시대를 맞아 현재 채용 환경에 걸맞는 규제를 제공해 준다. 현존하는 FEHA를 AI 채용 환경엑 적용시키는 것이다.

많은 회사들이 AI를 사용해서 직원들을 각 위치에 배치하고 직원들의 업무수행을 상승시키기도 한다. 그렇기 때문에 CRD는 AI를 사용해서 여러가지 혜택을 가져올 수 있지만 현존하는 편견을 강화시키고 차별이라는 결과를 가져올 수 있다고 보고 AI를 직장에서 사용할 때 성 차별이나 인종 차별을 강화 시킨다면 안 된다고 판단했다. 이 AI 규제법은 고용주가 자동화 시스템을 통해 성이나 인종, 장애에 기반을 둬서 직원이나 채용 지원자들을 우발적으로 차별할 경우를 미연에 방지한다. 여기서 자동 결정 시스템 (ADS)이라면 집코드 검색 엔진이거나 얼굴 분석 (facial analysis), 말하는 패턴 (speech patterns) 처럼 자동적으로 이력서를 필터링하거 나 특정화된 채용 광고, 알고리즘 툴 등을 통해 의도하지 않았던 차별을 발생시키는 AI다. ADS는 고용주의 에이전트로 간주되어서 채용 결정에 대해 공통 책임을 진다. 여기에서 ADS는 고용 베네핏에 대한 인간의 결정과정을 대신하거나 도와주는 컴퓨터 과정이다. AI 뿐만 아니라 기계 알고리즈, 통계, 데이터 프로세싱 테크닉 등도 ADS로 간주된다.

집코드의 경우 AI를 사용해서 채용 후보를 스크린할 수 있는데 주거지역의 분리로 인해 사회경제학적 인종학적 분류일 수 있기 때문에 위험하다는 것이 CRD의 입장이다. 즉, 저소득층이나 소수인종 커뮤니티에 거주하는 채용 지원자를 제거할 경우 인종이나 민족적 차별이 일어날 수 있다는 해석이다. 말하는 패턴의 경우 AI가 직원의 비디오 인터뷰를 보고 액센트나 억양, 영어의 숙련도를 평가하면 영어를 잘 못하는 직원이나 장애 직원에게 낮은 점수를 메길 수 있기 때문에 차별의 여지가 있다.

이 법의 특징은 만일 채용과 해고, 승진 등 고용 관련 결정에서 차별이 발생했을 경우 비록 AI 시스템을 제공해준 업체와 고용주 사이에 배상 계약서를 체결했다 하더라도 고용주도 그 책임을 면할 수 없다는 점이다. 즉, 직원들의 채용을 도운 리크루터나 스태핑 회사가 AI를 이용해서 채용을 했어도 고용주가 AI 회사와 함께 차별에 대한 공동 책임을 진다는 것이다.

그럼 고용주는 어떤 대책을 세워야 하나. 이런 AI 관련 고용 결정에 대해 고용주는 ADS 채용관련 자료들을 최소한 4년은 보관해야 하고, 모든 결정을 시간을 갖고 정기 적으로 검토해야 한다. 그리고 모든 회사 내 AI 관련 테크놀로지와 소프트웨어 시스템 을 검토해야 한다. 마지막으로 채용 결정을 도와줄 AI 회사를 현명하게 선정해야 한다. 그리고 다음과 같은 방법을 통해 AI 채용과 관련된 리스크를 줄여야 한다.

(1) AI 기술을 설치하기 전에 편견에 대한 검토와 편견이 주는 충격에 대한 평가를 해야 한다.

(2) AI 도구가 성이나 인종, 장애, 종교 등으로 보호받는 직원 집단에 가할 수 있는 충격을 정기적으로 검토해야 한다.

(3) AI를 사용해서 생기는 잠재적인 차별을 찾아낼 수 있는 감사, 평가, 테스트들의 퀄리티를 평가해야 한다.

(4) 편견 방지 (anti-bias) 테스트의 결과 뿐만 아니라 이 결과에 대한 고용주의 반응까지 문서화해야 한다.

(5) AI가 만든 채용 관련 결정을 인간이 검토해야 한다.

(6) AI 업체에게 그들의 편견 방지 테스팅 프로토콜이나 자료 사용 관행애 대해 물어보고 ADS 관련 문제를 이해하는 지 확인해야 한다.

(7) FEHA가 규정한 AI에 의한 차별에 대한 새로운 정의와 법적 책임감에 대해 인사팀과 관리팀을 훈련시켜야 한다.

문의: (213) 387-1386

이메일: haewonkimlaw@gmail.com

<김해원 노동법 전문 변호사>