◆…사진:로이터
아마존이 인력효율성과 공정한 인사채용을 목표로 도입한 인공지능(AI) 채용 시스템이 여성을 차별하는 것으로 드러나 도입이 취소됐다는 소식이다.
로이터 통신은 아마존의 기계학습(머신 러닝) 담당 전문가 5명의 말을 인용해 시스템 채용을 통해 최고의 인재를 가려내기 위한 새로운 채용 엔진에서 여성을 차별하는 심각한 문제점을 발견했다고 10일 보도했다.
이 팀은 지난 2014년부터 컴퓨터 인공지능 프로그램을 통해 입사 지원자의 이력서를 검토하고 최고의 인재를 가려내 채용하기 위한 시스템을 개발하고 있으며 실험 적용한 결과 이러한 문제점이 드러났다는 것이다.
연구자들은 구매자들이 아마존에서 구매한 상품에 대해 평가하는 방식과 유사하게 실제 채용이 완료된 직원들의 이력서 100개를 인공지능에게 별 1~5까지 부여토록 하고 상위 5명의 점수와 채용결과가 일치하는지를 살폈다.
그러나 2015년까지 새로운 시스템이 소프트웨어 개발자 직무 및 기타 기술직 지원자들을 성 중립적으로 평가하지 않는다는 사실을 확인했다. 이는 아마존의 모델이 10년 동안 회사에 제출된 이력서만을 학습해 지원자를 평가토록 훈련되었기 때문이다.
대부분 남성 지원자 위주로 높은 평가가 주어졌는바 이는 기술 산업 전반의 남성우위를 반영하는 것으로 아마존의 시스템은 스스로 남성 지원자가 더 바람직하다고 학습했던데 따른 결과라고 밝혔다.
특히 '여성 체스 모임 회장'에 포함된 '여성'이라는 단어의 이력서에 대해 벌점(감점)을 줬으며 심한 경우 이름은 밝히지 않았지만 여자 대학 졸업생 2명 모두의 점수를 깎는 경우도 있었다고 전했다.
익명을 요구한 회사관계자는 아마존이 이러한 차별을 조장하는 특정 용어에 대해 중립적인 평가를 하도록 고쳤지만 또 다시 기계가 차별을 하지 않으리라는 보장을 할 수 없어서 지난해 초에 팀을 해체했다고 귀띔했다.
로이터는 아마존 채용 담당자들이 채용을 전적으로 기계에만 의존하지는 않는다고 하지만 기계학습(러닝머신)의 명백한 한계를 보여준다며 이번 실험 결과는 채용 과정의 일부분을 자동화하려는 수많은 대기업들에 대한 교훈이 될 것이라고 강조했다.
