알렉사에 공감이라는 인간적 속성 부여
고인 음성 데이터에 대한 소유권 제기
◆…아마존의 인공지능(AI) 음성인식 서비스 알렉사 사진:로이터통신
아마존이 인공지능(AI) 음성인식 서비스 알렉사를 통해 사망한 가족의 목소리를 재현하는 기능을 공개했다.
아마존은 22일 미국 라스베이거스에서 열린 ‘리마스’ 콘퍼런스에서 알렉사 신기능을 발표했다고 23일(현지시간) 워싱턴포스트(WP)가 보도했다. 알렉사의 새로운 기능은 짧은 음성 샘플만 있어도 특정인 목소리를 그대로 복제해 구현하는 기술이다.
아마존과 인공지능 기술을 제휴한 마이크로소프트(MS)는 지난 2020년에 '디지털 유산'을 활용해 고인을 디지털로 재현하는 AI챗봇을 미국 특허청에 특허를 신청했다.
이날 행사에서 공개된 시연 동영상에서는 한 어린이가 알렉사에게 할머니 목소리로 오즈의 마법사 책을 읽어달라고 요청하자 알렉사는 할머니 음성으로 전환해 책을 읽는다.
로히트 프라사드 수석부사장은 "알렉사에 공감이라는 인간적 속성을 더 부여했다"고 설명했다.
그는 “AI가 코로나19로 사랑하는 가족을 잃은 고통을 없애주지는 못하지만, 가족과의 추억을 오래 간직할 수 있다”고 설명했다. 그러면서 더 짧은 분량의 음성 데이터를 기반으로 고품질의 목소리를 재현해내는 방안을 개발할 것이라고 소개했다.
이에 대해 WP는 알렉사의 신기능이 윤리적인 문제와 더불어 사망자의 개인정보 침해를 둘러싼 논란으로 이어질 수 있다고 지적했다.
앞서 지난 2019년 영국에서 AI 딥페이크 기능을 이용해 최고 경영자로 목소리를 변조한 해커들이 금융 사기를 벌인 보이스피싱 사건을 해외 언론들이 보도한 바 있다.
온라인 보안업체 소셜프루프시큐리티의 레이철 토백 CEO는 알렉사의 신기능이 사이버 범죄에 악용될 수 있다고 지적했다. 그는 “사이버 범죄자가 복제된 음성 샘플로 사기와 데이터 탈취, 계정 도용 등 범죄에 이용될 수 있다”고 경고했다.
고인의 음성 데이터에 대한 소유권 분쟁도 초래할 수 있다.
호주 커틴대학의 타마 리버 인터넷학 교수는 “만약 아마존이 죽은 할아버지의 음성데이터를 유족에게 보내면 데이터는 누구 소유인가. 유족은 이에 대한 권한을 포기해야 하느냐”고 반문했다.
그는 숨진 사람의 목소리를 흉내 내는 기술이 사람과 기계 사이의 경계를 모호하게 만드는 위험이 있다며 “죽은 사람의 데이터를 사용하는 것은 섬뜩하고 비윤리적”이라고 비판했다.
