사람 음성 샘플과 거의 구분 힘들 정도로 비슷
오용 가능성 있어 출시 여부는 신중하게 접근
◆…오픈AI 로고 사진=로이터통신
오픈AI가 인간의 음성 복제가 가능한 인공지능(AI) 모델 '보이스 엔진'을 공개했다. 다만 위험성을 고려해 일부 제한된 테스터들만 접근할 수 있다.
오픈AI는 29일(현지시간) 공식 블로그를 통해 '보이스 엔진'의 사전 테스트 결과를 발표했다.
해당 모델은 지난 2년 동안 개발됐다.
AI 음성 플랫폼인 일레븐랩스의 경우 1분 녹음을 기반으로 기본 음성 복제를 생성할 수 있는 반면'보이스 엔진'은 15초 분량의 음성 샘플만 있으면 원본 음성과 비슷한 억양, 음성 패턴을 복제해 낼 수 있어 주목을 받고 있다.
오픈AI가 공개한 보이스 엔진으로 생성한 음성은 실제 사람의 음성 샘플과 거의 구분이 어려울 정도로 비슷했다. 또한 언어별 번역본 생성 음성도 모국어 음성과 흡사하게 들렸다.
오픈AI는 이 도구를 다양한 분야에서 활용할 수 있다고 설명했다. 치료 애플리케이션이나 장애인을 위한 소통 기기, 동영상과 팟캐스트 같은 콘텐츠를 여러 언어로 번역해 전 세계적으로 서비스하는 사례 등이 해당된다.
◆…'보이스 엔진' 번역 활용 사례. 사진=오픈AI(OpenAI) 공식 블로그 캡처
다만 출시 여부는 신중하게 접근하겠다는 방침이다. 오픈AI는 "인조 음성 기능의 오용 가능성이 있기 때문에 출시에 대해서는 신중한 접근 방식을 취할 것"이라며 "다양한 의견 청취 및 소규모 테스트 결과를 바탕으로 출시 여부를 결정할 예정"이라고 밝혔다.
이어 음성 생성 기술이 더 발달할 것을 대비해 은행 계좌나 그 밖의 민감한 정보에 접근 권한을 주는 보안 조치에 음성 기반 인증 방식을 폐지할 것을 권고했다.
앞서 지난 1월 미국에서는 뉴햄프셔주 프라이머리(예비경선)를 하루 앞두고 일레븐랩스의 음성 복제 기술을 악용해 조 바이든 대통령을 사칭한 사건이 벌어지면서 연방 정부가 수사에 착수한 바 있다.
