“손흥민이 투자권유?” 금융 딥페이크까지 난무

'딥페이크' 기술을 활용한 각종 범죄가 사회적 논란을 일으키는 가운데, 국회에서 토트넘 주장 손흥민(32)이 딥페이크 기술에 악용된 사례가 등장해 화제를 모았다.

28일 국회 과학기술정보방송통신위원회에서 딥페이크 활용 디지털 성범죄 위험성을 환기하기 위한 영상이 28일 공개됐다.

김장겸 국민의힘 의원은 이날 오전 국회 과방위 전체회의에 참석해 딥페이크 범죄의 심각성을 환기하기 위해 한 영상을 공개햇다. 영상 속에는 가짜 손흥민이 투자를 권유하는 모습이 담겼고 "저는 축구선수이자 경험 많은 투자자입니다"라며 영상은 시작된다.

그러면서 "인스타그램 팔로워 1400만 명 돌파를 기념해 4월에 급등한 우량주 3개를 무료로 공유해 드립니다"라고 말했다. 기존 손흥민의 목소리와 동일했고, 입 모양도 말하는 음성에 따라 움직이는 모습이었다. 이는 그동안 영국 매체와 인터뷰하는 화면에 인공지능(AI)으로 생성한 손흥민의 목소리를 합성한 것이다.

영상 속 손흥민은 "'어시스턴트' 카톡을 추가하고 아라비아 숫자를 보내는 선착순 200명에게 무료로 저의 독점 사인 사진과 스톡 나우 팬미팅 티켓을 받을 수 있습니다"라고 홍보했다.

김 의원은 김태규 방송통신위원회 직무대행(부위원장)에게 "이게 딥페이크를 통해 합성한 영상인데, 유튜브와 SNS에서 노출되고 있다"며 "불법 투자방으로 유도하기 위한 것으로 대책이 있나"라고 물었다.

김 직무대행은 "지금 딥페이크 영상물 피해자 신상정보도 긴급 심의에 포함하는 내용, AI 생성물 표시제 도입하는 부분, AI 서비스 이용자 보호 법규 마련하는 부분, AI 피해 신고 창구를 활용하는 방법을 고민하고 있다"고 답했다.

또 "텔레그램과 관련해서는 그룹채팅방이나 채널 서비스 등에서 공개되는 영역에 대해서는 불법 촬영물 등의 삭제나 유통 방지 의무를 부여하는 방법, 제재를 강하는 게 가능한지에 대해 법률적인 검토를 더 해 볼 예정"이라고 덧붙였다.