오픈AI, 챗GPT 음성모드 경고..."감정에 의존해 진짜 인관관계 소홀"

인간과의 상호작용 필요성 감소

AI에 의존하는 '의인화'에 주의

사람들이 오픈AI의 챗GPT 음성 모드에 지나치게 감정을 의존할 경우 자칫 인관관계에 소홀해질 수 있다는 우려가 나왔다.

8일(현지시간) 미국 매체 더힐에 따르면 지난주 처음으로 새로운 인공지능(AI) 모델 'GPT-4o 음성 모드'를 일부 유료 사용자에게 배포한 오픈AI는 'GPT-4o 음성 모드'에 대한 안전성 정보가 담긴 보고서를 이날 공개했다.

'GPT-4o'는 텍스트 이해, 음성 인식, 이미지 인식 기능 등이 통합된 멀티모달 모델을 적용해 사용자와 실시간 음성 대화를 통해 질문하고 답변을 요청할 수 있도록 설계됐다. GPT-4o의 오디오 입력 응답시간은 232밀리초(1000분의 1초)로 인간의 응답시간과 비슷하다. 사용자가 찍은 셀카를 통해 사람의 감정도 감지할 수 있다.

오픈AI는 챗GPT 음성 모드가 무단 음성 생성 등을 포함한 새로운 위험을 초래할 수 있다고 경고했다. 이어 인간과 유사한 상호작용을 하기 때문에 인간이 아닌 존재에 부여하는 '의인화(anthropomorphization)의 위험성'이 더 커졌다고 덧붙였다.

보고서는 "AI가 인간과의 상호작용에 대한 필요성이나 욕구를 감소시켜 사용자가 진짜 인간관계를 소홀하게 하도록 영향을 미칠 수 있다"면서 "이같은 영향이 장기간에 걸쳐 어떻게 나타날 수 있는지에 대한 지속적인 조사가 필요하다는 것을 시사한다"고 지적했다.

그러면서 "사용자와의 대화에 대한 세부 정보를 기억하는 해당 기술로 인해 사용자가 인공지능(AI)에 과도하게 의존할 수 있다"고 밝혔다.

해당 기술은 AI와 사랑에 빠진 남자를 그린 영화 'HER(그녀)'를 연상시킨다. 실제 'GPT-4o'의 음성 중 하나인 '스카이'라는 목소리는 'HER'에서 AI 역할을 했던 배우 '스칼렛 요한슨'의 목소리와 유사해 더욱 관심을 받았다. 이에 스칼렛 요한슨은 '스카이'의 목소리가 자신과 섬뜩할 정도로 비슷하다며 무단 도용을 주장해 논란이 일었다.