오픈AI "챗GPT로 미 선거 허위 콘텐츠 유포한 이란 계정 차단"

AI 모델 이용해 긴 기사와 SNS에 짧은 댓글 작성

다양한 이슈로 미국 유권자와 적극적 소통 시도

이란이 챗GPT를 사용해 미국 선거와 관련한 허위 정보를 유포하자 오픈AI가 계정을 차단한 것으로 전해졌다.

16일(현지시간) 로이터 통신에 따르면 오픈AI는 미국 대통령 선거를 노린 콘텐츠 생성에 챗GPT를 사용한 이란의 한 단체 계정을 차단했다고 밝혔다.

'Storm-2035'으로 확인된 이 단체는 미국 대선 후보에 대한 논평, 가자지구 분쟁, 이스라엘의 올림픽 참가 등 다양한 이슈에 대한 콘텐츠를 생성하기 위해 챗GPT를 사용한 후 소셜 미디어와 웹사이트를 통해 공유한 것으로 확인됐다.

조사 결과, AI 모델을 사용해 긴 기사와 소셜 미디어에 짧은 댓글을 작성한 것으로 밝혀졌다. 다만 이러한 노력에도 불구하고 네티즌들의 관심을 끌어들이는 데는 성공하지 못한 것으로 전해졌다.

오픈AI는 "'Storm-2035'가 올린 게시물에 '좋아요'나 댓글 등 피드백이 거의 없었으며 기사 또한 소셜미디어에서 공유되지 않았다"고 밝혔다.

이번 조치는 지난 8월 초에 공개된 마이크로소프트 위협 인텔리전스 보고서에서 언론 매체를 가장한 'Storm-2035'가 성소수자 인권과 이스라엘-하마스 분쟁과 같은 이슈를 통해 미국 유권자와 적극적으로 소통하고 있는 것으로 확인된 가운데 나온 것이다.

앞서 오픈AI는 지난 5월에도 자사 모델을 이용해 인터넷에서 기만적인 활동을 하려던 5건의 은밀한 시도를 중단시킨 바 있다.