공포의 AI 균형…"냉전시대 핵전쟁 다루듯 협력 필요"

인공지능 위험에 대비하기 위해 냉전 시대의 핵전쟁을 막기 위해 노력했던 것처럼 인류가 노력해야 한다고 서방과 중국 과학자들이 경고했다.

19일(현지시각) 파이낸셜타임스(FT)는 서방과 중국의 주요 AI 과학자가 지난주 베이징에서 만나 AI 개발에 대한 '레드 라인'(넘지 말아야 할 선)을 확인했다고 보도했다.

과학자들은 성명으로 "우리 생애 내에 인류에게 치명적이거나 실존적인 위험을 막기 위해 AI 안전에 대한 공동의 접근 방식이 필요하다"며 "냉전이 한창이던 시절, 국제 과학계와 정부의 공조로 열핵 재앙을 피할 수 있었다. 인류는 전례 없는 기술로 인해 발생할 수 있는 재앙을 피하고자 다시 한번 협력해야 한다"고 밝혔다.

신경망 연구로 튜링상을 수상하고 AI의 '대부'로 불리는 제프리 힌튼과 요슈아 벤지오, 버클리 캘리포니아 대학교 컴퓨터공학과 교수인 스튜어트 러셀, 중국의 저명한 컴퓨터 과학자 앤드류 야오 등이 성명에 참여했다.

FT는 이 모임을 특히 세계 양대 기술 강국인 중국과 미국이 함께 모여 기술 기업과 정부가 AI 안전에 대해 협력해야 한다는 학계의 압력으로 풀이했다.

조 바이든 미국 대통령과 시진핑 중국 국가주석은 지난해 11월에 만나 AI 안전에 대해 논의하고 이 문제에 대한 대화를 시작하기로 합의했다. 또한 중국을 포함한 28개 국가와 주요 AI 기업들이 리시 수낙 영국 총리의 AI 안전 서밋에서 첨단 AI로 인한 실존적 위험에 대처하기 위해 협력하기로 폭넓은 약속을 했다.

지난주 베이징에서 전문가들은 '범용인공지능(AGI)', 즉 인간과 동등하거나 우월한 AI 시스템의 개발과 관련된 위협에 대해 논의했다.

벤지오 교수는 "논의의 핵심은 강력한 AI 시스템이 넘지 말아야 할 선"이라고 말했다.

넘지 말아야 할 선이란, 어떤 AI 시스템도 인간의 명시적인 승인과 도움 없이 스스로를 모방하거나 개선할 수 없어야 하며 자신의 힘과 영향력을 부당하게 증가시키려는 조처를 해서는 안 된다는 것을 뜻한다.

과학자들은 "어떤 AI 시스템도 대량파괴 무기를 설계하거나 생화학무기 협약을 위반하는 행위자의 능력을 실질적으로 증가시키거나 심각한 재정적 손실 또는 이에 상응하는 피해를 초래하는 사이버 공격을 자율적으로 실행할 수 있어서는 안 된다"고 덧붙였다.