◆…제프리 힌턴 교수 (캐나다대학 홈페이지 캡처)
컴퓨터과학의 노벨상으로 부르는 튜링상을 수상한 제프리 힌턴 캐나다 토론토대 명예교수가 인공지능(AI)의 인간사회 지배 가능성에 우려를 표했다.
4일(현지시각) 요미우리신문에 보도된 인터뷰에서, 힌턴 교수는 "인류가 자신들보다 지능이 높은 디지털 존재에 의해 인간사회를 빼앗길 것이라는 위협에 어떻게 대처해야 할지 모르겠다"며 밝혔다.
그는 "생성형 AI인 챗GPT가 이미 인간 뇌의 수천배 지식을 쌓을 수 있다"며 "이르면 2020년대에도 여러 점에서 인간의 능력을 능가할 수 있다"고 했다.
힌턴 교수는 생성형 AI가 일으킬 구체적인 위험으로는 권위주의적인 정부에 의한 여론 조작 등 가짜 뉴스를 이용한 선거 조작 가능성을 먼저 꼽았다.
힌턴 교수는 "미국에서는 주요 정당 중 하나가 선거전을 유리하게 치르려고 가짜 정보의 확산을 용인하고 있다"고도 말했다.
그러면서 위조지폐가 법에 의해 금지되는 것처럼 "가짜 동영상의 제작·소유를 위법으로 정하는 법률이 있으면 좋겠다"는 견해도 밝혔다.
그는 또 다른 위험으로는 AI가 탑재된 무기 시스템을 꼽으면서 AI가 공격 목표를 자동으로 설정하는 시스템이 실용화되면 전쟁을 제어할 수 없게 될 것이라고 경고했다.
힌턴 교수는 위험을 최소화하기 위해 정부 기관 등이 적절히 대응하면서 세계적인 개발 경쟁에도 제동을 걸 필요가 있다고 지적했다.
그는 "현재의 대책은 불충분하다"며 "인류는 방향 전환이 필요하다"고 강조했다.
아울러 "거대 기업과 국가들이 서로 개발 경쟁을 하고 있어 규제가 매우 어렵다"고 우려를 표했다.
힌튼 교수는 1986년 다층 퍼셉트론과 (오차)역전파 알고리즘을 증명해 인공신경망의 학습 효율성을 크게 향상시켰습니다. 또한 2006년 심층 신뢰 신경망을 발표하여 딥러닝을 인공신경망 방법론의 대세로 굳히는 데 기여했다. 그는 토론토대 교수 시절 창업한 AI업체 'DNN리서치'가 2013년 구글에 인수된 뒤 구글 소속으로 연구 활동을 계속하다가 지난 4월 AI의 위험성을 알리기 위해 사표를 낸 것으로 알려졌다.
4일(현지시각) 요미우리신문에 보도된 인터뷰에서, 힌턴 교수는 "인류가 자신들보다 지능이 높은 디지털 존재에 의해 인간사회를 빼앗길 것이라는 위협에 어떻게 대처해야 할지 모르겠다"며 밝혔다.
그는 "생성형 AI인 챗GPT가 이미 인간 뇌의 수천배 지식을 쌓을 수 있다"며 "이르면 2020년대에도 여러 점에서 인간의 능력을 능가할 수 있다"고 했다.
힌턴 교수는 생성형 AI가 일으킬 구체적인 위험으로는 권위주의적인 정부에 의한 여론 조작 등 가짜 뉴스를 이용한 선거 조작 가능성을 먼저 꼽았다.
힌턴 교수는 "미국에서는 주요 정당 중 하나가 선거전을 유리하게 치르려고 가짜 정보의 확산을 용인하고 있다"고도 말했다.
그러면서 위조지폐가 법에 의해 금지되는 것처럼 "가짜 동영상의 제작·소유를 위법으로 정하는 법률이 있으면 좋겠다"는 견해도 밝혔다.
그는 또 다른 위험으로는 AI가 탑재된 무기 시스템을 꼽으면서 AI가 공격 목표를 자동으로 설정하는 시스템이 실용화되면 전쟁을 제어할 수 없게 될 것이라고 경고했다.
힌턴 교수는 위험을 최소화하기 위해 정부 기관 등이 적절히 대응하면서 세계적인 개발 경쟁에도 제동을 걸 필요가 있다고 지적했다.
그는 "현재의 대책은 불충분하다"며 "인류는 방향 전환이 필요하다"고 강조했다.
아울러 "거대 기업과 국가들이 서로 개발 경쟁을 하고 있어 규제가 매우 어렵다"고 우려를 표했다.
힌튼 교수는 1986년 다층 퍼셉트론과 (오차)역전파 알고리즘을 증명해 인공신경망의 학습 효율성을 크게 향상시켰습니다. 또한 2006년 심층 신뢰 신경망을 발표하여 딥러닝을 인공신경망 방법론의 대세로 굳히는 데 기여했다. 그는 토론토대 교수 시절 창업한 AI업체 'DNN리서치'가 2013년 구글에 인수된 뒤 구글 소속으로 연구 활동을 계속하다가 지난 4월 AI의 위험성을 알리기 위해 사표를 낸 것으로 알려졌다.
