◆…오픈AI의 인공지능 챗봇 '챗GPT'[AFP 연합뉴스 자료사진. 재판매 및 DB 금지]
오픈AI가 이사회가 경영진의 신모델 출시 결정을 보류할 수 있도록 하는 등 인공지능(AI) 위험관리를 위한 지침을 마련했다고 로이터가 18일(현지시각) 보도했다.
지침에 따르면, 오픈AI는 사이버 보안 및 핵 위협과 같은 특정 영역에서 안전하다고 판단되는 경우에만 최신 기술을 배포한다. 또한 안전 보고서를 검토해 회사 경영진과 이사회에 보낼 자문 그룹을 구성한다. 경영진이 신모델 출시 결정을 내리더라도 이사회가 그 결정을 번복할 수 있다.
1년 전 챗GPT가 출시된 이후 AI의 잠재적 위험성은 AI 연구자들과 일반 대중 모두에게 가장 큰 관심사였다.
생성형 AI 기술은 시와 소설을 작성할 수 있는 놀라운 능력을 보였지만, 잘못된 정보를 퍼뜨릴 수 있어 그 안전성에 대한 우려가 일어났다.
지난 4월, AI 업계 리더와 전문가 그룹은 사회에 대한 잠재적 위험을 이유로 오픈AI의 GPT-4보다 더 강력한 시스템 개발을 6개월간 중단할 것을 촉구하기도 했다.
지난 5월 로이터/입소스 여론조사에 따르면 미국인의 3분의 2 이상이 AI의 부정적 영향에 대해 우려하고 있으며, 61%는 AI가 문명을 위협할 수 있다고 생각하는 것으로 나타났다.
지침에 따르면, 오픈AI는 사이버 보안 및 핵 위협과 같은 특정 영역에서 안전하다고 판단되는 경우에만 최신 기술을 배포한다. 또한 안전 보고서를 검토해 회사 경영진과 이사회에 보낼 자문 그룹을 구성한다. 경영진이 신모델 출시 결정을 내리더라도 이사회가 그 결정을 번복할 수 있다.
1년 전 챗GPT가 출시된 이후 AI의 잠재적 위험성은 AI 연구자들과 일반 대중 모두에게 가장 큰 관심사였다.
생성형 AI 기술은 시와 소설을 작성할 수 있는 놀라운 능력을 보였지만, 잘못된 정보를 퍼뜨릴 수 있어 그 안전성에 대한 우려가 일어났다.
지난 4월, AI 업계 리더와 전문가 그룹은 사회에 대한 잠재적 위험을 이유로 오픈AI의 GPT-4보다 더 강력한 시스템 개발을 6개월간 중단할 것을 촉구하기도 했다.
지난 5월 로이터/입소스 여론조사에 따르면 미국인의 3분의 2 이상이 AI의 부정적 영향에 대해 우려하고 있으며, 61%는 AI가 문명을 위협할 수 있다고 생각하는 것으로 나타났다.
