◆…챗GPT 로고. 로이터 제공
유럽연합(EU)이 인공지능(AI)을 규제하기 위한 세계 첫 법률 제정에 한 걸음 더 다가갔다.
14일(현지시각) CNBC에 따르면 유럽의회는 본회의에서 유럽연합 전역에서 AI를 규제하기 위한 법안 협상안이 찬성 499표, 반대 28표, 기권 93표로 채택됐다고 밝혔다.
유럽의회 의원들은 챗GPT와 같은 생성형 AI 도구에 더 엄격한 규제를 적용하는 데 동의했다. 생성형 AI 개발사는 시스템을 상업적으로 출시하기 전에 검토받아야 한다.
유럽의회는 이날 오후부터 집행위원회와 27개국을 대표하는 이사회와 함께 3자 협상에 돌입했다. 3자 협상은 유럽연합 입법 절차에 따라 새 법안 시행을 확정하기 전 거치는 최종 절차.
유럽연합은 올해 안에 3자 협상 타결을 목표로 하고 있는데, 유예기간 등을 고려하면 실제 규제 적용 시점은 2026년 정도가 될 전망이다.
협상안에는 사법기관이 범죄 예방을 명분으로 AI를 사용해 모든 공공장소에서 생체 인식 감시를 금지하는 내용도 담겼다.
이에 따라 ▲공공장소에서의 실시간 원격 생체 인식 ▲성별, 인종, 민족, 시민권 상태, 종교, 정치 성향 등 민감 정보를 사용한 생체 인식 ▲프로파일링이나 위치, 과거 범죄 행동에 기반을 둔 경찰의 예방 치안 활동 ▲법 집행, 국경 통제, 직장 및 교육기관에서의 감정 인식 ▲안면 인식 데이터베이스 구축을 위한 인터넷 및 폐쇄회로텔레비전(CCTV) 영상 얼굴 이미지 수집 등을 위한 AI 사용이 금지된다.
워크데이의 공공정책 담당자 옌스-헨릭 예페선은 "AI 기술의 개발과 사용에 대한 안전장치를 구축해 사회가 이런 기술을 통해 혜택을 누릴 수 있도록 하는 혁신 환경을 보장하는 것"이라고 말했다.
다만 AI를 활용한 안면인식을 전면 금지하는 안을 두고는 유럽 의회와 집행위, 이사회 등이 이견을 보여 최종 시행까지는 난항이 예상된다.
유럽의회는 이 규제안이 "인간 중심적이고 신뢰할 수 있는 AI 활용을 촉진하고 건강, 안전, 기본권, 민주주의 보호를 목표로 한다"라고 밝혔다.
같은 날 미국 의회에서도 생성형 AI가 만든 콘텐츠에 대해 사업자가 법적 책임을 지도록 하는 법안이 상원에서 발의됐다.
미국 상원 법사위 소속인 리처드 블루먼솔 민주당 의원과 조시 홀리 공화당 의원은 이런 내용을 골자로 한 법안을 발의했다고 밝혔다.
홀리 의원은 "AI가 해를 끼칠 때 소비자들의 손에 소송을 할 수 있도록 하는 초당적인 첫 AI 법안"이라고 설명했다.
'AI 면책조항 금지법'이라 부르는 이 법안은 통신품위법 230조항이 생성형 AI에는 적용되지 않는다는 것을 분명히 하는 내용을 담고 있다.
통신품위법 230조항은 인터넷 사용자가 올린 콘텐츠에 대해 인터넷 사업자의 면책권을 규정한 것.
앞서 이슬람국가(IS) 테러 희생자 가족들은 인터넷 플랫폼에서 IS 콘텐츠가 배포되도록 도왔다면서 이들 업체를 상대로 소송을 제기했으나 미국 연방대법원은 소셜네트워크 게시물에 대해 업체의 책임을 묻기 어렵다는 판결했다.
이 법안이 통과하면 AI 플랫폼 기업들은 콘텐츠 확산에 법적 책임을 지게 된다.
블루먼솔 의원은 "AI 플랫폼에 대한 책임성은 위험을 줄이고 대중을 보호하기 위한 규제 틀의 핵심 원칙"이라면서 "이는 AI에 대한 규정을 만드는 노력의 첫걸음"이라고 강조했다.
14일(현지시각) CNBC에 따르면 유럽의회는 본회의에서 유럽연합 전역에서 AI를 규제하기 위한 법안 협상안이 찬성 499표, 반대 28표, 기권 93표로 채택됐다고 밝혔다.
유럽의회 의원들은 챗GPT와 같은 생성형 AI 도구에 더 엄격한 규제를 적용하는 데 동의했다. 생성형 AI 개발사는 시스템을 상업적으로 출시하기 전에 검토받아야 한다.
유럽의회는 이날 오후부터 집행위원회와 27개국을 대표하는 이사회와 함께 3자 협상에 돌입했다. 3자 협상은 유럽연합 입법 절차에 따라 새 법안 시행을 확정하기 전 거치는 최종 절차.
유럽연합은 올해 안에 3자 협상 타결을 목표로 하고 있는데, 유예기간 등을 고려하면 실제 규제 적용 시점은 2026년 정도가 될 전망이다.
협상안에는 사법기관이 범죄 예방을 명분으로 AI를 사용해 모든 공공장소에서 생체 인식 감시를 금지하는 내용도 담겼다.
이에 따라 ▲공공장소에서의 실시간 원격 생체 인식 ▲성별, 인종, 민족, 시민권 상태, 종교, 정치 성향 등 민감 정보를 사용한 생체 인식 ▲프로파일링이나 위치, 과거 범죄 행동에 기반을 둔 경찰의 예방 치안 활동 ▲법 집행, 국경 통제, 직장 및 교육기관에서의 감정 인식 ▲안면 인식 데이터베이스 구축을 위한 인터넷 및 폐쇄회로텔레비전(CCTV) 영상 얼굴 이미지 수집 등을 위한 AI 사용이 금지된다.
워크데이의 공공정책 담당자 옌스-헨릭 예페선은 "AI 기술의 개발과 사용에 대한 안전장치를 구축해 사회가 이런 기술을 통해 혜택을 누릴 수 있도록 하는 혁신 환경을 보장하는 것"이라고 말했다.
다만 AI를 활용한 안면인식을 전면 금지하는 안을 두고는 유럽 의회와 집행위, 이사회 등이 이견을 보여 최종 시행까지는 난항이 예상된다.
유럽의회는 이 규제안이 "인간 중심적이고 신뢰할 수 있는 AI 활용을 촉진하고 건강, 안전, 기본권, 민주주의 보호를 목표로 한다"라고 밝혔다.
같은 날 미국 의회에서도 생성형 AI가 만든 콘텐츠에 대해 사업자가 법적 책임을 지도록 하는 법안이 상원에서 발의됐다.
미국 상원 법사위 소속인 리처드 블루먼솔 민주당 의원과 조시 홀리 공화당 의원은 이런 내용을 골자로 한 법안을 발의했다고 밝혔다.
홀리 의원은 "AI가 해를 끼칠 때 소비자들의 손에 소송을 할 수 있도록 하는 초당적인 첫 AI 법안"이라고 설명했다.
'AI 면책조항 금지법'이라 부르는 이 법안은 통신품위법 230조항이 생성형 AI에는 적용되지 않는다는 것을 분명히 하는 내용을 담고 있다.
통신품위법 230조항은 인터넷 사용자가 올린 콘텐츠에 대해 인터넷 사업자의 면책권을 규정한 것.
앞서 이슬람국가(IS) 테러 희생자 가족들은 인터넷 플랫폼에서 IS 콘텐츠가 배포되도록 도왔다면서 이들 업체를 상대로 소송을 제기했으나 미국 연방대법원은 소셜네트워크 게시물에 대해 업체의 책임을 묻기 어렵다는 판결했다.
이 법안이 통과하면 AI 플랫폼 기업들은 콘텐츠 확산에 법적 책임을 지게 된다.
블루먼솔 의원은 "AI 플랫폼에 대한 책임성은 위험을 줄이고 대중을 보호하기 위한 규제 틀의 핵심 원칙"이라면서 "이는 AI에 대한 규정을 만드는 노력의 첫걸음"이라고 강조했다.
