◆…(사진 로이터)
구글 모기업 알파벳이 자사 바드를 포함한 대화형 인공지능(AI) 사용 방법에 대해 경고하고 있다고 로이터가 관계자를 인용해 15일(현지시각) 보도했다.
관계자들은 알파벳이 자사 및 자회사 직원에 기밀 자료를 대화형 AI에 입력하지 말 것을 조언했으며 구글은 정보 정보 정책을 인용해 이를 확인해 줬다고 전했다.
바드와 챗GPT를 비롯한 대화형 AI(챗봇)는 사용자와 대화를 나누고 질문에 응답한다. 연구자들은 이 과정에서 AI가 인간과 대화 내용을 흡수해 재생산할 수 있다는 사실을 발견했다.
일부 관계자들은 알파벳이 자사 개발자들에게 챗봇이 생성할 수 있는 컴퓨터 코드를 직접 사용하지 않도록 경고했다고 말했다.
로이터가 구글에 이에 대한 논평을 요청하자, 구글은 바드가 원치 않는 코드를 제안할 수 있지만 개발에 도움이 된다고 밝혔다. 이어 기술 한계에 대해 투명하게 공개하는 것이 목표라고 덧붙였다.
이러한 우려는 구글이 챗GPT와 경쟁하기 위해 출시한 바드의 피해를 피하고자 하는 의지를 보여준다고 로이터가 설명했다. 구글은 이에 수십억 달러를 투자하고 있으며 알려지지 않은 방식의 광고와 클라우드 사업 수익이 걸려있다.
구글의 이번 경고는 공개적으로 사용할 수 있는 채팅 프로그램 사용에 대해 직원들에게 경고하는 것이 기업 보안 표준으로 자리 잡고 있는 상황이라는 것을 보여준다.
삼성과 애플, 아마존, 도이치뱅크 등 전 세계적으로 AI 챗봇에 가드레일을 설치하는 기업이 늘고 있다.
네트워킹 사이트인 피시볼이 미국 대기업을 포함한 응답자 약 1만2000명을 대상으로 실시한 설문조사에 따르면, 지난 1월 기준 현재 전문가 약 43%가 상사에게 알리지 않고 챗GPT 또는 기타 AI 도구를 사용하고 있는 것으로 나타났다.
지난 2월, 구글은 출시 전 바드를 테스트하는 직원들에게 내부 정보를 제공하지 말라고 지시했다고 인사이더는 보도한 바 있다. 현재 구글은 창의성을 위한 발판으로 바드를 180개 이상의 국가와 40개 언어로 출시하고 있으며, 코드 제안에도 이러한 경고가 적용되고 있다.
구글은 로이터에 챗봇이 개인 정보 보호에 미치는 영향에 대한 추가 정보가 나올 때까지 이번 주에 바드의 유럽연합 출시를 연기한다는 정치 전문 매체 폴리티코의 보도 이후, 유럽의 아일랜드 데이터 보호 위원회와 대화를 나눴으며 규제 당국의 질문에 답하고 있다고 밝혔다.
구글이 아일랜드 위원회와 대화했던 이유는 아일랜드가 구글의 개인정보 보호 방안이 미흡하다며 시정을 요구했기 때문이다.
챗봇 기술은 이메일, 문서, 코드 초안을 작성할 수 있어 작업 속도를 크게 높일 수 있다. 하지만 다만 콘텐츠에 잘못되거나 저작권이 걸린 정보가 포함될 수 있다.
지난 6월 1일에 업데이트된 구글 개인정보 보호정책에도 "바드 대화에 기밀 또는 민감한 정보를 포함하지 마십시오"라고 명시돼 있다.
일부 회사는 이러한 우려를 해결하기 위해 소프트웨어를 개발했다. 예를 들어, 웹사이트를 사이버 공격으로부터 방어하고 기타 클라우드 서비스를 제공하는 클라우드플레어는 기업이 일부 데이터에 태그를 지정하여 외부로 유출되는 것을 제한할 수 있는 기능을 마케팅하고 있다.
구글과 마이크로소프트도 기업 고객에게 대화형 도구를 제공하고 있는데, 가격은 더 비싸지만, 데이터를 공개 AI 모델에 흡수하는 것은 자제토록 한다. 현재 바드와 챗GPT는 기본 설정에서 사용자의 대화 기록을 삭제할 수 있는 기능을 제공한다.
마이크로소프트의 소비자 최고 마케팅 책임자인 유수프 메흐디는 기업이 직원들이 업무에 공용 챗봇을 사용하는 것을 원하지 않는 것은 '당연한 일'이라고 말한다.
그는 기업용 챗봇과 일반 챗봇을 비교해 말하며 "기업들은 당연히 보수적인 입장을 취한다. 기업용 정책은 훨씬 더 엄격하다"고 밝혔다.
마이크로소프트는 자사 AI 프로그램을 포함한 공공 AI 프로그램에 기밀 정보를 입력하는 직원을 전면적으로 금지하고 있는지 언급을 거부했지만, 일부 임원은 개인적으로 사용을 제한하고 있다고 로이터에 말했다.
관계자들은 알파벳이 자사 및 자회사 직원에 기밀 자료를 대화형 AI에 입력하지 말 것을 조언했으며 구글은 정보 정보 정책을 인용해 이를 확인해 줬다고 전했다.
바드와 챗GPT를 비롯한 대화형 AI(챗봇)는 사용자와 대화를 나누고 질문에 응답한다. 연구자들은 이 과정에서 AI가 인간과 대화 내용을 흡수해 재생산할 수 있다는 사실을 발견했다.
일부 관계자들은 알파벳이 자사 개발자들에게 챗봇이 생성할 수 있는 컴퓨터 코드를 직접 사용하지 않도록 경고했다고 말했다.
로이터가 구글에 이에 대한 논평을 요청하자, 구글은 바드가 원치 않는 코드를 제안할 수 있지만 개발에 도움이 된다고 밝혔다. 이어 기술 한계에 대해 투명하게 공개하는 것이 목표라고 덧붙였다.
이러한 우려는 구글이 챗GPT와 경쟁하기 위해 출시한 바드의 피해를 피하고자 하는 의지를 보여준다고 로이터가 설명했다. 구글은 이에 수십억 달러를 투자하고 있으며 알려지지 않은 방식의 광고와 클라우드 사업 수익이 걸려있다.
구글의 이번 경고는 공개적으로 사용할 수 있는 채팅 프로그램 사용에 대해 직원들에게 경고하는 것이 기업 보안 표준으로 자리 잡고 있는 상황이라는 것을 보여준다.
삼성과 애플, 아마존, 도이치뱅크 등 전 세계적으로 AI 챗봇에 가드레일을 설치하는 기업이 늘고 있다.
네트워킹 사이트인 피시볼이 미국 대기업을 포함한 응답자 약 1만2000명을 대상으로 실시한 설문조사에 따르면, 지난 1월 기준 현재 전문가 약 43%가 상사에게 알리지 않고 챗GPT 또는 기타 AI 도구를 사용하고 있는 것으로 나타났다.
지난 2월, 구글은 출시 전 바드를 테스트하는 직원들에게 내부 정보를 제공하지 말라고 지시했다고 인사이더는 보도한 바 있다. 현재 구글은 창의성을 위한 발판으로 바드를 180개 이상의 국가와 40개 언어로 출시하고 있으며, 코드 제안에도 이러한 경고가 적용되고 있다.
구글은 로이터에 챗봇이 개인 정보 보호에 미치는 영향에 대한 추가 정보가 나올 때까지 이번 주에 바드의 유럽연합 출시를 연기한다는 정치 전문 매체 폴리티코의 보도 이후, 유럽의 아일랜드 데이터 보호 위원회와 대화를 나눴으며 규제 당국의 질문에 답하고 있다고 밝혔다.
구글이 아일랜드 위원회와 대화했던 이유는 아일랜드가 구글의 개인정보 보호 방안이 미흡하다며 시정을 요구했기 때문이다.
챗봇 기술은 이메일, 문서, 코드 초안을 작성할 수 있어 작업 속도를 크게 높일 수 있다. 하지만 다만 콘텐츠에 잘못되거나 저작권이 걸린 정보가 포함될 수 있다.
지난 6월 1일에 업데이트된 구글 개인정보 보호정책에도 "바드 대화에 기밀 또는 민감한 정보를 포함하지 마십시오"라고 명시돼 있다.
일부 회사는 이러한 우려를 해결하기 위해 소프트웨어를 개발했다. 예를 들어, 웹사이트를 사이버 공격으로부터 방어하고 기타 클라우드 서비스를 제공하는 클라우드플레어는 기업이 일부 데이터에 태그를 지정하여 외부로 유출되는 것을 제한할 수 있는 기능을 마케팅하고 있다.
구글과 마이크로소프트도 기업 고객에게 대화형 도구를 제공하고 있는데, 가격은 더 비싸지만, 데이터를 공개 AI 모델에 흡수하는 것은 자제토록 한다. 현재 바드와 챗GPT는 기본 설정에서 사용자의 대화 기록을 삭제할 수 있는 기능을 제공한다.
마이크로소프트의 소비자 최고 마케팅 책임자인 유수프 메흐디는 기업이 직원들이 업무에 공용 챗봇을 사용하는 것을 원하지 않는 것은 '당연한 일'이라고 말한다.
그는 기업용 챗봇과 일반 챗봇을 비교해 말하며 "기업들은 당연히 보수적인 입장을 취한다. 기업용 정책은 훨씬 더 엄격하다"고 밝혔다.
마이크로소프트는 자사 AI 프로그램을 포함한 공공 AI 프로그램에 기밀 정보를 입력하는 직원을 전면적으로 금지하고 있는지 언급을 거부했지만, 일부 임원은 개인적으로 사용을 제한하고 있다고 로이터에 말했다.
