'안전한 생성형 AI 활용 환경 조성' 위해 금융보안원이 나선다

혁신금융서비스 보안대책 평가, AI모델 보안성 검증 본격 실시

AI 신기술인 연합학습 기법 활용, 공동 AI모델 개발 추진

금융보안원(원장 박상원)은 올해 생성형 인공지능(AI)을 활용하는 금융회사의 보안대책을 평가할 방침이다. 모의공격 기반의 AI 모델 보안성 검증을 수행하는 한편 금융권 공동 AI 모델 개발에도 나선다. 또한, AI 신기술인 연합학습을 활용 금융사기 거래를 효과적으로 탐지하도록 금융권 공동의 AI 모델 개발도 추진할 예정이다.

금융보안원은 20일 금융권의 AI 기술 활용이 안전하고 빠르게 안착하도록 적극 지원하기 위해 이 같은 내용을 골자로 한 '2025년 중점 업무계획'을 발표했다.

금융권의 생성형 AI 활용 증가에 따라 혁신적 변화가 기대되는 반면, 보안 취약점으로 인한 정보 유출과 오남용, AI의 편향된 학습에 따른 결과 등에 대한 우려도 함께 제기되고 있는데 따른 것이다.

지난해 12월 미국 금융안정감독위원회(FSOC)는 연례보고서에서 생성형 AI의 금융분야 활용 과정에서 사이버공격 발생 가능성, 데이터 편향으로 인한 의사결정 왜곡 등의 위험성이 있음을 지적했다.
금융보안원은 이러한 우려를 불식하고 혁신적 금융환경을 지원할 수 있도록 AI 보안분야에 대한 전문적 역량을 쌓아왔으며, 이를 통해 다양한 정책적·기술적 지원 업무를 수행하고 있다.

먼저 생성형 AI 활용을 위해 혁신금융서비스 지정을 받은 금융회사의 보안대책을 평가한다. 이를 통해 망분리 예외가 적용된 구간에서도 안전하게 AI가 활용될 수 있도록 지원한다. 이달 기준 32개 금융회사의 49개 서비스가 접수됐다.

또 금융회사가 사용하는 AI 모델을 대상으로 모의공격을 수행해 취약점을 찾아내는 AI 모델 보안성 검증을 통해 높은 수준의 AI 기술 활용 안전성과 신뢰성 확보를 지원한다. 조작된 질의로 AI를 속여 잘못된 답변이나 행동을 유도하는 행위를 걸러내는 식이다. 금융회사 자율적으로 수행하는 점검으로 현재 8개 금융회사에서 9개 서비스에 대한 점검을 요청했다.
이와 함께 AI 신기술인 연합학습 기법을 통해 금융사기 거래를 탐지하는 금융권 공동 AI 모델 개발도 추진한다. 금융사기 거래 대응을 개별 금융회사 차원에서 금융권 공동 체계로 확장하겠다는 취지다.

이외에도 금융회사들이 오픈소스 AI 모델을 손쉽게 사용할 수 있는 환경 제공, 금융분야 AI 가이드라인 개정 지원 등 다양한 측면에서 금융권 AI 활용을 지원할 예정이라고 금융보안원은 설명했다.

박상원 금융보안원장은 "AI 기술의 성공적인 도입과 활용이 향후 금융권의 디지털 경쟁력 수준을 좌우할 것이며, 진정한 혁신과 경쟁력 확보는 튼튼한 보안 위에서만 가능하다"며 "올해 적극적인 투자와 조직 확대 등을 통해 전문 인력을 양성하고 기술력을 강화하는 등 금융 분야의 성공적인 AI 혁신을 차질 없이 지원해 나갈 것"이라고 했다.