NH농협은행 질의응답 서비스 구축
MS애저 기반의 ‘오픈 AI’ 연계한 AI프롬프트 활용
◆…SK(주) C&C CI. 사진=SK(주) C&C 제공
SK㈜ C&C(사장 윤풍영)는 14일 NH농협은행(은행장 이석용)의 '생성형 AI 기반 질의응답 서비스 구축 사업'에 착수했다고 밝혔다.
이번 사업은 NH농협은행이 구축 완료한 개방형 'AI기술 허브 플랫폼'에서 운영 중인 AI은행원, 금융업무에 따른 차별화된 음성합성기술(TTS), 지능형 문서처리 서비스에 생성형 AI 기반 질의응답 서비스를 추가하는 것이다.
'생성형 AI기반 질의응답 서비스'로 AI가 업무 규정 및 가이드는 물론 은행 내 각종 보고서까지 훑어내며 은행원의 업무 처리를 지원하게 할 방침이다. 향후에는 대고객 서비스로 확장해 고객 응대도 지원할 계획이다.
이를 위해 SK㈜ C&C는 은행 업무 영역별 지식 저장소와 MS애저 기반의 '오픈 AI'를 연계한 AI프롬프트를 활용해 업무별 질의응답 서비스를 구현한다. 지식 저장소는 데이터 등록 시 별도 수기 작업 없이 자동으로 데이터를 처리한 후 저장함은 물론 파편화된 원천 데이터를 연동해 단일 저장소로 저장·관리함으로써 효율적인 데이터 탐색과 활용을 지원한다.
사람이 정해 놓은 시나리오 기준으로 답변하는 기존 AI챗봇과는 다르게 생성형 AI를 API로 연계해 활용함으로써 은행 내부 지식 저장소의 방대한 데이터로 AI가 직접 답변을 생성한다.
'생성형 AI 기반 질의응답 서비스'가 가진 가장 큰 특징은 'AI프롬프트 최적화 엔진'이다. 프롬프트는 AI가 최적의 결과물을 만들어낼 수 있도록 사용하는 지시문이다. 'AI프롬프트 최적화 엔진'은 사용자 질문 의도를 파악하고 질문에 가장 적합한 프롬프트를 선택해 최적의 답변을 제공하는 기능이다. 질의응답에 대한 답변 신뢰성 확보를 위해 출처를 표기하고 출처 정보 제공을 위한 하이라이팅 기능도 제공한다.
생성형 AI기술 활용으로 발생할 수 있는 리스크를 대비하기 위해 국가정보원 및 금융보안원이 제시하는 가이드라인을 준수함은 물론 은행원이 입력한 프롬프트 및 답변 생성결과를 포함한 은행 내 민감 정보의 외부 유출을 원천 차단하는 보안 기술도 적용한다.
NH농협은행 관계자는 "이번 프로젝트는 시작일 뿐 향후 다양한 업무 영역으로 생성형 AI기술을 확대해 비즈니스 혁신을 가속화 할 계획"이라고 설명했다.
SK㈜ C&C 김화중 금융Digital 혁신그룹장은 "NH농협은행이 AI 디지털 전환으로 업무 혁신에 관심이 높은 만큼 다양한 업무 영역에서의 생성형 AI 기술 확대가 기대된다"며 "SK㈜ C&C는 NH농협은행의 디지털 ITS파트너로서 은행 업무 현장 곳곳에서 디지털 AI 기반의 다양한 금융 혁신을 적극 지원하겠다"고 말했다.
