금융위는 8일 도규상 부위원장 주재로 ‘제1차 디지털금융협의회 데이터 분과회의’를 개최하고 AI 기반 금융서비스 개발을 위한 가이드라인을 발표했다.
가이드 라인은 ▲금융산업의 책임성 강조 ▲학습용 데이터의 정확성·안전성 확보 ▲금융서비스의 투명성·공정성 담보 ▲금융소비자 권리의 보장을 중심으로 구성됐다.
우선 AI 서비스의 책임있는 운영을 위해 ▲AI 윤리 원칙 마련 ▲AI 조직 구성 ▲위험관리정책 수립의 ‘3중 내부 통제장치’가 마련된다.
AI 윤리의 경우 금융사는 회사별 가치, AI 활용 상황 등에 따라 AI 서비스 개발과 운영시 준수해야할 원칙과 기준을 수립해야 하며 AI의 잠재적 위험을 평가·관리할 구성원의 역할과 책임 그리고 권한을 서비스 전단계에 걸쳐 구체적으로 정의하도록 했다.
또 AI 의사결정이 개인의 금융거래계약의 체결·유지에 중대한 영향을 가져오는 경우 내부통제·승인절차 등을 마련하고 별도의 책임자를 지정하도록 했다.
또 학습용 AI 개발·학습단계에서 질 좋은 데이터가 활용되도록 하고 개인신용정보 오·남용이 없도록 정보보호도 강화한다. 특히 사생활 정보 등 민감정보를 활용할 경우 비식별조치 등 안전한 정보 활용을 위한 충분한 조치를 거치게 했다.
소비자 차별이 나타나지 않도록 서비스 특성별로 위험요인을 통제하고 서비스 공정성도 제고한다. 더불어 금융위는 금융소비자가 AI 서비스에 대한 충분한 설명을 듣고 자신의 권리를 충분히 행사할 수 있도록 지원할 계획이다.
금융위는 이 같은 내용을 골자로 한 ‘금융분야 AI 가이드라인’을 연내 시행할 계획이다. 금융업권협회 등을 중심으로 실무지침 제정반을 구성·운영해 3분기 내 실무지침도 마련할 방침이다.
도규상 금융위 부위원장은 “앞으로는 AI 등 기술혁신이 금융의 질적변화를 주도할 전망”이라면서 “AI 기술의 안전성 등에 대한 사회적 신뢰가 충분하지 않은 만큼 이번 가이드라인을 통해 AI 금융서비스에 대한 사회적 신뢰를 공고히 하고 지속가능한 금융혁신 환경 조성을 추진할 계획”이라고 전했다.
박호민 기자 donkyi@ilyo.co.kr
