김주현 금융위원장은 17일, 금융 분야 인공지능(AI) 신뢰 제고를 위해 정확성 등을 사전 검증해볼 수 있는 '테스트베드'를 구축하겠다고 밝혔다. 소비자 보호를 위해 ‘설명 가능한 AI 안내서’도 마련한다.

김 위원장은 이날 서울 중구 은행회관 뱅커스클럽에서 열린 한국신용정보원 주최 ‘금융산업의 AI 대응전략 세미나’에서 “금융소비자 편의성을 높이고 금융회사 업무 효율성을 제고하는 AI가 다양한 영역에 도입·활용되고 있다”면서도 “개인정보 침해, 사이버 보안, 윤리적 문제와 같은 여러 리스크에 대한 우려도 제기되고 있다”고 말했다.

이어 “금융 분야의 경우 AI 오작동으로 소비자의 재산상 손실을 초래할 수 있을 뿐만 아니라 여러 금융회사가 특정 AI 모델을 활용할 경우 디지털 집중 리스크가 확대돼 금융 안정에도 영향을 미칠 수 있다”며 대응 방안모색을 강조했다.

소수의 AI 기술·모델이 시장을 지배하고 이를 기반으로 한 서비스가 대거 적용될 경우, 금융시스템 내 동질성이 높아져 쏠림현상이 심화할 수 있다는 지적이다.

이에 따라 금융위원회는 AI 공정성·정확성 제고를 위해 ‘금융 AI 테스트베드’를 구축하기로 했다.

신용평가, 금융사기 방지, 금융보안 관련 AI 등에 대한 검증을 수행할 수 있도록 검증용 데이터와 컴퓨팅 자원 등을 제공할 예정이다.

더불어 AI 모델의 작동원리, AI 의사결정의 근거 등을 금융 소비자들이 이해할 수 있도록 ‘설명 가능한 AI 안내서’도 마련할 계획이다.

김 위원장은 “AI가 사회적 신뢰를 확보하기 위해서는 공정성과 정확성이 담보돼야 하며, AI가 내린 판단 근거가 무엇인지 금융소비자가 이해할 수 있어야 한다”고 강조했다.

금융위는 ‘금융 AI 데이터 라이브러리’를 차질 없이 구축하고, 데이터 결합 전문기관을 확대함으로써 양질의 빅데이터 확보도 지원하기로 했다.
AI 데이터 라이브러리를 통해 규제 샌드박스(한시적 예외) 형태로 데이터 재사용도 허용할 계획이다. AI 신기술 활용 활성화 등을 위해 금융데이터 규제 개선도 함께 추진된다.

박현 글로벌에픽 기자 neoforum@globalepic.co.kr