[프라임경제] 금융감독원(이하 금감원)이 인공지능(AI) 사고를 막기 위해 최고경영자(CEO)의 책임을 강화하고 전담 위험관리 체계를 구축하도록 하는 가이드라인을 내놨다.
금감원은 15일 금융회사가 AI를 건전하게 활용할 수 있도록 거버넌스 원칙을 구체화한 '금융 분야 AI 위험관리 프레임워크(AI RMF)'를 마련했다고 밝혔다.
이는 AI의 복잡성과 데이터 의존도가 높아지면서 발생할 수 있는 오류가 금융 시장의 안정을 해치고 소비자 권익을 침해할 수 있다는 우려에 따른 조치다.
실제 금감원이 지난해 4월 118개 금융사를 조사한 결과 85%가 AI 윤리 원칙이나 위험관리 기준을 갖추지 않았으며 전담 의사결정기구를 설치한 곳도 은행 25%, 보험사 7.5%, 증권사 2.7% 수준에 그쳤다.
이번 가이드라인에 따라 금융회사는 AI 위험관리를 위한 전담 조직과 의사결정기구를 의무적으로 구성해야 한다. 위원장은 사업 계획과 전략, 잠재적 위험 요인을 CEO에게 정기적으로 보고해야한다.
금감원은 책임 소재를 명확히 하기 위해 AI 내부통제 방안을 책무구조도에 반영하는 방안도 검토 중이다.
또한 금융사는 AI 윤리 기준을 바탕으로 위험관리 규정과 지침 등 내규를 수립하고 구체적인 업무 매뉴얼을 마련해야 한다.
특히 AI를 활용한 최종 의사결정 책임은 반드시 임직원이 지도록 해 기술 오류에 따른 책임 회피를 방지하도록 했다.
위험 관리 체계는 서비스별 위험도에 따라 차등화된 통제를 수행하는 '위험 기반 접근 방식'을 적용한다. 대출 심사처럼 개인의 권리와 의무에 직결되는 '고영향 AI'는 등급과 관계없이 고위험군으로 분류해 집중 관리하며, 초고위험 AI의 경우 출시 여부 자체를 재검토하는 등 강도 높은 통제 절차를 거쳐야 한다.
금감원은 업권별 협회를 통해 이번 프레임워크를 배포하고, 설명회와 간담회 등을 통한 의견 수렴을 거쳐 올해 1분기 중 최종안을 확정해 시행할 계획이다.
