금융 AI 거버넌스가 멈추는 지점, 정책과 통제 사이

금융회사가 내부 규정 검색을 돕는 생성형 AI를 도입했다고 가정해 보겠습니다. 초기에는 임직원이 문서를 빠르게 찾는 보조 도구였지만, 곧 고객 상담 답변을 추천하고 신용정보를 조회하며 내부 시스템의 업무까지 실행하는 형태로 확장됩니다.

기능이 늘어날 때마다 개발, IT, 보안, 준법, 현업 부서의 검토를 거치지만 경영진이 확인해야 할 핵심은 여전히 남습니다. 이 AI가 어떤 데이터를 근거로 판단했는지, 승인되지 않은 정보에 접근하지 않았는지, 결과가 잘못됐을 때 누가 개입하고 책임지는지를 한 흐름으로 설명할 수 있어야 합니다.

기존 데이터 거버넌스와 정보보호 체계는 데이터 접근 권한과 시스템 보안을 관리하는 데 강점이 있습니다. 그러나 생성형 AI와 에이전트형 AI에서는 입력 데이터뿐 아니라 모델의 응답, 외부 도구 호출, 사용자 권한, 업무 실행 결과가 하나의 판단 과정으로 연결됩니다. 접근 권한이 적절하다는 사실만으로 AI의 판단과 행동까지 적절했다고 증명하기는 어렵습니다.

금융위원회가 2026년 6월 시행한 금융권 AI 가이드라인은 거버넌스, 적법성, 보조성, 신뢰성, 금융안정, 선의, 보안성이라는 7대 원칙을 제시합니다. 특히 경영진의 역할과 책임, 사람의 최종 판단과 개입, 신뢰할 수 있는 데이터와 모델, 보안 기준과 점검·개선 체계를 강조합니다. 가이드라인은 모든 금융회사를 대상으로 하되 회사의 규모와 AI 위험 수준에 비례해 적용하도록 설계됐습니다. 고영향 AI에는 별도의 법적 의무가 적용됩니다. 금융위원회, 금융분야 AI 가이드라인

「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」 제34조도 고영향 AI에 대해 위험관리, 이용자 보호, 사람의 관리·감독, 결과의 주요 기준과 학습데이터 개요에 관한 설명, 관련 문서의 보관을 요구합니다. 국가법령정보센터, 인공지능기본법 제34조

국내 규율이 제시하는 방향은 비교적 분명합니다. 문제는 이러한 원칙을 개별 AI 시스템에서 반복적으로 실행하고 증명하는 운영 구조입니다.

같은 모델도 데이터와 권한이 달라지면 다른 위험이 된다

AI 거버넌스의 관리 단위를 모델 하나로 설정하면 실제 위험의 상당 부분을 놓칠 수 있습니다. 동일한 언어모델이라도 어떤 데이터와 연결되고, 어떤 사용자가 이용하며, 어떤 업무를 수행할 수 있는지에 따라 위험 수준이 달라지기 때문입니다.

내부 규정만 검색하는 AI는 제한된 정보 탐색 도구에 가깝습니다. 여기에 고객의 신용정보가 연결되면 개인정보와 신용정보 보호 문제가 추가됩니다. 상담 답변을 추천하면 금융소비자에게 미칠 영향과 설명 가능성을 검토해야 합니다. 외부 API를 호출해 계약 변경이나 지급 업무까지 수행한다면 부정확한 판단이 실제 거래로 이어질 수 있습니다.

따라서 금융 AI의 관리 단위는 모델 자체가 아니라 다음 요소의 결합이어야 합니다.

‘어떤 업무 목적을 가진 AI가, 어떤 데이터와 외부 도구에 연결되고, 누구의 권한으로 무엇을 판단하거나 실행하며, 그 결과에 누가 책임지는가.’

이 관점은 국제 프레임워크와도 맞닿아 있습니다. 미국 국립표준기술연구소의 NIST AI RMF는 AI 위험관리를 Govern, Map, Measure, Manage의 네 기능으로 구성합니다. 이 가운데 Govern은 조직의 정책과 책임 구조를 다른 세 기능에 연결하고, Map은 사용 맥락과 영향을 파악하며, Measure와 Manage는 위험을 평가하고 대응하는 활동을 다룹니다. NIST, AI Risk Management Framework Core

ISO/IEC 42001은 AI 경영시스템의 관점에서 리더십과 책임, 위험 평가, 데이터 거버넌스, AI 생애주기 통제, 성과 모니터링, 지속적인 개선을 요구합니다. 개별 모델의 일회성 심사보다 조직이 AI를 식별하고 위험을 평가하며 통제를 개선하는 관리체계에 초점을 둡니다. ISO, ISO/IEC 42001 설명

국내 규율과 국제 프레임워크는 서로 대체하는 관계가 아닙니다. 국내 법률과 감독 가이드라인이 금융회사가 보호해야 할 가치와 책임의 방향을 제시한다면, NIST AI RMF와 ISO/IEC 42001은 이를 조직의 업무와 통제로 운영하기 위한 구조를 제공합니다.

국내 규율을 운영 체계로 번역하는 네 가지 연결

아래 표는 금융당국이나 표준기관이 발표한 공식 상호인정표가 아닙니다. 국내 규율과 국제 프레임워크를 금융 AI 운영 관점에서 연결한 실무적 해석입니다. 실제 적용 시에는 개별 회사의 업무, 위험 등급, 법률 검토 결과를 반영해야 합니다.

이 연결 구조를 앞선 내부 규정 검색 AI에 적용하면 운영상의 공백을 구체적으로 찾을 수 있습니다. 먼저 해당 AI가 내부 문서만 사용하는지, 고객정보와 외부 모델에도 연결되는지 자산과 데이터 흐름을 확인합니다. 이어 잘못된 답변이 단순한 검색 오류인지, 금융소비자의 의사결정이나 실제 거래에 영향을 주는지에 따라 위험 등급과 책임자를 정합니다.

그다음 사내 이용정책이나 접근통제가 문서로 존재하는지를 확인하는 데서 멈추지 않고, 실제 환경에서 우회될 수 있는지를 검증해야 합니다. 프롬프트 인젝션으로 내부 정보가 노출되는지, 권한이 없는 사용자가 고객정보를 조회할 수 있는지, 에이전트가 승인되지 않은 업무를 실행하는지를 시험합니다. 발견된 취약점과 예외는 개선 조치, 재시험 결과, 책임자의 승인과 함께 기록되어야 합니다.

이때 AI 보안은 전체 AI 거버넌스를 대신하지 않습니다. 다만 정책이 실제 통제로 작동하는지를 검증하는 중요한 축입니다. 법률과 윤리 원칙이 책임의 기준을 정한다면, 보안 검증은 데이터 접근, 모델 응답, 외부 도구 호출, 에이전트 실행 과정에서 그 기준이 지켜지는지를 확인합니다.

S2W의 AI Security Governance 접근도 이 연결 지점에 초점을 둡니다. 모델, 데이터 흐름, 사용자 및 시스템 권한, 외부 API와 에이전트 연결을 식별하고, 이용정책·데이터 보호·접근통제가 실제 환경에서 작동하는지를 점검합니다. 프롬프트 인젝션, 민감정보 노출, 권한 우회, 비인가 에이전트 실행과 같은 위험을 검증하고, 결과를 로그·예외 처리·사고 대응·개선 활동에 연결하는 방식입니다.

금융 AI 거버넌스의 실현 가능성은 새로운 원칙을 더 만드는 데서 결정되지 않습니다. 국내 규율이 요구하는 책임과 보호의 방향을 AI 자산, 위험, 통제, 증적이라는 운영 단위로 번역할 수 있는지가 관건입니다.

CDO와 CAIO가 실무 조직에 요청해야 할 첫 번째 결과물도 거대한 전사 거버넌스 계획일 필요는 없습니다. 고객정보를 사용하거나 금융소비자에게 영향을 미치거나 외부 시스템을 실행하는 AI 한 건을 선정해, 네 가지 운영 연결에 따라 근거를 추적해 보는 것으로 시작할 수 있습니다.

이 과정에서 소유자가 없거나, 데이터 흐름이 보이지 않거나, 통제를 시험한 기록이 없거나, 사고 후 재평가 절차가 없다면 그 공백이 곧 다음 리서치와 투자 과제입니다. 금융 AI 거버넌스는 정책에 적힌 요구사항이 실제 통제 절차와 실행 기록까지 연결되어야, 비로소 단순한 선언이 아닌 반복해서 운영할 수 있는 관리 체계가 됩니다.