"금융 AI 가이드라인, 명확성·구체성·시의성 제고 필요" 한 목소리

[한국금융신문 정선은 기자] 금융 AI(인공지능) 활용에 있어서 명확하고, 구체적이며, 시의성 있는 가이드라인을 바탕으로 안정과 혁신 사이 균형을 추구할 필요가 있다는 제언이 나왔다.

자본시장연구원(원장 김세완)은 26일 여의도 금융투자협회 불스홀에서 '금융권 생성형 AI 활용 방안' 세미나를 개최했다.

이날 세미나는 국내외 금융 AI 가이드라인을 비교 분석하고, 금융투자업의 대응 방향을 논의하는 자리로 마련됐다.
윤창현닫기윤창현기사 모아보기 코스콤 사장은 축사에서 "AI에 대해 많은 논의가 진행되고 있는데, 지금이 시작에 불과하며 앞으로 엄청난 변화가 예상된다는 데 모두 동의하고 있는 상황이다"며 "규제도 논의해야 하지만, 우선 진흥을 시켜야 될 때라는 생각이 든다"고 말했다.

이날 세미나에서는 노성호 자본시장연구원 연구위원이 '금융 AI 가이드라인의 국제 비교 및 대응 과제'에 대해 주제 발표했다.

노 연구위원은 주요 금융당국의 가이드라인에서 발견되는 공통적인 요소는 안정성에 대한 강조이며 이는 AI 기반 서비스의 생애주기에 따라 사전적, 절차적, 사후적 안정성으로 나누어 볼 수 있다고 했다.

사전적 안정성은 AI 기반 서비스의 연구 및 개발 단계에서부터 발생 가능한 위험 요소를 예측하고 통제하는 것을 의미하며 이는 데이터의 품질 관리, 컴플라이언스 체계 구축 등의 원칙을 포함한다. 절차적 안정성 측면에서는 금융기관에서 AI의 도입 및 운영 과정을 관리하는 거버넌스의 확립을 강조하고 있으며, 이와 관련 업무 분야 별 상호 교차검증과 동일 위험, 동일 규제 원칙 등을 제시한다. 또 사후적 안정성은 AI에 기반한 의사결정이 윤리적이고 편향이 없어야 함을 의미하며 이와 같은 원칙을 보장하기 위해서 사후적인 책임과 투명한 의사 결정 과정이 전제되어야 함을 명시한다.

노 연구위원은 "비교적 이른 시점(2021년)에 발간된 국내 금융 AI 가이드라인 또한 안정성을 강조하고 있다는 점에서 해외 주요국의 사례와 일관성을 보이고 있다"며 "향후 이를 더욱 구체화하고 시의성을 높여 금융산업에서 AI의 안정적인 활용과 혁신 사이의 균형을 도모할 필요가 있다"고 제시했다. 또, 이정훈 코스콤 클라우드사업부 팀장은 '금융업계 AI 서비스 실증사례 및 발전방향'에 대한 주제 발표를 맡았다.

국내 4대 금융지주를 포함한 금융업계의 AI 서비스 도입 현황에 대한 분석과 해외 도입 현황 비교를 통해 시장 현황을 제시했다. AI 서비스 발전 방향과 관련, 금융기관에서 비용 효율적이며, 데이터 외부 유출 위험성을 해결하는 AI 아키텍처와 LLM(거대언어모델)의 최근 추론형, 경량화 트렌드를 소개했다. RAG(검색증강생성), LLM Router(라우터)를 통한 성능 향상 및 효율성 제고 방안을 모색하고, 코스콤에서 검증한 분석 결과를 설명했다.

이날 패널토론은 이인형 자본연 선임연구위원의 사회로, 김도현 스노우플레이크 상무, 하정우 네이버클라우드 AI Innovation 센터장, 김성덕 코스콤 테크놀로지센터 본부장, 김성웅 금융보안원 AI혁신실장, 이철흠 한국신용정보원 금융AI데이터센터장, 또 업계에서 김진호 KB증권 AI데이터전략부장, 주세민 미래에셋증권 AI솔루션본부장이 자리했다. 당국에서 위충기 금융감독원 디지털금융총괄국장이 참석했다.

이날 토론에서는 'AI 에이전트(비서)'의 부상 등 현황이 구체적으로 언급됐다.
김성웅 금융보안원 실장은 "AI가 업무보조에서 독립적 업무수행자로 갈 때 보안성이 가장 중요하다"며 "접근통제, 인증, 권한관리에서 좀 더 나아가 AI 에이전트의 특성을 고려한 보안 대책이 필요하다"고 제시했다.

예컨데, AI 의사결정을 누군가 조작하거나, 오작동 했을때 인간이 개입하는 것을 무력화하는 시도를 어떻게 해야할 지 미리 고민해야 하는 식이다. 또, AI 에이전트에게 너무 많은 권한을 주면, 오작동 때 접근하지 않아야 할 데이터까지 삭제하거나 업데이트 할 수 있는 위험 등에 각별한 유의가 필요하다는 의견이다.

하정우 네이버클라우드 센터장은 "AI를 세이프티(Safety)를 넘어 시큐리티(Security) 관점에서 봐야 한다"고 제시하기도 했다.

금융당국은 지난 2024년 8월 '망분리 규제 개선 로드맵'으로 첫 발을 뗐고, 원칙 중심으로 디지털금융 보안 규제를 전환한다는 계획을 제시했다. 위충기 금감원 국장은 "디테일하게 체크하고 금융업권 의견도 충분히 들어서 AI 관련 실질적으로 작동할 수 있는 규제와 시스템을 정립하도록 지원하겠다"고 말했다.

정선은 한국금융신문 기자 bravebambi@fntimes.com