AI 에이전트가 금융시장을 흔들 수 있다면, 우리는 어디까지 맡겨도 될까

이건 트레이딩 데스크만의 이야기가 아닙니다

근거 메모

이번 글은 중앙은행 연설, 금융안정위원회 보고서, 금융권 보도를 같이 놓고 봤습니다. 공통 질문은 하나입니다. AI 에이전트가 돈의 이동을 추천하거나 실행한다면, 모델 성능만큼 통제 설계가 중요하다는 점입니다.

영국 중앙은행이 2026년 6월 30일 공개한 연설 Agents of change를 보면서 저는 이 이슈를 단순히 “AI가 주식 매매를 대신할 수 있느냐” 정도로 읽으면 안 된다고 느꼈습니다.

핵심은 AI 하나가 틀릴 수 있다는 얘기가 아닙니다. 그건 이미 익숙한 논쟁입니다. 더 불편한 지점은 여러 AI 에이전트가 같은 신호를 보고, 같은 방향으로 판단하고, 비슷한 행동을 거의 동시에 할 수 있다는 점입니다.

예를 들어 중앙은행 문장 하나, 기업 실적 경고, 지정학 리스크 뉴스, 유동성 지표 하나가 나왔다고 해보겠습니다. 수많은 AI 시스템이 그 문장을 읽고 위험 점수로 바꿉니다. 어떤 시스템은 매도합니다. 어떤 시스템은 신용 한도를 줄입니다. 어떤 시스템은 증거금을 올립니다. 어떤 시스템은 결제를 보류합니다. 개별 행동만 보면 이상하지 않습니다. 문제는 그 행동들이 한 방향으로 겹칠 때입니다.

그래서 저는 이 주제를 “AI 트레이딩”으로만 보지 않습니다. 금융 신뢰의 문제로 봅니다. AI가 돈과 사람 사이에 들어오기 시작하면, 예전처럼 “은행이 내 돈을 잘 보관하고 있느냐”만 물어서는 부족합니다. 앞으로는 “내 돈이 왜 움직였는지, 왜 멈췄는지, 왜 사용할 수 없게 됐는지 은행이 설명할 수 있느냐”를 물어야 합니다.

진짜 위험은 같은 판단이 동시에 나오는 장면입니다

금융시장에는 이미 자동매매, 리스크 모델, 회로 차단 장치, 이상 거래 감시가 있습니다. 그래서 “이미 자동화된 금융인데 뭐가 새롭냐”고 볼 수도 있습니다. 저는 그 생각이 절반만 맞다고 봅니다.

기존 자동화는 대개 정해진 규칙이나 좁은 신호를 따릅니다. 반면 에이전트형 AI는 더 유연합니다. 문장을 읽고, 맥락을 해석하고, 도구를 호출하고, 여러 시나리오를 비교한 뒤 다음 행동을 정할 수 있습니다. 이 유연함이 쓸모입니다. 동시에 검사하기 어려운 이유이기도 합니다.

제가 가장 경계하는 실패 장면은 영화 같은 폭주 AI가 아닙니다. 오히려 훨씬 평범합니다. 대시보드에는 모든 에이전트가 그럴듯한 이유로 같은 결론을 낸 것처럼 보입니다.

신호	에이전트 하나의 판단	전체 시스템에서 생길 수 있는 문제
실적 발표 문구 악화	비중 축소	같은 업종 매도가 한꺼번에 몰림
예금 유출 루머	유동성 가정 보수화	사실 확인 전 자금 경색이 커짐
사기 거래 패턴 증가	의심 결제 보류	정상 고객 결제까지 동시에 막힘
신용 위험 신호	승인 기준 강화	가계와 기업이 갑자기 돈줄이 좁아진 느낌을 받음
변동성 급등	증거금 상향	관련 없어 보이던 자산에서도 강제 매도가 나옴

사람이 더 침착하다는 얘기는 아닙니다. 사람도 패닉에 빠집니다. 다만 사람은 망설이고, 회의하고, 전화하고, 때로는 시간을 허비합니다. AI 에이전트는 그 시간을 줄입니다. 금융에서는 그게 장점이었다가 어느 순간 문제가 됩니다.

보통 사람은 결제에서 먼저 체감할 가능성이 큽니다

대부분의 사람은 채권시장 차트로 금융 안정성을 느끼지 않습니다. 카드가 거절될 때, 송금이 지연될 때, 사기 의심으로 계좌가 잠길 때, 결제 앱이 “검토가 필요하다”고 말할 때 체감합니다.

물론 이런 차단은 필요합니다. 사기 탐지 시스템은 이미 많은 사람을 보호하고 있습니다. 저는 그것을 끄자는 쪽이 아닙니다. 다만 AI 에이전트가 이 판단을 더 많이 맡게 된다면 설명의 수준도 같이 올라가야 합니다.

오전 10시 13분에 제 계좌가 막혔다면, 저는 “시스템이 이상 거래를 감지했습니다”라는 말만 듣고 싶지 않습니다. 어떤 유형의 활동이 문제였는지, 사람이 검토할 수 있는지, 보류가 얼마나 가는지, 어떤 증빙을 내면 풀리는지 알고 싶습니다. 이건 고급 고객 서비스가 아니라 금융 신뢰의 기본입니다.

제 기준은 분명합니다. AI 에이전트는 결제를 표시하고, 위험 점수를 매기고, 증거를 모으고, 보류를 추천할 수 있습니다. 하지만 최종 판단은 기관이 사람 말로 책임져야 합니다. 고객이 이의를 제기할 수 없다면 그건 AI 시스템이 아니라 검은 상자 출입문입니다.

대출과 보험은 더 조용하게 같은 문제를 만듭니다

시장 급락은 뉴스가 됩니다. 대출과 보험은 더 조용하지만 생활에는 더 직접적으로 닿습니다.

AI 에이전트가 위험 상황에서 신용 노출을 줄이라고 추천하는 것은 리스크팀 내부에서는 합리적으로 보일 수 있습니다. 하지만 밖에서 보면 작은 회사가 한도를 갱신하지 못하고, 개인은 더 나쁜 대출 조건을 받고, 보험 가입자는 더 높은 요율이나 보장 제외를 받는 일이 됩니다. 여러 기관이 비슷한 데이터와 비슷한 시장 신호를 쓴다면 같은 긴축이 동시에 나타날 수 있습니다.

악의가 없어도 됩니다. 모두가 비슷하게 조심하면 충분합니다.

그래서 저는 분석과 권한을 분리해서 봐야 한다고 생각합니다.

AI에게 맡겨도 되는 일	가볍게 넘기면 안 되는 일
차주 서류 요약	설명 가능한 사람의 판단 없이 대출 거절
위험 시나리오 비교	고객군 전체 한도 자동 축소
비정상 보험 청구 패턴 탐지	검토 경로 없이 보장 제외
유동성 스트레스 신호 표시	책임자 없이 강제 매도 실행
고객 안내문 초안 작성	모호한 기계식 거절 통지 발송

마지막 줄이 특히 중요합니다. 대출 가격이 왜 바뀌었는지, 카드가 왜 막혔는지, 보장이 왜 달라졌는지 설명하지 못한다면 그 자동화는 아직 그 일을 맡을 수준이 아닙니다.

킬 스위치 논의는 결국 책임 논의입니다

Financial Times는 AI 기반 트레이딩에 킬 스위치가 필요할 수 있다는 논의를 보도했습니다. 표현이 거칠지만 쓸모는 있습니다. 결국 묻는 것은 단순합니다. 누가 멈출 수 있느냐는 겁니다.

그런데 멈춤 버튼만으로는 부족합니다. 언제 눌러야 하는지, 무엇을 멈추는지, 멈춘 뒤 어떤 일이 생기는지 모르면 버튼은 장식에 가깝습니다.

은행, 증권사, 핀테크, 보험사, 결제사가 에이전트형 AI를 쓴다면 저는 최소한 다음 다섯 가지 답을 보고 싶습니다.

에이전트가 사람 승인 없이 실행할 수 있는 결정은 무엇인가.
돈 이동, 계좌 제한, 시장 주문 중 어떤 것은 에이전트 권한 밖인가.
에이전트가 규칙대로 행동했지만 고객에게 피해가 생기면 누가 책임지는가.
고객이나 거래 상대방은 결과에 어떻게 이의를 제기할 수 있는가.
사후에 에이전트의 입력, 도구 호출, 판단 경로를 재구성할 수 있는가.

다섯 번째에서 많은 시연이 무너집니다. 모델은 보기 좋은 답을 만들 수 있습니다. 금융에는 답보다 로그가 필요합니다.

내가 운영에 넣는다면

저라면 꽤 보수적으로 선을 긋겠습니다. 그렇다고 AI 반대는 아닙니다.

AI 에이전트는 모니터링, 시나리오 비교, 이상 징후 탐지, 문서 읽기, 리스크 메모 초안, 유동성 대시보드, 의사결정 자료 준비에 적극적으로 쓸 수 있습니다. 규칙이 좁고 되돌릴 수 있는 작은 행동이라면 일부 실행도 가능하다고 봅니다. 하지만 고객 자금을 대규모로 묶거나, 포지션을 청산하거나, 대출을 거절하거나, 보험을 취소하거나, 시장에 영향을 줄 주문을 독자적으로 내는 권한은 쉽게 넘기면 안 됩니다.

“휴먼 인 더 루프”라는 말은 너무 많이 쓰여서 이제 별 의미가 없습니다. 저는 표현보다 운영 설계를 봅니다. 사람이 AI 결정 300개를 큐에서 빠르게 승인만 한다면 통제라고 보기 어렵습니다. 임계값을 정하고, 예외를 검토하고, 시스템을 멈출 수 있고, 결과를 설명할 수 있는 사람이 있어야 합니다.

제가 보는 실패 기준은 분명합니다. 기관이 조치 이유를 설명하지 못하고, 다음 조치를 멈추지 못하고, 고객 피해를 정해진 절차로 되돌리지 못한다면 그 권한은 아직 AI에게 맡기면 안 됩니다. 이런 경우에는 선택하지 마세요. 백테스트가 멀쩡했다는 이유만으로 실행 권한까지 넘기지는 않겠습니다.

권한을 주기 전에	제가 요구할 조건
결제 보류	사람 검토 경로와 고객 증빙 체크리스트
대량 매도 주문	시장 충격 임계값과 중지 책임자
대출 거절	설명 가능한 사유 코드와 이의제기 경로
보험 보장 제외	언더라이터 검토와 서면 근거
증거금 상향	스트레스 시나리오 로그와 에스컬레이션 규칙
계좌 동결	제한 시간, 증거 기준, 해제 책임자
포트폴리오 리밸런싱	고객 위임 범위 확인과 롤백 계획
유동성 긴축	승인된 발동 조건과 사후 검토

결국 사회적 신뢰의 문제입니다

AI가 금융을 더 빠르게 만들 수 있느냐고 묻는다면 답은 예입니다. 하지만 더 중요한 질문은 빠른 금융이 여전히 사람이 이해할 수 있는 금융으로 남을 수 있느냐입니다.

사람들이 은행을 믿는 이유 중 하나는 화면 뒤에 책임지는 기관이 있다고 생각하기 때문입니다. 송금이 보류 상태로 사라지고, 결제가 이유 없이 막히고, 대출 금리가 설명하기 어려운 패턴 때문에 바뀐다면 그 신뢰는 약해집니다. 고객은 모델이 얼마나 정교했는지 궁금해하지 않습니다. 더 단순하게 묻습니다. “이거 누가 고쳐줄 수 있나요?”

AI 에이전트 논의는 여기로 가야 합니다. 기계가 은행원을 대체한다는 상상도 아니고, 모든 모델이 위험하다는 공포도 아닙니다. 핵심은 금융기관이 자기 에이전트보다 느리더라도 여전히 설명하고, 멈추고, 되돌릴 수 있느냐입니다.

제 결론은 이렇습니다. 준비는 맡길 수 있습니다. 모니터링도 맡길 수 있습니다. 1차 분석도 맡길 수 있습니다. 하지만 AI 에이전트가 돈 접근권, 신용, 보험, 시장 노출을 바꾸기 시작한다면 이름 있는 책임자와 명확한 이의제기 경로가 있어야 합니다. 그게 없다면 기술은 인상적일 수 있어도 금융 시스템은 점점 믿기 어려워집니다.