IBM은 최신 보고서를 통해 AI 도입이 보안과 거버넌스를 앞지르면서 AI 시스템에서 발생하는 데이터 유출 위험과 비용이 커지고 있다고 경고했다.

IBM은 21일 ‘2025 데이터 유출 비용 보고서’를 발표하고, AI 확산 속도가 보안과 거버넌스를 크게 앞지르고 있다고 밝혔다.

전 세계 600개 조직을 대상으로 조사한 결과, 응답 기업의 13%가 AI 모델이나 애플리케이션에서 데이터 유출을 경험했고, 8%는 AI 시스템 침해 여부조차 알지 못했다고 답했다.

AI 침해 사고를 겪은 조직의 97%는 AI 접근 제어가 부실했으며, 이로 인해 사고의 60%는 데이터 유출로, 31%는 운영 중단으로 이어졌다.

IBM 보안 및 런타임 제품 수자 비스웨산 부사장은 “AI 도입과 감독 사이에 격차가 존재하고 있으며, 공격자들이 이를 악용하기 시작했다”며 “접근 제어조차 마련되지 않은 AI 시스템은 민감한 데이터 노출과 모델 조작 위험을 키운다. 행동하지 않는 대가는 재정 손실을 넘어 신뢰와 통제력 상실로 이어질 수 있다”고 말했다.

보고서에 따르면 AI 보안과 거버넌스 정책 부재는 심각한 리스크로 작용한다. 데이터 유출을 경험한 조직의 63%가 AI 거버넌스 정책을 갖추지 못했으며, 섀도 AI 사용으로 인한 유출 비용은 평균 67만 달러 더 높았다.

또 전체 침해 사례의 16%는 공격자가 AI 도구를 활용해 발생했으며, 주로 피싱과 딥페이크 사칭 공격에 사용했다.

IBM 관계자는 "기업들이 AI 시대에 맞는 보안과 거버넌스를 갖추지 않는다면 단순한 비용 손실을 넘어 신뢰와 경쟁력까지 위협받을 수 있다"고 강조했다.

[저작권자ⓒ 도시경제채널. 무단전재-재배포 금지]