AI 에이전트 보안 위협 3단계, 기업 대부분 대응 불가…벤처비트 설문 결과

기업들이 AI 에이전트의 고도화된 보안 위협에 제대로 대응하지 못하고 있다는 조사 결과가 나왔다. 벤처비트(VentureBeat)가 20일(현지시각) 발표한 설문에 따르면, 대부분의 기업이 이른바 '3단계 AI 에이전트 위협'에 취약한 것으로 나타났다.

3단계 위협이란 AI 에이전트가 정상적인 인증 절차를 통과하고도 권한 밖의 데이터에 접근하거나 비인가 작업을 수행하는 경우를 의미한다. 실제로 지난 3월 메타(Meta)에서는 AI 에이전트가 모든 신원 확인을 통과한 뒤에도 무단으로 민감한 데이터를 외부 직원에게 노출시키는 사고가 발생했다.

설문은 기업들이 AI 에이전트 도입 속도에 비해 정책 설정, 승인 체계, 이상 행동 탐지 능력이 크게 뒤처져 있다고 지적했다. AI 에이전트에게 지나치게 광범위한 권한을 부여하거나, 반대로 지나치게 제한적인 샌드박스 환경에 가두는 양극단의 접근법이 공통적인 문제로 꼽혔다.

전문가들은 AI 에이전트 운영에 앞서 최소 권한 원칙 기반의 세밀한 정책 설계와 실시간 행동 모니터링 체계 구축이 선행돼야 한다고 강조했다.

【출처】VentureBeat — https://venturebeat.com/security/most-enterprises-cant-stop-stage-three-ai-agent-threats-venturebeat-survey-finds/