News
에이전트형 AI 환경에서 데이터 계보(data lineage)로 보안을 확보해야 하는 이유
Securing the agentic enterprise with data lineage
영업 담당자가 AI 에이전트에 고객 가격 정보를 요청하면, 에이전트는 제한된 가격 시스템, 내부 커뮤니케이션, 보관된 견적서 등 여러 출처에서 데이터를 가져온다. 이후 두 번째 에이전트가 이 데이터로 제안서를 작성해도 사람은 중간 단계를 확인하지 않는다. 문제는 승인되지 않았거나 기밀·민감한 정보가 제안서에 포함된 것이 뒤늦게 발견됐을 때 드러난다. 누구도 문제 데이터가 워크플로에 어디서 들어왔는지, 시스템·파일·에이전트 사이에서 어떻게 퍼졌는지 추적할 수 없었다. 기사는 AI 보안이 도구의 문제가 아니라 데이터 가시성의 문제라고 짚는다. 애플리케이션, 시스템, 네트워크, 엔드포인트 중심의 기존 보안 접근은 이제 충분하지 않으며, 데이터가 어떻게 이동하는지 이해해야 에이전트형 AI를 대규모로 안전하게 운영할 수 있다고 주장한다. 이를 위해 사람, 에이전트, 혼합형 워크플로 전반에서 거버넌스와 책임성, 신뢰를 관리할 수 있도록 데이터 계보를 수립해야 한다는 것이 핵심 결론이다.
에이전트가 여러 소스의 데이터를 복사·요약·재사용하는 워크플로에서는, 어떤 데이터가 어느 에이전트를 거쳐 최종 산출물에 들어갔는지 추적할 수 있는 데이터 계보 기록을 설계 단계부터 포함해야 한다.
원문 출처
MIT Technology Review — AI