자율 실행이 강한 에이전트는 안전한가
자율 실행이 강한 에이전트는 안전한가
답변 1개
자율성이 높을수록 에이전트가 셸 명령을 돌리고 파일을 바꾸는 범위가 넓어지므로, 실행을 격리하는 장치가 중요해진다. OpenHands가 Docker 샌드박스에서 작업을 실행하는 이유가 여기에 있다. 격리된 컨테이너 안에서 작업이 일어나면 호스트 환경에 직접 영향을 주는 위험을 줄인다.
다만 격리가 있다고 해서 결과 검토를 생략해도 된다는 뜻은 아니다. 자율형은 결과를 사람이 확인하는 단계를 워크플로에 반드시 넣는 전제로 쓰는 게 안전하다. 통제를 더 앞단에 두고 싶으면 변경 전에 사람이 승인하는 Cline의 게이트형, 또는 커밋 단위로 추적·롤백이 쉬운 Aider 쪽을 고려할 수 있다. 어느 도구든 자율성과 통제 사이에서 자신의 작업 위험도에 맞는 지점을 고르는 게 핵심이다.