프롬프트 인젝션을 어떻게 막나
프롬프트 인젝션을 어떻게 막나
답변 1개
완전 차단은 어렵다. 신뢰 못 할 입력과 시스템 지시를 분리하고, 모델 출력으로 위험한 동작을 직접 실행하지 않으며, 도구 권한을 최소화하고 출력을 검증한다. 외부 콘텐츠는 데이터로만 취급한다.
프롬프트 인젝션을 어떻게 막나
완전 차단은 어렵다. 신뢰 못 할 입력과 시스템 지시를 분리하고, 모델 출력으로 위험한 동작을 직접 실행하지 않으며, 도구 권한을 최소화하고 출력을 검증한다. 외부 콘텐츠는 데이터로만 취급한다.