로봇 안전 기능이 입력 조작에 취약할 수 있다: VicOne LAB R7의 시험 사례
Your Robot’s Safety Functions Already Work. What If the Input Lies?
VicOne LAB R7은 이동 로봇, 협동 로봇 팔, 휴머노이드의 안전 기능이 잘못되거나 조작된 입력을 받았을 때 어떻게 동작이 바뀌는지 시험한 결과를 공개했다. 기사는 센서 오류뿐 아니라 의도적인 입력 조작도 같은 안전 결과를 낳을 수 있어 안전 평가에 사이버 위협을 포함해야 한다고 짚는다. 로봇 개 시험에서는 Gemma 4 E4B 모델 기반 로봇이 포스터에 적힌 텍스트를 명령으로 받아들여 움직임이 바뀌었다. 병원 서비스 로봇 시뮬레이션에서는 NVIDIA Jetson AGX Orin 위의 Nemotron 기반 시스템이 사람에게 들리지 않는 조작된 오디오에 반응해 시뮬레이션상 행동이 달라졌으며, 할당된 작업은 그대로였고 입력만 바뀌었다. 로봇 버그 바운티 행사에서는 안전 제어 설정에서 정지해 있어야 할 로봇에 ROS 2/DDS 메시지를 주입해 실제로 움직이게 했다. 자이로스코프가 취약한 휴머노이드 균형 제어기는 센서 공진 주파수의 소리로 회전값이 왜곡돼 실제로 없는 기울기를 보정할 수 있는데, 이 음향 공격은 드론에 대해서만 시연됐고 휴머노이드가 넘어지는 사례는 입증되지 않았다. 기사는 공격자가 거짓 입력을 원하는 시점에 넣고 같은 트리거를 반복할 수 있다는 점에서 사고성 결함을 가정한 위험 평가를 다시 봐야 한다고 말한다. 중복 센서도 하나의 조작이 두 입력에 함께 영향을 줄 수 있으므로 적대적 시험이 필요하며, 자율주행 연구에서 카메라와 라이다를 함께 쓰는 인식 시스템을 속인 사례가 인용됐다. 기사는 GB/T 45502-2025, IEC TS 63074, 2027년 1월 20일부터 적용되는 EU 기계 규정을 함께 언급하지만 각 규정의 적용 범위와 로봇별 근거는 여전히 따로 확보해야 한다고 덧붙인다.
로봇 안전 제한값을 정할 때 센서와 메시지 입력이 조작된 경우의 시험 결과를 함께 확보해야 하며, 중복 센서가 같은 조작에 함께 노출되는지 확인해야 한다.
원문 출처
IEEE Spectrum — AI