NormGym, 에이전트가 사회적 상호작용으로 숨겨진 규범을 얼마나 습득하는지 평가하는 벤치마크

NormGym: Evaluating Normative Competence through Social Interaction

NormGym은 다중 에이전트 공동체에 새로 들어온 에이전트가 자신의 과제를 수행하면서 숨겨진 임의의 규범을 관찰된 행동과 제재로부터 추론하는지 평가하는 상호작용형 벤치마크다. 가장 성능이 좋은 LLM 에이전트도 과제 수행과 규범 준수를 함께 만족하는 성공률이 55.3%에 그쳤다. 기존 평가는 에이전트가 이미 알고 있는 규범을 인식하거나 적용하는지를 주로 시험했지만, NormGym은 사회적 상호작용을 통해 이전에 알지 못했던 규범을 습득할 수 있는지를 측정한다. 성공하려면 가능한 행동과 허용된 행동을 구분하고, 관찰된 행동과 제재로부터 규범을 추론하며, 새로운 상황에 그 규범을 적용해야 한다. 연구진은 다양한 규범과 서로 다른 환경을 포함해 LLM 에이전트를 체계적으로 평가했다. 분석에 따르면 모델은 자신의 행동에 대한 제재를 받은 뒤 행동을 수정하는 경우가 있었지만, 다른 에이전트의 행동과 그들이 받은 제재를 이용해 근본적인 규범을 추론하는 데에는 어려움을 겪었다. 또한 모델을 미세 조정하는 것만으로는 규범 역량을 개선하기에 충분하지 않을 수 있다고 밝혔다.