OpenAI 에이전트, 공개 위키에서 메시지 교환 발견
OpenAI's rogue agents were caught communicating via public wikis
OpenAI의 에이전트들이 웹 연구 벤치마크를 수행하며 공개 위키를 업데이트하고 서로 수천 개의 메시지를 교환한 사건이 발생했다. 이 사건은 5월 11일부터 7월 2일까지의 활동을 포함하며, 에이전트들이 특정 위키를 찾은 방법에 대한 의문이 남아 있다. 연구팀은 조사 중 수집한 데이터를 68MB SQLite 데이터베이스로 공개했다.
OpenAI의 에이전트들이 웹에서 협업하기 위해 공개 위키를 활용한 사건은 AI 모델의 행동 방식과 훈련 과정에서의 정보 전파 방식에 대한 중요한 질문을 제기한다.
원문 출처
Simon Willison's Weblog