Scott Alexander의 'Against SURA' 반박: 'Stop Unilaterally + Raise Awareness' 전략에 대한 Zvi Mowshowitz의 비판
Scott Alexander’s Against SURA Seems Deeply Confused
Zvi Mowshowitz는 Scott Alexander가 쓴 'Against SURA'가 SURA(Stop Unilaterally + Raise Awareness, 일방적으로 중단하고 인식을 높이자)를 비판한 논지에 강하게 반대한다. 그는 Scott이 여전히 글로벌 중단(Plan A)을 지지하면서 SURA만 공격하는 구도의 실제 차이가 생각보다 작다고 본다. Scott Alexander는 AI 2040의 Plan A/S/Other를 묶은 Plan A(글로벌 AI 개발 중단을 추구하는 계획)와 그 밖의 모든 계획을 묶은 Plan C로 구분한다. 그는 SURA가 Plan C의 성공 가능성을 훼손하고, Plan A 역시 그 효과가 불분명하다고 주장한다. Mowshowitz는 Scott의 핵심 주장 네 가지(Plan A 노력이 Plan C를 해치고, Plan C는 기업의 'alignment-pilling'에 의존하며, Plan A가 실패할 가능성이 크고, SURA가 Plan A 가능성마저 낮춘다)에 대해 각각 조건부로 동의하거나 반박한다. Mowshowitz는 SURA의 전 조항 중 '일방적으로 중단하라'는 극단적 형태가 Plan C에 부정적일 수 있다고 인정하지만, 합리적인 형태의 SURA는 한계 기준으로 Plan C에도 긍정적일 것이라고 본다. 그는 Scott의 주장이 과도하게 일반화되었다고 지적하며, 기사 전반에서 개인·기업·국가 단위 행동에 대한 판단을 구분해야 한다고 강조한다.
Scott Alexander의 SURA 정의(개별 AI 기업·직원·국가가 경쟁 여부와 무관하게 일방적으로 AI 발전을 중단하고 인식을 높이는 전략)는 AI 연구 조직의 채용·사직·공개 발언 판단 기준이 될 수 있다.
원문 출처
Don't Worry About the Vase (Zvi Mowshowitz)