OpenAI, 모델 스펙(Model Spec) 개정안 공개: 다섯 가지 핵심 가치와 위험 분류 체계 재편
OpenAI Updates Its Model Spec
OpenAI가 모델의 목표와 사고 방식을 정의하는 Model Spec을 개정했다. 개정판은 충실성, 위해 최소화, 정직과 투명성, 인간 주체성 촉진, 배려라는 다섯 가지 가치를 중심으로 구조를 다시 짰다. 기사 저자는 이전 버전과 비교해 변경점을 추렸다. 핵심 가치 다섯 가지가 전면에 놓였고, 위험 분류는 기존의 '잘못된 목표, 실행 오류, 유해한 지시' 체계에서 '제3자 조작, GPT 자체에서 비롯된 실패, 사용자 또는 개발자의 유해한 지시' 체계로 바뀌었다. 레드라인 원칙과 지시 계층(chain of command)은 그대로 유지됐다. 다만 '부작용 통제'는 루트 수준에서 사용자 수준 원칙으로 내려갔다. 저자는 사용자가 이미 할 수 있던 일이라 기능적 변화는 아니라고 평가했다. 기사는 '사랑과 호기심' 같은 원칙이 사용자 수준 섹션에서 빠진 점을 비판하며, 이를 스타일 지침이 아닌 핵심 가치로 다뤄야 한다고 주장했다. 저자는 새 예시 상당수가 답이 이미 정해진 과잉 결정(overdetermined) 사례여서, 실제로 판단이 어려운 상황에서 모델이 무엇을 해야 하는지 가르치지 못한다고 지적했다. 위험 분류에 대해서는 잘못된 목표와 실행 오류의 구분을 되살리고, 유해한 지시를 사용자·개발자 발과 제3자 발로 나눠 네 범주로 보는 것이 낫다고 제안했다.
Model Spec의 다섯 가치와 '제3자 조작, GPT 자체에서 비롯된 실패, 사용자 또는 개발자의 유해한 지시' 위험 분류는 시스템 프롬프트와 지시 계층을 설계할 때 참고할 수 있는 구체적 기준이다.
원문 출처
Don't Worry About the Vase (Zvi Mowshowitz)