Anthropic IPO 투자설명서, 회사의 정체성과 위험 서술을 둘러싼 논쟁
Will the real Anthropic please stand up
Anthropic이 335쪽 분량의 IPO 투자설명서를 제출했고, 여기에는 자사 기술이 "신뢰를 침식하고 사회를 해치며 지정학적 질서를 불안정하게 만들 수 있다"는 위험 경고가 담겼다. 기사는 회사가 자신을 안전 중심 조직으로 내세우면서 동시에 막대한 상업적 이익을 추구하는 모순을 짚는다. 투자설명서 약 100쪽이 위험 요인에 할애됐으며, 회사는 잠재 투자자에게 주식 구매를 "순수하게 거래적으로 생각하지 말라"고 권고했다. 기사에 따르면 Anthropic 공동창업자 Jack Clark는 이달 방콕 IMF 회의 연설에서 특이점(singularity)이 이미 시작됐다고 말했고, 공동창업자 Chris Olah는 교황 레오 14세 등 종교 학자들 앞에서 모델 내부에서 기쁨·두려움·슬픔과 유사한 상태가 기능적으로 나타난다고 발언했다. 투자설명서는 모델의 감각(sentience)과 도덕적 지위에 관한 논쟁이 규제 압력을 높여 운영 비용과 상업적 잠재력을 제약할 수 있다고 위험 요인으로 적었다. 기사는 이 회사를 한 가지로 규정하기 어렵다고 본다. 기사가 인용한 Dario Amodei CEO의 답변에 따르면 회사 전략은 "레이스 투 더 톱(race to the top)"으로, 책임 있는 기술 개발을 보여줌으로써 업계 전체의 기준을 끌어올리겠다는 것이다. 기사는 Encode AI의 Nathan Calvin이 제기한 "Anthropic은 무엇인가"라는 질문과, 회사가 비공개로 미 의회에 돌린 초안 법안이 유출된 사례를 함께 언급하며, 안전 기관이라는 자기 서사와 최고 성능 기술을 가장 먼저 만들려는 기업이라는 실체 사이의 간극을 지적한다.
원문 출처
MIT Technology Review — AI