샘 올트먼, 사이버 방어와 생물보안이 갖춰지기 전까지 OpenAI 최고 모델 공개 불가 입장
Sam Altman: OpenAI's best model "can't responsibly be open-sourced" until the world builds better cyberdefense and bio-security
OpenAI CEO 샘 올트먼은 스탠퍼드 경영대학원 'View from the Top' 대담에서 회사의 현재 최고 내부 모델은 글로벌 사이버 방어 체계와 생물보안 장치가 충분히 강화되기 전까지 책임 있게 오픈소스로 공개할 수 없다고 밝혔다. 오픈웨이트 모델의 사회적 가치는 인정하면서도 공개 범위에 선을 긋는 발언이다. 올트먼은 OpenAI가 처음에는 순수 연구소를 지향했고, 초지능이 개발되면 상업화와 제품화는 저절로 해결될 것이라고 순진하게 생각했다고 회고했다. 실제 기술 발전 경로는 기대와 크게 달랐고, 회사는 2020년 무렵 방향을 전환했다. ChatGPT 출시 이후의 폭발적 성장으로 OpenAI는 사실상 하룻밤 사이에 대기업이 됐다. 그는 2020년의 판단 중 AI 정렬(alignment) 문제의 난이도를 과소평가했다고 인정했다. 현재 모델들은 기대보다 나은 정렬 수준을 보였지만, 그 추세가 저절로 이어진다고 가정해서는 안 된다고 경고했다. 수학적 추론 같은 좁은 영역에서는 이미 초지능 수준에 도달했으며 예상보다 빨리 왔다고 말했다. 현행 글로벌 거버넌스 체계를 조정하지 않으면 현재의 개발 속도를 유지하기 어렵다고 주장하며, 업계 차원에서 AI 발전 속도를 조절하는 방안을 진지하게 논의해야 한다고 촉구했다. 기사는 올트먼의 발언 중 몇 가지 구체적 문장을 함께 인용했다. 사회 전체가 상당히 높은 수준의 역량까지 도달하기 전에는 오픈웨이트 모델이 매우 중요하다는 입장, 모든 오픈소스 모델을 금지하는 것은 혁신과 자유에 과도한 비용을 지우므로 해서는 안 된다는 입장, 그리고 일정 수준을 넘어서면 모델이 충분한 해악을 낳을 수 있어 사용자에게 자유로운 사용을 허용하기 어렵다는 입장이 담겼다. 또한 이것이 자신의 컴퓨터에서 신경망을 돌리면 안 된다는 뜻은 아니라고 덧붙였다.
올트먼이 최고 내부 모델의 오픈소스 공개를 사이버 방어와 생물보안 조건에 묶어 언급하면서, 로컬 LLM 실행 환경과 오픈웨이트 모델의 공개 범위가 향후 정책 변수가 될 수 있다는 점을 확인할 수 있다.
원문 출처
r/LocalLLaMA