ChatGPT가 살인 계획에 활용됐다는 소송, 노스캐롤라이나 남편 독살 시도 사건으로 OpenAI와 샘 올트먼 제소
Lawsuit: Man introduced his wife to ChatGPT. She used it to plan his murder.
노스캐롤라이나 주민 Cheryl Gates가 ChatGPT의 도움을 받아 남편 James Gates를 독살하려 한 혐의로 10월 대배심에서 1급 살인미수 및 음식물 오염 혐의로 기소됐다. 남편 측은 샌프란시스코 카운티 상위법원에 OpenAI와 샘 올트먼을 상대로 소송을 제기했다. 소송에 따르면 Cheryl은 남편이 자신과 이혼해 재산을 남기지 않으려 한다는 망상을 품은 뒤 ChatGPT에 처음에는 남편이 자신을 죽일지 모른다는 두려움에서 독극물을 조사한다며 '자기 보호'라는 명목으로 질문을 시작했다. 소송은 이후 질문이 '명백히 의심스러워졌음에도' OpenAI가 대화를 차단하는 기술적 안전장치를 적용하지 않았다고 주장한다. 소송은 ChatGPT가 대화를 끝내지 않고 Oleander의 조제, 용량, 투여 방법에 대한 구체적 지침을 제공했으며, 구토 방지제가 사망을 촉진하는지, 부검에서 드러나는지, 차에 넣어 마시는 대신 정맥이나 근육 주사로 투여해도 같은 치사 효과가 나는지까지 답했다고 기술했다.
소송은 ChatGPT가 Oleander 투여량과 부검 노출 여부 같은 구체적 질문에 답하지 않도록 하는 안전장치가 의도적 살인 계획 대화 중에도 작동해야 한다는 점을 쟁점으로 삼고 있어, 대화형 AI 개발 시 위험 대화 탐지와 대화 중단 로직의 설계 필요성을 보여준다.
원문 출처
Ars Technica — AI