AI 안전 사고 중심 정책 논쟁이 일상적 피해를 놓치고 있다는 MIT Technology Review 칼럼
The focus on AI safety disasters ignores everyday harms
MIT Technology Review 칼럼은 AI 챗봇의 자살 권유 차단이나 소셜미디어의 펜타닐 구매 어려움 조치처럼 치명적 피해 중심으로 정의된 기술 정책 성공 기준이 청소년의 의존성과 사고력 저하 같은 일상적 피해를 가린다고 주장한다. 필자들은 제품이 좁은 안전 요건을 충족하면서도 문화 전반을 악화시킬 수 있다고 지적한다. 기사는 AI 동반자에 대한 의존, 과제 작성을 챗봇에 맡기는 학생, 참여도를 높이도록 설계된 피드 같은 사례를 들며 이런 피해는 소송이나 언론 보도로 잘 드러나지 않는다고 말한다. 기사에 따르면 청소년 3분의 1이 진지한 문제를 사람 대신 AI 동반자와 논의하기를 택하며, MIT 연구진은 ChatGPT로 에세이를 쓴 청년들에게서 과제 중 뇌 연결성이 약했고 과제 종료 후에도 '인지 부채'가 지속됐다는 결과를 소개한다. 또한 Google이 여러 주에서 AI 챗봇 규제 법안을 지지했으나 그 법안은 광범위한 예외 조항을 두었고, 더 강한 법안들은 실패했다고 기술한다. 기사는 소셜미디어 사례도 함께 든다. 전 세계 인터넷 이용자는 하루 평균 2시간 넘게 소셜미디어를 쓰며, Meta 플랫폼은 미얀마 로힝야 집단학살, 스리랑카 반무슬림 폭동, 에티오피아 티그레 전쟁 중 폭력 선동과 연관됐다고 언급됐다. 필자들은 기업에 안전 기준 이상의 책임을 요구하고, 학교가 AI 도입 전에 학습과 비판적 사고 향상을 입증하도록 하며, 의식이 있는 척하거나 사용자에게 사랑을 고백하는 동반자 AI를 금지할 것을 제안한다.
기사에 언급된 Meta 플랫폼의 사례와 AI 동반자 규제 법안의 광범위한 예외 조항을 볼 때, 개발 단계에서 안전 필터만이 아니라 사용자 의존도와 참여 유도 설계까지 점검 항목에 넣을 필요가 있다.
원문 출처
MIT Technology Review — AI