AI 도구를 '직원'으로 간주할 때 발생하는 문제
AI agents are not your “coworkers”
Boston University의 Emma Wiles 교수의 연구에 따르면, AI 도구를 '직원'으로 간주할 경우 사람들은 오류를 18% 더 많이 놓치는 것으로 나타났다. 연구에 참여한 관리자 중 23%는 AI 에이전트를 직원으로 간주하고 있으며, AI 도구가 직원으로 프레임될 때 사용자는 자신의 책임을 덜 느끼고, AI의 문제 작업을 관리자에게 보고할 가능성이 44% 증가한다. 이는 AI 에이전트가 의료, 교육, 정부 등 다양한 분야에 통합될 때 인간의 잘못된 결정에 대한 책임을 회피하는 경향을 초래할 수 있다.
AI 도구를 직원으로 간주하는 것은 개발자들이 AI의 실제 기능과 한계를 이해하는 데 방해가 될 수 있다.
원문 출처
MIT Technology Review — AI