기업 환경에서의 에이전틱 AI 구축
Building the enterprise environment for agentic AI
에이전틱 AI는 단순한 챗봇 이상의 기능을 제공하며, 비즈니스 작업을 사람, 워크플로우, 데이터 및 시스템 전반에 걸쳐 실행하는 소프트웨어 에이전트를 포함한다. 에이전틱 AI의 성능을 평가하기 위해 인텔은 Terminal-Bench라는 오픈 소스 벤치마크 도구를 확장하여 에이전트의 성능을 LLM 변동성과 분리하여 분석하였다. 에이전트 밀도(agents per vCPU)를 기준으로 계획하고, 평균 CPU 활용도 대신 작업 지연(P95)을 모니터링하는 것이 중요하다.
에이전틱 AI의 성능을 평가하기 위해 에이전트 밀도와 작업 지연을 기준으로 하는 새로운 접근 방식이 필요하다.
원문 출처
MIT Technology Review — AI