다중 모달리티 에이전트 프레임워크의 기초와 응용에 대한 조사
A Survey on Foundations and Frontiers of Multimodal Agentic Frameworks: Techniques and Applications
대형 언어 모델(LLMs)의 발전은 에이전시 연구를 촉진시켰으며, 이는 인지, 기억, 의사결정을 조율하는 에이전트 프레임워크를 생성했다. 대형 다중 모달 모델(LMMs)의 등장으로 이미지, 오디오, 비디오 등 다양한 모달리티를 처리하고 통합할 수 있게 되어 실제 적용 가능성이 향상되었다. 이 조사에서는 에이전트 프레임워크의 핵심 기능 모듈인 인지, 추론, 계획, 기억, 행동에서 다중 모달리티의 영향을 분석하고, 텍스트 중심 에이전트에서 다중 모달 프레임워크로의 진화를 추적한다. 또한, 로봇공학, GUI 및 웹 탐색, 멀티미디어 콘텐츠 생성 및 편집, 장기 비디오 이해 및 검색 등 다양한 응용 분야에서 다중 모달 에이전트 시스템을 검토하고 성능과 효율성에 대한 논의를 포함한다.
다중 모달 모델을 통해 에이전트 프레임워크의 인지 및 추론 능력을 향상시킬 수 있다.
원문 출처
arXiv cs.AI (인공지능)