Selection-based Structured Reasoning(SSR) 프레임워크 소개
Selection-Based Structured Reasoning: Toward Efficient Multimodal Search Agents
SSR은 멀티모달 에이전트가 각 행동 전에 자유형 사고를 생성하는 대신, 선택 기반으로 사고를 재구성하는 프레임워크이다. 작은 모델의 경우, 제한된 모델 용량으로 인해 긴 사고 과정이 발생할 수 있으며 이는 행동 생성에 유용한 지침을 제공하지 못하고 상당한 추론 비용을 초래할 수 있다. SSR은 반복적인 고수준 사고를 미리 지정된 재사용 가능한 자연어 후보로 표현하며, 각 턴에서 모델은 이러한 사고 후보 중에서 선택한다.
SSR은 멀티모달 에이전트의 추론 과정을 효율적으로 개선하여 추론 비용을 줄일 수 있다.
원문 출처
Apple Machine Learning Research