StruPO, 구조 인식 기반 텍스트-이미지 프롬프트 편집 정책 학습
From Structural Feedback to Prompt Policies: Learning Faithful Text-to-Image Prompt Editors
StruPO는 장면 그래프를 공유 표현으로 사용해 프롬프트를 편집하는 구조 인식 프롬프트 편집기다. 스타일 재작성 과정에서 객체 속성과 관계가 약해지는 문제를 줄이고, 이미지 기반 감독 신호로 재사용 가능한 편집 정책을 학습한다. 기사에 따르면 StruPO는 보존해야 할 요소를 장면 그래프로 드러내고, 삭제·재배열·삽입으로 토큰 단위 편집을 수행한다. 불확실한 그라운딩은 부드러운 보상 형성으로 처리하며, 각 편집마다 여러 이미지를 평균 낸 뒤 그룹 상대 이득을 계산한다. 실험은 서로 겹치지 않는 3개의 2K 프롬프트 테스트 세트와 4개의 고정된 생성 백본에서 진행되었고, 학습형 프롬프트 최적화기, 반복적 구조 피드백, 확산 모델 미세 조정, 추론 시점 어텐션 제어와 비교되었다. 저자들은 충실도와 미적 품질의 상충 관계가 개선되었고 관계 충실도에서 일관된 향상이 있었다고 보고했다. 그래프 캘리브레이션 이후 한 번의 패스로 최적화된 텍스트를 생성하며 반복적 비평-재작성 루프는 필요하지 않다고 한다.
StruPO는 그래프 캘리브레이션 후 반복 루프 없이 한 번의 패스로 최적화된 프롬프트를 생성하므로, 기존 생성 백본에 붙여 쓰는 프롬프트 전처리 단계로 활용할 수 있다.
원문 출처
arXiv cs.AI (인공지능)