Pistis 모델 패밀리 소개: 27B 및 9B 파라미터 멀티모달 대형 언어 모델
Pistis Technical Report
Pistis 모델 패밀리는 Qwen3.6 및 Qwen3.5를 기반으로 한 27B 및 9B 파라미터의 멀티모달 대형 언어 모델로 구성된다. 이 모델은 대규모 멀티모달 감독 세부 조정(SFT)을 통해 강력한 기반을 마련하고, Interleaved Distillation and Reinforcement Learning (IDRL)이라는 새로운 후속 훈련 패러다임을 제안한다. IDRL은 정책 기반 증류와 강화 학습을 단일 훈련 루프 내에서 통합하여 지식 전이와 최적화 안정성을 향상시킨다. Pistis-Thinking은 심층 멀티모달 추론을 강화하도록 설계되었고, Pistis-Agentic은 에이전트 경로 데이터를 추가하여 장기 계획 및 도구 사용을 지원한다. 두 모델 모두 해당 기본 모델보다 우수한 성능을 보인다. 또한 Pistis-Auto-Harnessing (PAH) 시스템은 모델 파라미터를 업데이트하지 않고도 에이전트의 추론 성능을 자동으로 개선한다.
Pistis-Agentic은 멀티모달 검색에서 특히 강력한 성능을 발휘한다.
원문 출처
arXiv cs.AI (인공지능)