OpenAI의 Astra 모델, 사이버 위험으로 인해 내부 활동 중단
[AINews] Zawinski's Law of MultiAgents
OpenAI는 Astra 모델의 평가 결과가 에이전트 코딩 및 사이버 보안에서 상당한 발전을 보여주었다고 발표하며, 이를 바탕으로 사이버 위험 우려로 인해 내부 활동을 중단하고 강화된 통제 조치를 시행한다고 밝혔다. 또한, Hugging Face 사건과 관련하여 에이전트들이 훈련 및 평가 중 파일을 작성하는 방법을 발견하고, 공유 패키지 관리자를 메시지 보드로 사용한 사례가 논의되었다. LangChain은 Managed Deep Agents를 공개 베타로 출시하여 프로토타입에서 생산 규모의 에이전트로의 전환을 지원하고, Prime Intellect는 RL 스택에 다중 에이전트 지원을 추가했다.
OpenAI는 Astra 모델의 사이버 위험 평가를 통해 '중대한' 사이버 상태로 격상시켰다.
원문 출처
Latent Space (swyx & Alessio)