DeepSeek DeepInfer 추론 프레임워크 공개, NVIDIA DSX POD 발표 등 AI 인프라 투자 동향
The Sequence Radar - Issue #958: Last Week in AI: Cheap Intelligence, Expensive Ambitions
DeepSeek이 프로덕션 추론 서비스의 기반인 DeepInfer를 공개해 DeepSeek-V4.1-Flash를 NVIDIA와 Huawei 하드웨어에서 구동하도록 지원했다. 같은 주 NVIDIA는 DSX POD를, Meta와 SpaceX는 대규모 AI 투자 실적을 발표했다. DeepInfer는 추론 코어를 제공하며, 토큰을 미리 초안으로 만들어 검증하는 방식과 스케줄링을 연산과 겹치게 하는 기법을 사용한다고 기사는 밝혔다. 다만 완전한 서비스를 위해서는 운영자가 캐싱과 로드 밸런싱을 별도로 갖춰야 한다고 적었다. NVIDIA는 GTC Berlin에서 모듈형 Vera Rubin AI 팩토리 설계인 DSX POD를 소개하며, 준비된 부지에서 배포 기간이 여섯 달에서 최단 14일로 줄 수 있고 파트너 납품은 2027년 초로 예상된다고 밝혔다. 또한 에이전트 거버넌스와 보안을 위한 OpenShell Reference Architecture를 함께 공개했다. Meta는 분기 매출이 26% 증가한 646억 달러였고 분기 자본지출은 349억 달러, 잉여현금흐름은 마이너스 21억 달러였다고 보고했다. SpaceX의 AI 부문 SpaceXSI는 분기 매출 75억 6천만 달러, 영업이익 4억 3,100만 달러, 자본지출 164억 4천만 달러를 기록했다고 전했다. 기사에서 Legora는 5억 5천만 달러를 조달해 기업가치 88억 달러에 도달했고 연간 반복 매출이 2억 달러를 넘었다고 한다. 기사는 이들 발표를 추론 비용 하락이 수요를 키워 신규 인프라 투자를 정당화할지, 그리고 특화 애플리케이션이 가치를 얼마나 가져갈지에 대한 베팅으로 해석했다.
DeepInfer는 DeepSeek-V4.1-Flash를 NVIDIA와 Huawei 하드웨어에서 구동하는 추론 코어로, 캐싱과 로드 밸런싱을 직접 붙여야 한다는 점을 실무에서 확인해야 한다.
원문 출처
TheSequence (Jesus Rodriguez)