OpenAI의 Jalapeño 칩, 경쟁사보다 빠른 AI 응답 제공
OpenAI says its Jalapeño chip can power faster AI responses than the competition
OpenAI는 새로운 AI 칩 Jalapeño가 다른 AI 시스템보다 작업을 더 효율적으로 수행하고 응답을 더 빠르게 반환한다고 발표했다. Jalapeño는 낮은 지연 시간과 높은 처리량을 제공하며, AI 시스템이 일반적으로 이 두 가지 사이에서 트레이드오프를 해야 하는 문제를 해결한다. 이 칩은 Broadcom과의 협력으로 제작된 응용 프로그램 전용 집적 회로(ASIC)로, AI 추론을 위해 설계되었다.
Jalapeño는 낮은 지연 시간과 높은 처리량을 동시에 제공하여 AI 모델을 실행하는 데 있어 효율성을 높인다.
원문 출처
The Verge — AI