추론·모델 배포

54개 서비스

• 

  Hugging Face

  추론·모델 배포

  AI 모델과 데이터셋의 공유·배포 플랫폼

  무료 + 유료 플랜
• 

  Ollama

  추론·모델 배포

  오픈 LLM을 로컬에서 실행하는 런타임

  무료 + 유료 플랜
• 

  vLLM

  추론·모델 배포

  언어모델을 빠르게 실행하는 오픈소스 추론 엔진

  오픈소스
• 

  Amazon SageMaker AI

  추론·모델 배포

  AI 모델을 학습·튜닝하고 관리형 엔드포인트로 배포하는 AWS 머신러닝 플랫폼
• 

  Anyscale

  추론·모델 배포

  Ray 기반으로 분산 학습·배치 추론·모델 서빙을 운영하는 AI 컴퓨트 플랫폼
• 

  AnythingLLM

  추론·모델 배포

  내 컴퓨터에서 로컬 모델로 문서 대화와 에이전트를 실행하는 데스크톱 AI 앱

• Backend.AI

  추론·모델 배포

  GPU 자원을 가상화·오케스트레이션해 AI 학습·추론을 운영하는 국내 플랫폼

• Baseten

  추론·모델 배포

  프로덕션 AI 모델 추론·학습을 운영하는 모델 배포 플랫폼
• 

  Bento Inference Platform

  추론·모델 배포

  자체 인프라나 Bento Cloud에서 AI 모델 추론을 배포·확장하는 플랫폼

• Cerebras Inference

  추론·모델 배포

  웨이퍼 스케일 칩으로 AI 모델을 고속 실행하는 추론 클라우드 API

• Cloudflare Workers AI

  추론·모델 배포

  Cloudflare 글로벌 네트워크의 GPU에서 오픈 모델을 서버리스로 실행하는 추론 서비스
• 

  CoreWeave

  추론·모델 배포

  AI 학습·추론용 대규모 GPU 클러스터를 제공하는 AI 전용 클라우드
• 

  Crusoe

  추론·모델 배포

  GPU 인스턴스와 관리형 추론·파인튜닝을 제공하는 AI 클라우드
• 

  DeepInfra

  추론·모델 배포

  100여 개 오픈 모델 추론 API와 GPU 임대를 제공하는 추론 플랫폼
• 

  Docker Model Runner

  추론·모델 배포

  docker 명령으로 AI 모델을 내려받아 로컬에서 OpenAI 호환 API로 실행하는 Docker의 기능
• 

  Exo

  추론·모델 배포

  여러 대의 내 기기를 하나로 묶어 대형 모델을 로컬에서 실행하는 분산 추론 도구
• 

  fal

  추론·모델 배포

  이미지·영상·음성 생성 모델 API와 서버리스 GPU 호스팅을 제공하는 생성 미디어 플랫폼
• 

  Fireworks AI

  추론·모델 배포

  오픈 모델의 고속 추론과 학습을 제공하는 AI 추론 플랫폼
• 

  Foundry Local

  추론·모델 배포

  앱 안에서 NPU·GPU·CPU로 AI 모델을 기기 내 실행하는 Microsoft의 온디바이스 런타임
• 

  FriendliAI

  추론·모델 배포

  오픈 웨이트·자체 모델을 고속·저비용으로 서빙하는 AI 추론 클라우드
• 

  GMI Cloud

  추론·모델 배포

  서버리스 추론과 전용 GPU 클러스터를 제공하는 AI 클라우드
• 

  GroqCloud

  추론·모델 배포

  자체 LPU 칩 기반으로 오픈 모델을 고속 추론하는 클라우드 API
• 

  Hyperbolic

  추론·모델 배포

  온디맨드 GPU와 토큰 단위 과금 모델 추론을 제공하는 AI 클라우드

• Hyperstack

  추론·모델 배포

  H100·A100 등 GPU를 온디맨드·스팟으로 제공하는 AI 클라우드