추론·모델 배포

34개 서비스

• 

  Hugging Face

  추론·모델 배포

  AI 모델과 데이터셋의 공유·배포 플랫폼

  무료 + 유료 플랜
• 

  Ollama

  추론·모델 배포

  오픈 LLM을 로컬에서 실행하는 런타임

  무료 + 유료 플랜
• 

  vLLM

  추론·모델 배포

  언어모델을 빠르게 실행하는 오픈소스 추론 엔진

  오픈소스

• Amazon SageMaker AI

  추론·모델 배포

  AI 모델을 학습·튜닝하고 관리형 엔드포인트로 배포하는 AWS 머신러닝 플랫폼

• Anyscale

  추론·모델 배포

  Ray 기반으로 분산 학습·배치 추론·모델 서빙을 운영하는 AI 컴퓨트 플랫폼

• Backend.AI

  추론·모델 배포

  GPU 자원을 가상화·오케스트레이션해 AI 학습·추론을 운영하는 국내 플랫폼

• Baseten

  추론·모델 배포

  프로덕션 AI 모델 추론·학습을 운영하는 모델 배포 플랫폼

• Bento Inference Platform

  추론·모델 배포

  자체 인프라나 Bento Cloud에서 AI 모델 추론을 배포·확장하는 플랫폼

• Cerebras Inference

  추론·모델 배포

  웨이퍼 스케일 칩으로 AI 모델을 고속 실행하는 추론 클라우드 API

• Cloudflare Workers AI

  추론·모델 배포

  Cloudflare 글로벌 네트워크의 GPU에서 오픈 모델을 서버리스로 실행하는 추론 서비스
• 

  Decawork

  추론·모델 배포

  회사 전용 모델로 내부 AI 에이전트를 운영하는 서비스

• DeepInfra

  추론·모델 배포

  100여 개 오픈 모델 추론 API와 GPU 임대를 제공하는 추론 플랫폼

• fal

  추론·모델 배포

  이미지·영상·음성 생성 모델 API와 서버리스 GPU 호스팅을 제공하는 생성 미디어 플랫폼

• Fireworks AI

  추론·모델 배포

  오픈 모델의 고속 추론과 학습을 제공하는 AI 추론 플랫폼

• FriendliAI

  추론·모델 배포

  오픈 웨이트·자체 모델을 고속·저비용으로 서빙하는 AI 추론 클라우드

• GroqCloud

  추론·모델 배포

  자체 LPU 칩 기반으로 오픈 모델을 고속 추론하는 클라우드 API

• Hyperbolic

  추론·모델 배포

  온디맨드 GPU와 토큰 단위 과금 모델 추론을 제공하는 AI 클라우드

• Jan

  추론·모델 배포

  오픈 모델을 PC에서 오프라인으로 실행하는 오픈소스 데스크톱 앱

• Lightning AI

  추론·모델 배포

  온디맨드 GPU로 모델을 개발·학습·배포하는 AI 클라우드 플랫폼

• llama.cpp

  추론·모델 배포

  CPU·GPU에서 LLM을 로컬로 실행하는 오픈소스 C/C++ 추론 엔진

• LM Studio

  추론·모델 배포

  PC에서 오픈 LLM을 내려받아 실행하고 로컬 서버로 제공하는 데스크톱 앱

• Modal

  추론·모델 배포

  AI 모델 학습·서빙을 코드만으로 실행하는 서버리스 GPU 클라우드

• Modular

  추론·모델 배포

  MAX 서빙 프레임워크와 Mojo 언어 기반의 통합 AI 추론 플랫폼

• Nebius Token Factory

  추론·모델 배포

  오픈 모델을 OpenAI 호환 API로 호스팅·서빙하는 Nebius 추론 플랫폼