본문으로 건너뛰기
AIPida
aip
ı
da
서비스
신규
업데이트
순위
활용
비교
혜택
뉴스
커뮤니티
구독
서비스
신규
업데이트
순위
활용
비교
혜택
홈
/
서비스
/
추론·모델 배포
Docker Model Runner
추론·모델 배포
docker 명령으로 AI 모델을 내려받아 로컬에서 OpenAI 호환 API로 실행하는 Docker의 기능
대안
6
댓글
대안
Hugging Face
AI 모델과 데이터셋의 공유·배포 플랫폼
무료 + 유료 플랜
Ollama
오픈 LLM을 로컬에서 실행하는 런타임
무료 + 유료 플랜
vLLM
언어모델을 빠르게 실행하는 오픈소스 추론 엔진
오픈소스
Amazon SageMaker AI
AI 모델을 학습·튜닝하고 관리형 엔드포인트로 배포하는 AWS 머신러닝 플랫폼
Anyscale
Ray 기반으로 분산 학습·배치 추론·모델 서빙을 운영하는 AI 컴퓨트 플랫폼
Backend.AI
GPU 자원을 가상화·오케스트레이션해 AI 학습·추론을 운영하는 국내 플랫폼
댓글
로그인하면 댓글을 작성할 수 있습니다.
로그인
댓글
로그인하면 댓글을 작성할 수 있습니다.
로그인