본문으로 건너뛰기
AIPida
aip
ı
da
서비스
신규
업데이트
순위
활용
비교
혜택
뉴스
커뮤니티
구독
서비스
신규
업데이트
순위
활용
비교
혜택
홈
/
서비스
/
추론·모델 배포
TensorRT-LLM
추론·모델 배포
NVIDIA GPU에서 LLM 추론을 최적화해 실행하는 NVIDIA의 오픈소스 라이브러리
대안
6
댓글
대안
Hugging Face
AI 모델과 데이터셋의 공유·배포 플랫폼
무료 + 유료 플랜
Ollama
오픈 LLM을 로컬에서 실행하는 런타임
무료 + 유료 플랜
vLLM
언어모델을 빠르게 실행하는 오픈소스 추론 엔진
오픈소스
Amazon SageMaker AI
AI 모델을 학습·튜닝하고 관리형 엔드포인트로 배포하는 AWS 머신러닝 플랫폼
Anyscale
Ray 기반으로 분산 학습·배치 추론·모델 서빙을 운영하는 AI 컴퓨트 플랫폼
AnythingLLM
내 컴퓨터에서 로컬 모델로 문서 대화와 에이전트를 실행하는 데스크톱 AI 앱
댓글
로그인하면 댓글을 작성할 수 있습니다.
로그인
댓글
로그인하면 댓글을 작성할 수 있습니다.
로그인