vLLM
vLLM Project · LLM 개발·인프라
대규모 언어모델을 빠르고 효율적으로 서빙하는 오픈소스 추론 엔진이다. PagedAttention으로 처리량과 메모리 효율을 크게 높인다.
오픈소스한국어 미지원
분야
LLM 개발·인프라
모델 API·프레임워크·RAG·평가·배포 인프라
2개 서비스필터 초기화
오픈소스 조건으로 보고 있습니다.
LangChain
LangChain · LLM 개발·인프라
LLM 애플리케이션과 에이전트를 구성하는 오픈소스 개발 프레임워크다. 체인, 도구 호출, 메모리, 검색을 표준화된 추상화로 묶는다.
오픈소스한국어 미지원
라벨은 라벨 안내
- 소유자 확인
- 서비스 관계자가 소유권을 확인하고 정보를 관리합니다.
- 직접 테스트
- AIPida가 적힌 조건과 자비 요금제로 직접 사용해 봤습니다.
- 지표 연동
- 공급자와 전환 데이터가 연결돼 있습니다.
- 스폰서
- 노출 대가를 받은 광고 영역입니다.
- 제휴
- 이 링크로 가입·결제하면 AIPida가 수수료를 받을 수 있습니다.
라벨은 품질 보증이 아닙니다. 내부 지표는 모두 “AIPida에서” 측정한 값만 말합니다.