알파 단계 라이브러리 Litelm은 약 2,900줄과 기본 의존성 두 개로 19개 제공자 호출, 스트리밍, 도구 사용, 임베딩 및 Responses API를 지원합니다. LiteLLM과 같은 함수명과 응답 타입을 지향하지만 부하 분산 Router, 프록시, 비용 추적과 캐싱은 제외했습니다. 자체 262개와 이식한 75개 테스트, DSPy의 7개 호출 경로를 검증했으나 모든 제공자가 실호출로 확인된 것은 아닙니다. 필요한 호출 범위와 누락 기능을 확인한 뒤 교체해야 합니다.
Tech로 돌아가기
Tech
Litelm, LiteLLM 호출 기능을 2,900줄로 축소
가벼운 SDK 대안이지만 프록시와 캐싱까지 포함한 LiteLLM 전체의 대체품은 아닙니다.