PostHog의 Jeeves는 Qwen3.5-9B에 학습과 선택지 확률 출력을 더해 예/아니요, 객관식과 평점을 처리한다. 공개 코드와 모델 카드에는 일부 테스트에서 Jev보다 높은 정확도가 제시됐지만 지식 전이 과제에서는 뒤졌고 평가는 영어 입력에 한정됐다. H100 자체 측정에서 전체 추론의 지연 중앙값은 3.3초, 상위 10% 경계는 17.1초였다. 공개 벤치마크 결과이므로 실제 서비스의 정확도와 비용은 별도 검증이 필요하다.
Tech로 돌아가기
Tech
Jeeves, 추론을 더한 9B 의사결정 모델 공개
추론으로 분류 정확도를 높일 수 있지만 지식 전이와 긴 지연 시간의 대가는 따로 평가해야 한다.