Tokio 성능 지침은 실행 준비부터 실제 폴링까지의 스케줄 지연을 관찰하고 사용자 응답 시간에서 병목을 역추적하라고 권합니다. 파이프라인 요청은 주기적으로 실행권을 양보하면 공정성과 지연이 개선되지만, 작은 파일 작업마다 spawn_blocking을 호출하면 공용 큐와 스레드 전환 비용이 커집니다. 잠금의 임계 구역을 짧게 유지하고 전역 자원 경합도 확인해야 합니다. 긴 폴링 자체가 항상 문제는 아니므로 운영 부하와 P99 지연 및 처리량을 함께 측정하는 실무 원칙입니다.
Tech로 돌아가기
Tech
Tokio 성능 지침, 지연과 처리량의 절충을 설명
태스크를 무조건 잘게 나누기보다 실제 지표와 스케줄 지연을 측정한 뒤 양보와 묶음을 조절해야 합니다.