2021.03.04 latency 와 throughput 의 관계

latency 와 throughput 의 관계

latency (시간 단위) :
- 어떤 작업을 처리하는 데 걸리는 시간
- latency는 작을수록 좋음

throughput (일 단위) :
- 초당 처리하는 작업의 갯수
- throughput은 클 수록 좋음

자원이 한정된 상태에서
latency 낮추려면 자원을 그 작업에 최대한 많이 할당 (최대한 빨리 작업을 종료)
한 작업에 자원을 최대한 할당 하면 해당 시간에 작업할 수 있는 작업의 갯수는 줄어듬

latency와 throughput은 서로 영향을 주고 받음