4장 :: 처리율 제한 장치 설계 5가지 핵심

·
코딩/대규모 시스템 설계
처리율 제한 장치 설계는 Rate Limiter로 API Rate Limiting을 구현해 과도한 요청을 제어하는 시스템 설계 면접 단골 주제다. 단순히 “분당 100회까지만 허용한다”로 끝나는 문제가 아니다. 어디에서 막을지, 어떤 알고리즘으로 셀지, 분산 서버가 같은 한도를 어떻게 공유할지, 제한된 클라이언트에게 무엇을 알려줄지까지 이어진다. 이 주제를 처음 정리할 때 가장 헷갈리는 지점은 알고리즘 이름이 아니라 판단 순서다. 토큰 버킷, 누출 버킷, 고정 윈도 카운터가 각각 무슨 일을 하는지는 금방 외울 수 있다. 면접에서는 “왜 이 위치에 두고, 왜 이 알고리즘을 골랐는가”를 말해야 답변이 설계처럼 들린다.처리율 제한 장치 설계가 필요한 이유처리율 제한 장치란 일정 시간 동안 사용자, IP, AP..