ai-rate-limiting-advanced를 strategy: redis로 쓰면 토큰 사용량은 Data Plane 로컬 버퍼와 Redis에 함께 쌓입니다. Redis가 잠깐 죽거나 연결이 끊겨도 요청은 로컬 한도로 계속 통과합니다. 문제는 복구 시점입니다. 장애 구간에 로컬에만 쌓인 양이 Redis로 소급 반영되지 않습니다.
이 글은 그 관측 결과와 이유를 정리합니다.
목적
- Redis strategy AI Rate Limit에서 장애 중 / 복구 후 카운터가 어디에 남는지 확인합니다.
- 로컬에 누적된 diff가 복구 후 Redis로 catch-up되지 않는 이유를 코드 경로와 실측으로 맞춥니다.
- 운영 시 Redis HA·
sync_rate·다중 DP가 전역 한도에 주는 영향을 짧게 정리합니다.
26. 9. 15.약 10 분
