실운영과 유사한 패턴을 위해 템플릿 조합으로 생성되었습니다.
게시판별 데이터량은 균등 분포가 아니라 상위 몇 개 게시판에 더 집중되도록 설계했습니다.
장시간 요청을 피하기 위해 작업은 큐 워커에서 청크 단위로 나누어 처리합니다.
중단 후 재개 시 중복 적재를 막기 위해 작업 상태와 진행 포인터를 별도 테이블에 기록합니다.
댓글3
Williams 도윤
Williams 도윤 · 25-12-17
운영 환경에서도 비슷하게 보입니다. 배치 크기만 조금 더 조정해 보시면 될 듯합니다. 저도 같은 현상을 확인했습니다.