실운영과 유사한 패턴을 위해 템플릿 조합으로 생성되었습니다.
중단 후 재개 시 중복 적재를 막기 위해 작업 상태와 진행 포인터를 별도 테이블에 기록합니다.
대량 생성 중 예외가 발생하면 실패 시점과 청크 단위를 로그에 남기도록 했습니다.
장시간 요청을 피하기 위해 작업은 큐 워커에서 청크 단위로 나누어 처리합니다.
장시간 요청을 피하기 위해 작업은 큐 워커에서 청크 단위로 나누어 처리합니다.
게시판별 데이터량은 균등 분포가 아니라 상위 몇 개 게시판에 더 집중되도록 설계했습니다.
Comments4
최 하준
최 하준 · 25-12-22
댓글 수 편차가 잘 들어간 것 같습니다.
Williams 지우
Williams 지우 · 25-12-24
성능 비교할 때 참고하겠습니다.
김 하윤
김 하윤 · 25-12-25
좋은 정보 감사합니다.
Johnson Mia
Johnson Mia · 25-12-30
확인했습니다. 배치 크기만 조금 더 조정해 보시면 될 듯합니다. 추가 로그도 같이 보면 좋겠습니다.