proxyTimeout

· 이슈
배경 Chat GPT API 를 사용하다보니 꽤나 오랜 시간 응답을 기다려야하는 상황이 필요했다. 오랜 응답을 기다린다는건 어찌보면 내부 토큰이 과하게 사용된거라고 봐도 무방할 정도로, 큰 데이터들 경우 특히나 오래걸렸는데 아니나 다를까 timeout이 발생했다. 이상한 점은 60초가 아닌, 30초에 timeout이 난다는 점이고, 30도 정확하게 30초가 아닌 30.02초, 30.1초 이런식으로 표현됐다. 사실 timeout이라 뜨기보다 499 / 500 에러로 클라이언트가 이미 종료되었거나, 서버내부 에러로 브라우저 콘솔로그에 표시되었지만, 여러번 시도해도 해당 시간에만 종료된다는걸로 보아 타임아웃으로 판단하고 문제해결을 위해 파악하기 시작했다. 해결 우선 다른 환경에서도 동일한지 확인이 필요했다. ..
신·기록
'proxyTimeout' 태그의 글 목록