스택큐힙리스트

오픈AI API에서 오류가 발생했습니다: 429 요청이 너무 많습니다. 본문

카테고리 없음

오픈AI API에서 오류가 발생했습니다: 429 요청이 너무 많습니다.

스택큐힙리스트 2024. 2. 1. 22:00
반응형

나는 express nodeJS에서 다음 코드로 openai API에 요청을 보내려고 시도하고 있습니다:


import { Configuration, OpenAIApi } from openai;
const configuration = new Configuration({
organization: org-Fn2EqsTpiUCTKb8m61wr6H8m,
apiKey: xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx,
});
const openai = new OpenAIApi(configuration);
async function callApi() {
const response = await openai.createCompletion({
model: text-davinci-003,
prompt: 이것은 테스트입니다.,
max_tokens: 3000,
temperature: 0,
});
console.log(response.data.choices[0].text);
}
callApi();

문제는 계속해서 오류 429 요청이 너무 많음을 받는다는 것입니다.


여기에 추가 정보가 있습니다:


  • API 키가 올바릅니다.

  • 내 openai 계정으로 이동하면 API 키를 볼 수 있습니다. 키가 사용되지 않았으므로 호출을 수행할 수 없었습니다. 그렇다면 어떻게해서 오류 Too many requests를 받을 수 있을까요?

  • 이미 함수에 지수적 백오프를 구현해 보았지만 작동하지 않았습니다.

답변 1

4월 1일 이후에도 동일한 오류 (429)가 발생하면, 이는 4월 이전에 등록된 모든 계정의 무료 체험 기간 18$가 만료되었음을 의미합니다. 심지어 한 번도 API 키를 사용하지 않았더라도 그렇습니다.


API 사용 페이지에서 다음과 같이 찾을 수 있습니다:


GRANT # CREDIT GRANTED  EXPIRES (UTC)
Grant 1 $18.00 2023-04-01에 만료됨

좋은 소식은 여전히 공식 웹 채팅 페이지를 사용할 수 있다는 것입니다.

답변 2

Title: OpenAI API 429 Too Many Requests: 원인, 영향 및 해결책
서론:
OpenAI API는 기계 학습 모델인 GPT-3를 기반으로한 강력한 자연어 처리 도구입니다. 최근 사용자들은 API 서버에서 발생하는 '429 Too Many Requests' 에러를 경험하고 있습니다. 이번 글에서는 이러한 에러의 원인, 영향, 그리고 그에 대한 해결책에 대해 알아보겠습니다.
1. 429 Too Many Requests 에러의 원인:
OpenAI API의 429 Too Many Requests 에러는 사용 제한을 초과했을 때 발생합니다. OpenAI는 과도한 요청으로부터 서버 및 사용자의 데이터를 보호하기 위해 사용량 제한을 두고 있는데, 이 제한을 초과하면 해당 에러가 발생합니다.
2. 에러의 영향:
429 Too Many Requests 에러는 사용자에게 몇 가지 영향을 미칠 수 있습니다. 첫째로, 사용자는 요청에 대한 응답을 받지 못하며 작업의 완료가 지연될 수 있습니다. 이는 프로젝트나 비즈니스 일정에 영향을 줄 수 있습니다. 둘째로, 반복적인 에러로 인해 사용자의 긴 요청 목록이 쌓이게 되어 생산성을 저하시킬 수 있습니다.
3. 에러의 해결책:
OpenAI API의 429 Too Many Requests 에러를 해결하기 위해 다음의 방법을 고려할 수 있습니다.
가. 요청 양 줄이기: 에러를 방지하기 위해서는 API에 대한 요청량을 조절해야 합니다. 사용자는 예측된 사용량을 추정한 후 필요한 경우에만 요청을 보내야 합니다. 이를 위해 자세한 계획을 세우고 어떤 요청이 우선순위가 있는지 결정하는 것이 좋습니다.
나. 백오프 전략 사용: 만약 에러가 발생하면, 일시적으로 서버로의 요청을 멈추는 백오프 전략을 사용할 수 있습니다. 몇 초간 쉬었다가 다시 요청하는 것으로 서버에 대한 부하를 분산시킬 수 있습니다.
다. 준비된 플랜 사용: 만약 지속적인 높은 요청량이 필요하다면, OpenAI는 월간 이용 요금을 지불하는 준비된 플랜을 제공합니다. 해당 플랜을 구독하여 API 사용량 제한을 풀고 안정적인 서비스 이용이 가능합니다.
결론:
OpenAI API의 429 Too Many Requests는 API 사용량 초과로 인한 에러입니다. 해당 에러를 해결하기 위해서는 좀 더 효율적인 요청 관리와 예측된 사용량 계획이 필요합니다. 또한, 예상치 못한 에러 대비를 위해 백오프 전략을 적용하는 것이 좋습니다. 마지막으로, API를 지속적으로 사용하는 경우에는 준비된 플랜을 고려하여 안정적인 서비스를 이용할 수 있습니다. 이러한 조치를 통해 사용자는 영향을 최소화하고 OpenAI API의 놀라운 기능을 완전히 활용할 수 있을 것입니다.

반응형
Comments