OpenAI API 에러: 429 Too Many Requests

저는 express nodeJS에서 다음 코드로 openai API에 요청을 보내려고 합니다:

'import { Configuration, OpenAIApi } from openai;

const configuration = new Configuration({

organization: org-Fn2EqsTpiUCTKb8m61wr6H8m,

apiKey: xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx,

});

const openai = new OpenAIApi(configuration);

async function callApi() {

const response = await openai.createCompletion({

model: text-davinci-003,

prompt: Say this is a test,

max_tokens: 3000,

temperature: 0,

});

console.log(response.data.choices[0].text);

}

callApi();

'

문제는 계속해서 오류 429 요청이 너무 많음이 발생하는 것입니다.

여기에 추가 정보가 있습니다:

API 키가 정확합니다.

내 openai 계정 > API 키보기로 가면 키가 사용된 적이 없다고 나와서 호출할 수 없습니다. 그렇다면 왜 Too many requests 오류가 발생하는지 어떻게 가능한 걸까요?

저는 이미 함수에 지수적 재시도를 구현해 보았지만, 작동하지 않았습니다.

답변 1

당신이 4월 1일 이후에도 동일한 오류 (429)를 받는다면, 그것은 당신의 무료 평가판 18달러(4월 이전에 등록된 모든 계정)이 만료되었음을 의미합니다. 심지어 당신이 api 키를 한 번도 사용하지 않았더라도.

API 사용 페이지에서 다음과 같은 내용을 찾을 수 있습니다:

'GRANT # CREDIT GRANTED EXPIRES (UTC)

Grant 1 $18.00 Expired 2023-04-01

'

좋은 소식은 여전히 공식 웹 채팅 페이지를 사용할 수 있다는 것입니다.

답변 2

제목: OpenAI API가 429 Too Many Requests 오류를 반환하는 이유와 대응 방안

서문:

혁신적인 기술을 바탕으로 고객들에게 필요한 정보를 제공하는 AI 기술은 현대 사회에서 점차 중요성을 갖추고 있습니다. OpenAI API는 특히 다양한 분야에서 사용되고 있지만, 이제는 너무 많은 요청으로 인해 오류를 반환하는 경우가 발생하고 있습니다. 이 글에서는 OpenAI API의 이슈와 함께 429 Too Many Requests 오류에 대한 대응 방안을 제시하겠습니다.

내용:

1. OpenAI API의 429 Too Many Requests 오류의 이유

- OpenAI API는 많은 사용자가 동시에 요청할 때의 요청량을 제한하기 위해 일일 사용 제한과 함께 요금 체계를 도입하고 있습니다.

- 이는 API 서비스의 품질과 안정성을 유지하기 위한 조치이지만, 사용량이 급격하게 증가할 경우에는 이러한 제한으로 인해 429 Too Many Requests 오류가 발생할 수 있습니다.

2. 429 Too Many Requests 오류의 영향

- 429 Too Many Requests 오류는 사용자가 서비스를 이용하지 못하게 해 원하는 작업을 진행하기 어렵게 만듭니다.

- 특히, 대량의 요청이 있는 경우에는 작업의 지연이 발생할 수 있으며, 따라서 원활한 작업 진행이 어려워 질 수 있습니다.

3. 대응 방안

가. 일일 요청량 관리

- OpenAI API를 사용하는 사용자는 서비스 이용 전에 일일 요청량을 파악하고 계획해야 합니다. 제한 내의 요청을 유지하면서 API가 중단되거나 429 Too Many Requests 오류가 발생되지 않도록 합니다.

- 요청량을 줄이고자 할 때에는 필요하지 않은 요청을 줄이고, 더 효율적인 방법을 모색하는 것이 필요합니다. 예를 들어, 한 번의 요청으로 여러 가지 작업을 처리할 수 있는 벌크 요청을 사용할 수 있습니다.

나. 멈춤/재시작 전략

- 특정 시간 동안 요청을 제한하는 대신, 일시적으로 멈춤/재시작 전략을 적용하여 API 호출 빈도를 관리할 수 있습니다. 이를 통해 사용량 폭증으로 인한 429 Too Many Requests 오류를 방지할 수 있습니다.

다. 캐싱 및 요약 활용

- API에서 반환하는 결과를 캐싱하고 재사용함으로써 자주 요청되는 작업의 반복을 피할 수 있습니다. 이를 통해 API 호출 횟수를 줄이고 API 서비스의 부하를 감소시킬 수 있습니다.

- 또한, API를 통해 요약된 결과를 제공하여 사용자가 원하는 정보를 좀 더 간결하고 요약된 형태로 제공할 수 있습니다.

결론:

OpenAI API의 429 Too Many Requests 오류는 요청량이 제한을 초과했을 때 발생하는 오류입니다. 이를 방지하기 위해서는 일일 요청량을 관리하고 효율적인 사용 전략을 적용해야 합니다. 또한, 캐싱과 요약 기능을 적극 활용함으로써 API 호출 횟수를 줄일 수 있습니다. 이렇게 함으로써 사용자들에게 보다 원활하고 안정적인 서비스를 제공할 수 있을 것입니다.