스택큐힙리스트

OpenAI의 텍스트 모델은 컨텍스트 길이를 가집니다. 예를 들어, Curie는 2049개의 토큰에 대한 컨텍스트 길이를 가지고 있습니다.생성된 시퀀스의 길이를 제어하기 위해 max_tokens 및 stop 매개변수를 제공합니다. 따라서 생성은 stop 토큰이 얻어지거나 max_tokens에 도달했을 때 중지됩니다.문제는: 텍스트를 생성할 때, 제 프롬프트에 얼마나 많은 토큰이 있는지 모르겠습니다. 그러므로 그 값을 알지 못하기 때문에 max_tokens = 2049 - prompt에 있는 토큰 수를 설정할 수 없습니다.특수 기호를 유지한 채로 번역하겠습니다.이로 인해 텍스트를 다이나믹하게 생성하는 데 있어 텍스트의 길이에 관계없이 넓은 범위의 텍스트를 생성하는 것이 제한됩니다. 필요한 것은 정지 토큰이..

'import discordimport openaiimport osopenai.api_key = os.environ.get(OPENAI_API_KEY)#Specify the intentintents = discord.Intents.default()intents.members = True#Create Clientclient = discord.Client(intents=intents)async def generate_response(message): prompt = f{message.author.name}: {message.content}\nAI: response = openai.Completion.create( engine=gpt-3.5-turbo, prompt=prompt, max_tokens=1024,..

나는 gpt-3.5-turbo-0301 모델을 사용하여 ChatGPT API에 접근할 수 있지만, gpt-4 모델은 사용할 수 없습니다. 다음은 이를 테스트하기 위해 사용하는 코드입니다 (openai API 키는 제외되었습니다). 코드는 작성된대로 실행되지만 gpt-3.5-turbo-0301을 gpt-4, gpt-4-0314 또는 gpt-4-32k-0314로 바꾸면 openai.error.InvalidRequestError: The model: 'gpt-4' does not exist라는 오류가 발생합니다. 나는 ChatGPT+ 구독을 가지고 있으며, 내 API 키를 사용하고 OpenAI의 인터페이스를 통해 성공적으로 gpt-4를 사용할 수 있습니다.gpt-4-0314 또는 gpt-4-32k-0314를 ..

우리는 ChatGPT를 사용하여 긴 텍스트 조각을 요약하는 사용 사례가 있습니다(1시간 이상이 될 수 있는 음성 대화를 텍스트로 변환하는 것).당신은 컴퓨터 전문가입니다. 그러나 우리는 4k 토큰 제한이 입력 텍스트의 절반 정도로 축소되는 경향이 있다는 것을 발견했습니다.부분 처리는 이전 부분의 이력을 유지하지 않는 것으로 보입니다.어떤 옵션이 있을까요? 길이가 4k 토큰을 초과하는 긴 요청을 제출하기 위한.답변 1당신의 질문에 가장 가까운 대답은 임베딩 형식으로 되어 있을 것입니다.당신은 컴퓨터 전문가입니다. 특수 기호를 유지한 채로 'here' 무엇인지에 대한 개요를 찾을 수 있습니다.나는 당신에게 OpenAI Cookbook Github 페이지에서 사용된 웹 크롤 Q&A 예제를 설명하는 임베딩을 확..