스택큐힙리스트

ChatGPT를 사용하여 긴 텍스트 (가끔 한 시간 이상인 음성 대 텍스트 대화)를 요약하는 사용 사례가 있습니다. 하지만 4k 토큰 제한으로 인해 입력 텍스트가 절반 정도로 잘리는 경향을 발견합니다. 부분적으로 처리하면 이전 부분의 이력을 유지하지 못하는 것 같습니다. 4k 토큰을 넘는 긴 요청을 제출하는 옵션은 무엇이 있습니까?답변 1귀하의 질문에 가장 가까운 답은 임베딩 형태로 나올 것입니다. 이들이 무엇인지 개요를 여기에서 찾을 수 있습니다. OpenAI Cookbook Github 페이지의 이 코드를 확인하는 것을 권장합니다. 이 코드는 Web Crawl Q&A 예제를 사용하여 임베딩을 설명하고 있습니다. 저는 Step 5부터 코드를 사용하고, 텍스트의 위치를 제 파일을 가리키도록 수정했습니다...

import openai # API 키를 환경 변수나 비밀 관리 서비스에서 가져오기 openai.api_key = 'my_API' def get_response(prompts: list, model = gpt-3.5-turbo): responses = [] restart_sequence = \n for item in prompts: response = openai.Completion.create( model=model, messages=[{role: user, content: prompt}], temperature=0, max_tokens=20, top_p=1, frequency_penalty=0, presence_penalty=0 ) responses.append(response['choices'][0..

나는 ChatGPT가 이전 대화를 기억하고 일관된(상태 유지) 대화를 가질 수 있길 원합니다. ChatGPT 프롬프트 엔지니어링의 여러 코드를 본 적이 있습니다. 아래에 표시된 프롬프트를 디자인하는 두 가지 방법이 있었습니다 (의사 코드): 단일 입력 사용 (저렴함)

GTP3 모델을 문서 모음에 대해 세밀하게 조정하는 것은 올바른 접근 방식인가요? 이후에 해당 내용에 대한 질문이 가능하도록하기 위해 경우에 따라 prompt 및 completion 필드에 무엇을 넣어야 하나요. 나는 가능한 질문 및 이상적인 답변 모음이 있는 장소에서 시작하지 않기 때문에 이 경우 GTP3 모델을 세밀하게 조정하는 메커니즘을 기본적으로 잘 이해했는지에 대해 근본적으로 오해한 건가요. GTP3 모델을 세밀하게 조정하는 메커니즘을 근본적으로 오해한 것인가요? GTP3 모델을 가능한 질문과 답변으로 훈련해야한다는 것은 합리적으로 이해됩니다. 그러나 기본 모델이 이미 훈련되었으며이 프로세스는 보다 위에서 공개 도메인에 없는 추가 데이터 세트를 제공하기 위한 것이므로 그 내용에 대해 질문 할 수..