목록알고리즘 (624)
스택큐힙리스트
import express, { Request, Response } from 'express'; import cors from 'cors'; import { Configuration, OpenAIAPI } from 'openai'; // ... app.post('/api/admin/testStream', async (req: Request, res: Response) => { const { password } = req.body; try { if (password !== process.env.ADMIN_PASSWORD) { res.send({ message: '잘못된 비밀번호입니다' }); return; } const completion = await openai.createCompletion({ mod..
그러나, API 호출을 실제로 만드는 코드는 조금 이상합니다: model_name = 'text-davinci-003' temperature = 0.0 my_llm = OpenAI(model_name=model_name, temperature=temperature) _input = prompt.format_prompt(query=joke_query) output = my_llm(_input.to_string()) parser.parse(output) 이렇게하면 정확히 원하는 결과가 반환됩니다: Joke(setup='닭이 왜 길을 건넜을까요?', punchline='다른 곳으로 가기 위해서입니다!') 그러나 이 경우에는 Chains를 사용하지 않는 것이 이상한 것 같습니다. 다음과 같이 거의 유사한 결과를..
나는 langchain에서 이러한 매개 변수를 '해제'하는 방법을 모릅니다. 이것이 내 코드입니다: from langchain.chains.llm import LLMChain from langchain.llms.openai import OpenAI from langchain.prompts.prompt import PromptTemplate llm = OpenAI(temperature=0, engine=deployment_name) template = 영어를 프랑스어로 번역하는 도움이 되는 어시스턴트입니다. 이 문장을 영어에서 프랑스어로 번역하세요: {text} prompt = PromptTemplate(input_variables=[text], template=template) llm_chain = LL..
기본적으로 Flask와 LangChain을 사용하여 이를 달성하고자 합니다: https://www.youtube.com/watch?v=x8uwwLNxqis. 백엔드에서 LangChain을 사용하는 Q&A Flask 앱을 구축 중인데, ChatGPT에서의 응답을 스트리밍하는 데 문제가 있습니다. 제 체인은 다음과 같이 구성되어 있습니다: chain = VectorDBQA.from_chain_type(llm=ChatOpenAI(model_name=gpt-3.5-turbo, streaming=True, chain_type=stuff, vectorstore=docsearch) ... result = chain({query: query}) output = result['result'] Jinja는 단순히 {{ o..