스택큐힙리스트

저는 현재 큰 언어 모델 (LLM)을 기반으로 한 챗봇을 개발하고 있습니다. 나는 그것이 내 자체 문서에 기반한 응답을 제공하도록 하고 싶습니다. 내 문서에 대해 미세 조정된 모델을 사용하는 것이 직접적인 응답을 제공하지 않을 수 있다는 것을 이해하고 있으므로, 성능을 향상시키기 위해 검색 보강 생성 (RAG)의 개념을 탐구하고 있습니다. 저는 Langchain과 LlamaIndex라는 두 가지 도구를 사용하여 RAG를 용이하게 하는 것 같은데, 주요 차이점을 이해하는 데 어려움을 겪고 있습니다. 일부 자습서와 자료에서는 두 도구를 동시에 사용한다는 것을 알아채고 있는데, 어떤 경우에는 하나를 다른 것보다 선택하는 것 또는 함께 사용하는 것이 좋을지 궁금합니다. Langchain과 LlamaIndex의 ..

export const POST: RequestHandler = async ({ request }) => { const { messages } = await request.json(); const { stream, handlers } = LangChainStream(); const openAIApiKey = OPENAI_API_KEY; // 이 모델은 실제 질문에 답변하기 위해 사용됩니다 const model = new ChatOpenAI({ openAIApiKey, temperature: 0, streaming: true, }); // 에이전트가 사용할 수 있는 도구 목록을 정의합니다 const tools = [ new SerpAPI(SERPAPI_API_KEY, { location: Austin,Te..

class MyCustomHandler(BaseCallbackHandler): def on_text(self, text: str, **kwargs: Any) -> Any: print(f텍스트: {text}) self.log = text def on_chain_start( self, serialized: Dict[str, Any], inputs: Dict[str, Any], **kwargs: Any ) -> Any: 체인이 실행되기 시작할 때 실행됩니다. print(체인이 시작되었습니다.) 이것은 대체로 예상대로 작동하지만, 알 수 없는 부작용이 있어 어디에서 발생하는지 찾을 수 없습니다. 출력 결과는 다음과 같습니다: handler.log 변수에는 다음이 포함되어 있습니다: '포맷팅 후 프롬프트:\n\x..

중첩된 JSON의 출력 스키마를 정의하는 권장 방법은 무엇인가요? 내가 사용하는 방법은 이상하게 느껴집니다. # planner에 추가 -> from langchain.experimental.plan_and_execute import load_chat_planner # 설계 응답 스키마 정의 refinement_response_schemas = [ ResponseSchema(name=plan, description={'1': {'step': '','tools': [],'data_sources': [],'sub_steps_needed': bool}, '2': {'step': '','tools': [],'data_sources': [], 'sub_steps_needed': bool},}),] # 설명에서 JS..