사용자 행동데이터 RAG - 1

작년에는  B2B에 활용하기 위해 RAG를 검토해왔다. 

이번에는 사용자의 행동데이터(대화,구매이력등)를 density하게 저장 -> 사용자 질문이 들어오면 행동데이터검색 -> 행동데이터를 컨텍스트로 두고 -> llm에 사용자 질문 + 질문의도 + 기존 행동패턴을 활용하여 개인화 Query rewrite를 reformulation -> Function-Call 수행 -> FunctionCall수행한 Action에 해당 하는 사용자 행동데이터도 density하게 저장하여 개인화 정보를 관리 한다.

사용자 행동데이터 적재(Memory)

• 행동(대화,구매이력)에 따른 중요도를 두어 카테고리에 맞게 '일반패턴' vs '핵심패턴' 을 타임시리즈로 저장한다.
• 행동을 카테고리로 분류하여 저장한다. 
  • 나와의 대화 / 단체 대화 / 이외 action데이터(FunctionCall 등으로로 분류된 뎁스)
• 관찰데이터 저장 : 사용자 질문, 질문의도, 연관된 히스토리(density) = Query-rewrite -> 의도분류결과
• Action실행 후 피드백 데이터 저장

Planning

• 사용자의 질문의도를 추론한 근거와 스코어
• 최종적으로 의도분류(단순FunctionCall을 의미하지 않음)로 추론한 근거와 스코어

를 기반으로 스코어가 특정값보다 낮은 경우, 추론을 잘하기 위한 2차 검색을 수행해 추론을 위한 데이터를 보강하는 과정을 수행한다. 이는 최종 action에 대한 할루시네이션을 줄일수 있을것으로 기대한다.