[HelloWorld 개발일지] 챗봇과 사용자 간의 신뢰 관계 형성에 대하여

서론

출시 일정이 점점 구체화 되면서, 우리 AI팀도 본격적으로 챗봇 성능 고도화를 위해 QA test 작업에 돌입했습니다. 저는 QA test에 앞서, 정보 전달을 목적으로 하는 저희 챗봇을 평가 및 개선하기 위해서 ‘Trust in Chatbots for Customer Service: Findings from a Questionnaire Study’ 논문은 고객 서비스 분야에서 챗봇에 대한 신뢰를 연구하며, 고객 서비스 챗봇을 설계할 때 신뢰도를 높이기 위해 고려해야 할 요소들을 제시합니다.

주요 발견

1. 신뢰의 구성 요소
   1. 성능에 대한 신뢰
   2. 과정에 대한 신뢰
   3. 목적에 대한 신뢰
2. 신뢰에 영향을 미치는 요인
   1. 챗봇의 성능: 정확성, 응답속도, 문제 해결 능력
   2. 의인화 수준: 적당한 수준의 의인화, 지나친 의인화는 오히려 부정적 영향
   3. 사용자 특성: 기술에 대한 긍정적 태도를 가진 사용자들이 챗봇을 더 신뢰
3. 신뢰와 사용 의도의 관계
   1. 챗봇에 대한 높은 신뢰도는 향후 챗봇 사용 의도와 강한 정적 상관관계를 보였다.
4. 투명성의 중요성
   1. 챗봇이 AI임을 명확히 밝히는 것이 사용자의 신뢰를 높이는 도움이 되었습니다.
5. 개인화의 효과
   1. 사용자의 이전 상호작용 기록을 기반으로 한 개인화된 서비스가 신뢰도 향상에 긍정적인 영향을 미쳤다.

시사점

고객이 우리의 챗봇 서비스를 신뢰하는 데 필요한 요소로 중요한 것은

1. 성능에 대한 신뢰: 정확성, 응답속도
2. 과정에 대한 신뢰: 공인된 정부 홈페이지를 참조해 대답한다는 점을 강조!
3. 목적에 대한 신뢰: 여러분들을 돕기 위함을 강조합니다.

이 과정에서 생각이 추가적으로 든 것은,, 문서 데이터가 자주 변경될 수 있으니 업데이트하는 로직을 따로 설정해야 할 것 같다는 거

프로젝트에 반영할 점

1. 초기 프롬프트 작성 시, 비자나 노동 법률 같은 경우 공인된 정부 홈페이지를 참조해 대답한다는 점을 명시
2. 챗봇이 서빙되는 목적을 명시
3. AI임을 명시
4. 모르는 질문에는 보수적으로 답할 것