사용자가 코드를 작성하지 않고도 직접 간편하게 챗봇을 설정하여 사용할 수 있게 해주는 서비스는 기존에도 존재했습니다. 그러나 BCT AI Chatbot은 GPT 등의 LLM을 챗봇에 포함한다는 점에서 많은 이점을 가집니다. 아래 내용은 최근 카카오 챗봇 서비스를 활용하여 작업을 하며 느낀 BCT AI Chatbot의 차별성입니다.

우선 BCT AI Chatbot이 가지는 가장 큰 이점은 대화의 유지입니다.

챗봇을 작업하는 입장이라면 챗봇이 어떤 질문에 대답할 수 있고, 어떤 질문에 대답할 수 없는지 전부 알 수 있습니다. 그러나 챗봇을 사용하는 사용자 입장에서는 챗봇이 어떻게 설정되어있는지 알 수 없기에, 궁금한 내용이 있다면 챗봇 설정 여부와 관계없이 질문하게 될 것입니다.

이때 작업자가 생각하지 못했던, 설정하지 못했던 대화 패턴이 나온다면 기존 챗봇 빌더를 기반으로 한 챗봇들은 “모르겠다”는 답변을 제공합니다. 사용자 입장에서는 이러한 상황에서 대화가 계속 끊긴다는 느낌을 받을 수도 있고, 어렵지 않은 답변임에도 대답을 못하는 경우가 발생하니 챗봇에 대한 신뢰도가 떨어지게 됩니다.

그러나 BCT AI Chatbot은 설정하지 않은 패턴이 나오더라도 LLM을 바탕으로 대화가 유지되기 때문에 사용자는 챗봇과의 대화에서 더욱 안정감을 느낄 수 있습니다.

다양한 대화 패턴을 고려하여 빌더에 입력한다고 해도 한계가 발생합니다.

작업자가 설정한 응답이 질문자의 모든 궁금증을 해소해줄 것이라는 보장이 없기 때문입니다. 또한 챗봇이 응답을 했을 때, 이 챗봇이 답변으로 제공한 지식이 사용자의 호기심을 유발하여 새로운 질문을 유도하게 될 수도 있습니다. 이러한 상황까지 하나하나 고려해서 작업한다는 것은 시간이 오래 걸릴 뿐만 아니라, 그렇게 많은 패턴을 입력했음에도 예상 밖의 질문이 들어올 수도 있습니다.

그러나 BCT AI Chatbot은 추가 패턴은 LLM이 가진 정보를 바탕으로 답변이 제공되기 때문에, 이렇게 다양한 패턴을 입력할 시간이 절약됩니다.

( 기존에 설정해둔 질문-응답 대화 패턴 )

( 미리 설정하지 못했던 패턴 밖의 질문을 던졌을 때)

또한 위와 같이 사용자가 기존 답변이 너무 길거나 복잡하다고 느끼면 같은 내용이더라도 더욱 쉽게 설명하거나, 더욱 구체적으로 설명해달라고 요구할 수 있습니다. 발화와 응답에 대한 패턴만 입력된 챗봇이라면 계속해서 똑같은 답변을 반복하겠지만, BCT AI Chatbot은 LLM의 요약 기능과 추론 기능까지 포함하기 때문에 같은 내용일지라도 사용자가 원하는 바에 맞게 유연한 답변을 제공합니다.

이와 같이 BCT AI Chatbot은 LLM을 기반으로 하기에 기존 빌더를 기반으로 한 챗봇에 비해 더욱 정확한 답변, 다양한 답변을 제공할 수 있습니다.