AI로 재편된 고객 상담, SK텔레콤의 텔코 LLM 도입 시작

SK텔레콤이 10월 중순부터 국내 주요 고객센터 중 최초로 텔코 LLM(대규모 언어 모델)과 LMM(대규모 멀티모달 모델)을 활용한 고객센터 인공지능 상담 업무 지원 시스템을 단계적으로 운영하기 시작했다. 이 시스템은 고객센터 상담사들이 보다 효율적으로 고객 상담을 수행할 수 있도록 돕는 것이 목적이다.

텔코 LLM은 앤스로픽과 같은 해외 LLM 개발 업체들과 협력하여 통신 분야의 전문 지식을 학습한 모델로, 상담사들이 필요한 정보를 신속하게 검색할 수 있게 해준다. 상담사는 자연어로 질문을 입력하면 AI가 필요한 정보를 자동으로 검색하고 정리하여 제공한다. 이로 인해 상담사들은 시간이 단축될 뿐만 아니라, 별도의 정보 탐색 없이도 높은 품질의 상담을 제공할 수 있다.

현재 베타 서비스가 시작된 이 시스템은 실제 상담사들이 현장에서 사용하여 최적화 중이며, 내년부터는 모든 고객 상담에 완전 적용될 예정이다. 또한, AI를 이용한 서류 자동 처리 시스템도 구축 중이다. 고객이 다양한 채널로 송부한 서류를 자동으로 분류하고, 향후에는 서류의 내용을 자동으로 판독 및 처리할 수 있는 기능이 추가될 계획이다.

오는 12월에는 상담 결과를 자동으로 분류하고 요약하는 시스템도 도입될 예정이다. 기존에는 상담이 끝난 후 평균 30초가 소요된 상담 결과 정리가 AI를 통해 즉시 처리되므로, 상담사는 더 빠르게 다음 고객에게 상담을 제공할 수 있게 된다. 이를 통해 고객의 이전 상담 내용을 즉각적으로 파악해 맞춤형 상담을 제공하는 것이 가능해진다.

한 달간 운영된 이 AI 상담 시스템에 대해 상담사들은 텔코 LLM이 기대 이상의 성능을 보여주고 있으며, 특히 경력이 짧은 상담사들이 고객 응대에 있어 부담을 덜 수 있었다고 밝히고 있다. SK텔레콤은 AI 고객센터로의 진화를 통해 고객 개인에게 최적화된 상담 서비스 제공을 목표로 하고 있으며, 향후 다양한 AI 기술을 통해 국내 최고의 고객센터 상담 서비스로 발전할 것을 예고했다. 홍승태 SK텔레콤 고객가치혁신 담당은 이 시스템을 발판 삼아 더욱 발전해나갈 것이라고 강조했다.