SK텔레콤이 자체 개발한 텔코 대규모언어모델(LLM)과 대형 멀티모달 모델(LMM)을 활용한 고객센터 인공지능(AI) 상담 업무 지원 시스템을 국내 메이저 고객센터 중 최초로 지난달 중순부터 단계적으로 오픈했다고 18일 밝혔다.

SKT는 앤트로픽 등 해외 주요 LLM 업체들과 협력해 다양한 통신 전문 지식을 학습한 통신 사용 LLM인 ‘텔코 LLM’을 개발해 왔다. 고객센터 상담 전문가 수십명이 참여해 성능 향상을 위한 학습 데이터를 구축했고, 연중 테스트와 피드백을 통한 강화 학습을 반복해 통신 서비스 전용 LLM·LMM 모델을 만들어 왔다. 이러한 기술을 실제 상담 업무에 활용할 수 있도록 AI 상담 업무 지원 시스템을 구축하고 이를 통해 고객에게 한층 빠른 상담을 제공할 수 있게 된다는 설명이다.

텔코 LLM 기반의 AI 지식 검색 도우미 서비스를 이용하면 필요한 정보를 지식정보시스템에서 하나하나 찾을 필요가 없다. ‘퍼플렉시티’나 ‘챗GPT’처럼 상담사가 자연어로 질문을 입력하면 AI가 상담사 대신 정보를 검색해 정리해 준다. 이를 통해 상담사들의 정보 탐색 시간을 단축시키고, 상담사 개인의 역량이나 경력과 무관하게 고품질 상담 서비스를 제공할 수 있게 됐다. 지난달 21일부터 베타 서비스를 통해 실제 상담사들이 상담 현장에서 직접 사용해보며 안정화하고 있으며, 내년부터는 모든 고객 상담 업무에 전면 적용할 예정이다.

아울러 ‘AI 서류 자동 처리 시스템’도 구축한다. 고객센터는 고객들이 문자, 이메일, 팩스 등 다양한 채널로 송부한 사진, 스캔 문서 등 다양한 형태의 수십종의 구비 서류들을 처리하고 있다. 다양한 형태의 각종 서류를 AI가 자동으로 분류하고 처리해 줌으로써 증빙서류 확인에 소요되는 시간을 크게 단축시킬 수 있을 것으로 기대된다. 서류 자동 분류 시스템은 지난달 23일부터 도입했으며, 앞으론 서류 내용까지 자동으로 판독하여 처리할 수 있게 될 전망이다.

다음달엔 고객 상담 결과를 텔코 LLM을 활용하여 자동으로 분류·요약 정리하는 상담 후속 업무 자동화 시스템도 오픈할 예정이다. 상담이 종료된 후 상담 결과를 정리하는데 평균 30초 정도 소요됐지만 AI가 자동으로 처리를 해주게 되면 상담사는 상담 종료 이후 후속 업무 처리 없이 보다 빠르게 대기중인 고객들에게 상담을 제공할 수 있다. 뿐만 아니라, 고객들의 이전 상담 내용에 대해 빠르고 정확하게 파악할 수 있어 개개인에게 가장 적합한 맞춤형 상담도 가능하다.