SKT, 통신 특화 맞춤형 '텔코 LLM' 곧 출시…"서비스 유형별로 골라 쓴다"
SKT, 통신 특화 맞춤형 '텔코 LLM' 곧 출시…"서비스 유형별로 골라 쓴다"
  • 오은서 기자
  • 승인 2024.05.21 10:46
  • 수정 2024.05.21 10:46
  • 댓글 0
이 기사를 공유합니다

에이닷엑스(A.X)·GPT·클로드 3가지 LLM 기반
AI컨택센터·유통망·네트워크 운용처 등 활용
통신영역의 전문성, 상황별 고객 응대 풍부해
지난 2월 유영상 SKT 사장이 기자간담회에서 GTAA 합작법인 및 자사의 AI 전략에 대해 설명하고 있다. [출처=SK텔레콤 ]
지난 2월 유영상 SKT 사장이 기자간담회에서 GTAA 합작법인 및 자사의 AI 전략에 대해 설명하고 있다. [출처=SK텔레콤 ]

이동통신·ICT분야에서 40년 역량을 충전한 SKT가 통신 플랫폼에 특화한 '맞춤형 텔코 LLM 서비스' 출시를 앞두고 있다. 텔코 LLM은 GPT·클로드 등 다양한 범용모델을 기반으로 멀티 LLM(거대언어모델) 전략을 가동한다. 이는 SKT가 글로벌 AI 컴퍼니로 가는 고속 성장엔진이다.

20일 SKT에 따르면 통신의 다양한 영역에서 전문성을 확보한 텔코 LLM을 6월에 선보인다. 텔코 LLM은 GPT·클로드와 같은 범용 LLM이 아니라 통신업에 특화한 LLM이다. 

올해를 새로운 AI 컴퍼니 40년의 원년으로 삼은 SKT는 하반기에 선보일 텔코 LLM을 K산업을 넘어 글로벌 혁신을 충족시킬 핵심 요소로 꼽는다. 텔코 LLM은 ▲통신 요금제 종류 ▲공시지원금·선택약정 등 통신 전문 용어 ▲AI 윤리 등을 학습시켰다. 

SKT 관계자는 "텔코 LLM은 자사의 에이닷엑스(A.X)·오픈AI의 GPT·앤트로픽의 클로드 등 3가지의 범용 AI 모델을 기반으로 튜닝했다"면서 "1개의 범용 LLM으론 통신사의 다양한 서비스·문제 해결이 어렵기 때문에 미세조정(튜닝)과 모델평가(벤치마킹)을 거쳐 다양한 텔코 LLM을 형성했다"고 말했다. 이 거대언어모델을 텔코 얼라이언스 동맹국에서 각 (나라별 ) 통신 서비스의 상황에 맞게 골라 쓸 수 있다. 

SKT는 AI 컴퍼니의 기반이 되는 텔코 LLM을 형성하기 위해 약 2년 전부터 밑작업을 해왔다. 지난 2022년 7월 SKT는 유럽·중동·아시아의 대표 글로벌 통신사와 '글로벌 텔코 AI 얼라이언스'를 결성했다. 글로벌 통신사 동맹은 SKT가 글로벌 AI시장을 선점하기 위해 초기 단계부터 한국어뿐 아니라 여러 나라 언어로 AI서비스가 가능하도록 맺은 전략적 제휴다.

텔코 회원사들은 AI 서비스의 초입을 통신의 패러다임 전환기로 보고 기존의 유무선 통신·미디어 사업 등을 AI로 혁신하기 위해 출발선을 함께 했다. 

[출처=SK텔레콤 ]

SKT는 이런 글로벌 협력을 토대로 지난해 하반기 앤스로픽에 1000억원대 대규모 투자를 단행하며 생성형 AI기술에서 경쟁 우위를 차지하기 위한 파트너십을 확보했다. 지난해 8월부터 SKT는 앤스로픽·오픈AI와 생성형 AI의 지지대 역할을 하는 다국어 거대언어모델(LLM)과 AI플랫폼을 공동 개발에 착수했다. 

텔코 LLM은 SKT의 자강·협력의 노력이 맺은 성과로 통신사들이 AI컨택센터(AICC)·유통망·네트워크 운용·사내 업무 등 활용처와 특정 업무마다 최적화된 LLM을 가져다 쓸 수 있게 하는 멀티 모델 전략이다. 범용LLM 대비 텔코LLM은 통신 영역에서 높은 수준의 생성형 AI작업을 수행할 수 있어 활용성이 높다. 

SKT는 글로벌 협력으로 자사의 LLM인 에이닷엑스(A.X)와 오픈AI의 GPT-4, 앤트로픽의 클로드에 한국어로 된 통신 관련 데이터를 학습시켜 다양한 텔코LLM을 개발하고 있다. 이는 다양한 통신 특화 LLM 라인업을 갖춘 가성비 모델들 구현하기 위한 전략이다.

오픈 AI는 지난 5일 공식 블로그로 기업의 특정 도메인에 맞게 AI 모델을 학습시키고 최적화할 수 있도록 지원하는 커스텀 모델을 공개했다. 오픈 AI 측은 "SKT와 협력으로 GPT-4를 미세 조정하고 한국어로 된 통신 관련 대화 성능을 높였다"면서 특정 산업의 파인튜닝의 대표 사례로 언급했다. 

SKT-AI-피라미드-전략 [출처=SK텔레콤 ]
SKT-AI-피라미드-전략 [출처=SK텔레콤 ]

통신에 특화하지 않은 범용 LLM은 통신사의 번호이동 방법이나 절차 등 전문지식을 제대로 학습하지 않아 요금제 추천을 원하는 고객 요구에 대응이 어렵다. 통신 관련 데이터를 추가로 학습해 이 문제를 해결하는 과정이 텔코 LLM의 파인튜닝이다. 이렇게 파인튜닝이 된 텔코LLM은 휴먼 피드백 기반의 강화학습(RLHF) 과정을 거친다. 

SKT 관계자는 "실제 텔코 LLM이 답변한 내용은 고객센터 상담사들이 품질 만족도 등을 평가하는 과정을 거친다"면서 "고객의 문의에 유용한 답변을 했는지 문맥을 제대로 이해했는지 등에 대해 채점하는 사람의 평가를 통한 강화학습"이라고 설명했다. 이 과정을 거친 후 텔코LLM은 언어추론통신 특화과제 수행 능력 등에 대해 모델평가(벤치마킹)를 수행한다. 

모델평가는 가령 고객이 요금제를 문의하거나 부가서비스 변경을 요청하는 식의 상담 유형을 선택하는 영역에서 낮은 점수를 받으면 관련 데이터를 더 구축하는 형태로 파인튜닝을 거쳐 고도화 하는 방식이다. 이 방식을 주기적으로 반복하면 텔코LLM은 더욱 스마트해진다.

SKT 측은 "현재 고객센터에서 상담 전화 1건 처리에 약 3분, 상담 후 업무 처리하는데 30초 이상이 소요되는데 텔코LLM을 도입하면 상담사가 고객과 전화하는 동안 LLM이 해결책을 상담사에게 제공, 상담 내용까지 요약해 상담 후 처리까지 소요되는 시간을 크게 단축시킬 것"이라고 전망했다. 

특히 텔코LLM 중 통신 관련 데이터를 입힌 클로드 버전의 경우 AI가 따라야 할 윤리원칙을 철저하게 학습하고 있고 국내에서 확산하고 있는 신조어나 한국어 욕설, 위협 폭언 식의 문맥 뉘앙스를 정확하게 파악할 수 있는 장점이 있다. 

통신사의 네트워크 인프라 운용에도 텔코LLM이 유용하다. 인프라 운용자가 네트워크 모니터링 중 문제가 발생하면, 실시간으로 텔코LLM에 질문을 입력해 해결 방안을 답변으로 받아볼 수 있다. SKT 관계자는 "곧 출시가 임박한 자체 개발 텔코 LLM의 적용은 고객센터와 인프라뿐 아니라 유통망·법무부·HR 등의 사내 업무에서도 통신사의 영역을 텔코 LLM이 고도화할 것"이라고 말했다.

SKT는 "텔코LLM은 자사의 에이닷엑스(A.X), 오픈AI의 GPT, 앤트로픽의 클로드 등 3가지 LLM을 기반으로 튜닝한 만큼 고객이 각 통신 상황에 맞는 LLM 서비스를 맞춤 활용할 수 있다"고 밝혔다.

[위키리크스한국=오은서 기자]

oes@wikileaks-kr.org

기자가 쓴 기사

  • 서울특별시 마포구 마포대로 127, 1001호 (공덕동, 풍림빌딩)
  • 대표전화 : 02-702-2677
  • 팩스 : 02-702-1677
  • 청소년보호책임자 : 소정원
  • 법인명 : 위키리크스한국 주식회사
  • 제호 : 위키리크스한국
  • 등록번호 : 서울 아 04701
  • 등록일 : 2013-07-18
  • 발행일 : 2013-07-18
  • 발행인 : 박정규
  • 편집인 : 박찬흥
  • 위키리크스한국은 자체 기사윤리 심의 전문위원제를 운영합니다.
  • 기사윤리 심의 : 박지훈 변호사
  • 위키리크스한국 모든 콘텐츠(영상,기사, 사진)는 저작권법의 보호를 받은바, 무단 전재와 복사, 배포 등을 금합니다.
  • Copyright © 2024 위키리크스한국. All rights reserved.
  • [위키리크스한국 보도원칙] 본 매체는 독자와 취재원 등 뉴스 이용자의 권리 보장을 위해 반론이나 정정보도, 추후보도를 요청할 수 있는 창구를 열어두고 있음을 알립니다.
    고충처리 : 02-702-2677 | 메일 : laputa813@wikileaks-kr.org
ND소프트