SK텔레콤이 불필요한 연산 과정을 줄여 AI 서비스 처리 속도를 높이는 ‘AI 가속 솔루션(AIX, AI Inference Accelerator)’을 개발했다고 밝혔다. 자사 AI 서비스 ‘누구’에 적용해 5G 시대를 대비할 예정이다.

SK텔레콤은 21일 오전 서울 을지로 삼화빌딩 SK텔레콤 기자실에서 기자간담회를 열고 자사 AI 서비스 ‘누구’에 기존 대비 서비스 용량을 늘린 AI 가속 솔루션을 개발‧적용했다고 발표했다.


AI 가속 솔루션은 손바닥 크기의 소형 카드 형태로, 데이터센터 내 기존 AI 서버에 장착하면 딥러닝 연산 속도가 20배 가량 빨라진다.

또한 별도의 서버 증설 없이도 AI 전체 서비스 용량을 기존 대비 약 5배 늘리는 효과를 기대할 수 있다. 기존 GPU 방식 가속 솔루션 대비 전력 효율성이 16배 뛰어나 데이터센터 운용비도 절감된다.

정무경 SK텔레콤 ML인프라랩 팀장은 “인공지능의 3가지 핵심기술 가운데 하드웨어 역할을 하는 AI 연산기는 아직 발전 가능성이 많다”며 “5G 시대가 열리면 지연시간 문제가 해결되는 만큼 데이터센터를 활용한 AI 서비스가 활성화될 것으로 보고 있다”고 설명했다.

SK텔레콤이 AI 가속 솔루션을 개발한 이유는 ‘누구’의 월간 사용자 수가 급증했기 때문이다. 누구의 실사용자는 지난해 8월 11만 명에서 올해 3월 말 기준 300만 명으로 증가했다. AI 서비스 ‘누구’는 스피커에 이어 내비게이션, 키즈폰, 셋톱박스 등 서비스 영역을 확대하고 있다.

이에 SK텔레콤은 약 2년 간의 연구개발 끝에 AI 가속 솔루션을 개발하고 상용화하는 데 성공했다. SK텔레콤은 자체 기술만으로 ▲하드웨어 및 소프트웨어 설계 ▲솔루션 최적화 ▲상용 클라우드 서비스 적용 등을 완료했다.

자체 AI 가속 솔루션을 적용한 곳은 국내에서 SK텔레콤이 처음이다. 해외에는 구글이 자체 개발한 TPU를 사용하고 있다.

SK텔레콤은 내년 3월 5G 서비스가 상용화되면 체감 속도가 더욱 빨라질 것으로 기대하고 있다. 이외에도 AI 연산 속도 및 전력 효율성을 보다 향상시킬 수 있는 ‘차세대 AI 가속 솔루션’도 개발할 예정이다.

정무경 팀장은 “AI 가속 솔루션을 성공적으로 개발하며 글로벌 톱 수준의 AI 기술 경쟁력을 확보했다”며 “향후 확장될 다양한 인공지능 응용 서비스에 솔루션을 적용하여 고객들에게 고품질의 서비스를 제공할 것”이라고 밝혔다.

[소비자가만드는신문=문지혜 기자]