삼성전자가 세계 최초로 메모리 반도체와 AI 프로세서를 결합한 ‘HBM-PIM’을 개발했다. PIM 기술은 메모리 안에 연산작업을 하는 프로세서를 결합한 신개념 융합기술이다.

17일 삼성전자에 따르면 HBM-PIM은 반도체 분야 세계 최고 권위 학회로 꼽히는 ISSCC에서 논문을 통해 공개됐다. 상반기 중 고객사 대상으로 시험 검증을 완료하고 기술 선점에 나선다는 방침이다.

삼성전자는 PIM 기술을 활용해 지난 2018년 1월 양산에 들어간 ‘HBM2 아쿠아볼트’에 AI 프로세서를 탑재했다. HBM2 아쿠아볼트는 슈퍼컴퓨터과 같은 고성능 컴퓨팅과 AI 가속기 등에서 초고속 데이터 분석에 활용되는 고대역폭 메모리 반도체다.

기존 AI 시스템에 HBM-PIM을 적용하면 HBM2을 사용했을 때보다 성능이 2배 이상 높아진다는 설명이다. 이에 따라 시스템이 소비하는 에너지는 70% 이상 감소한다.

기존 HBM 인터페이스를 그대로 사용할 수 있다는 점도 장점이다. HBM-PIM을 새로 적용해도 하드웨어나 소프트웨어를 변경하지 않은 채 AI 가속기 시스템 등을 구축할 수 있다.

최근 AI 기술은 고도화하면서 응용영역이 확대되고 있다. 하지만 중앙처리장치(CPU)가 메모리에서 명령어를 불러오고 실행한 뒤 그 결과를 다시 메모리에 저장하는 기존 연산 구조를 벗어나지 못하고 있었다. 또 기존 연산 구조는 CPU와 메모리 사이에 주고받은 데이터가 많아지면 작업처리가 지연되는 현상이 나타나기도 했다.
 

이런 문제를 극복하기 위해 삼성전자는 메모리 뱅크(메모리 내부의 분할된 영역)에 AI 엔진을 장착해 병렬처리를 극대화했다. 이를 토대로 CPU와 메모리가 굳이 데이터를 주고받지 않아도 메모리가 자체적으로 연산을 처리할 수 있다. 이런 연산처리 작업 등으로 AI 가속기 시스템의 에너지 효율도 높일 수 있었다는 설명이다.

삼성전자는 상반기 안으로 다양한 고객사의 AI 가속기에 HBM-PIM을 탑재해 시험 검증에 나설 계획이다. 향후 PIM 플랫폼을 표준화하는 작업에도 나선다.

박광일 삼성전자 메모리 사업부 상품기획팀장 전무는 "HBM-PIM은 AI 가속기의 성능을 극대화 시킬 수 있는 업계 최초 인공지능 맞춤형 PIM 솔루션“이라며 “삼성전자는 고객사들과 지속적으로 협력을 강화해 PIM 에코 시스템을 구축해 나갈 것"이라고 말했다.

한편, 릭 스티븐스 미국 아르곤 국립 연구소 CELS 연구실장은 "HBM-PIM은 AI 응용을 위한 성능 및 에너지 효율 측면에서 놀라운 성과”라며 “HMB-PIM 시스템 평가를 위해 향후에도 삼성전자와 지속적인 협력을 기대한다"고 밝혔다.

[소비자가만드는신문=김승직 기자]