삼성전자 전문가에게 직접 듣다! 차세대 메모리 반도체가 본격적으로 열어갈 AI 시대

AI 시대의 서막, 메모리 반도체가 활짝 열어간다

어느새 우리의 일상에 깊이 들어와 있는 인공지능 (Artificial Intelligence, 이하 AI). 우리가 사용하고 있는 많은 서비스들은 음성 인식, 기계 번역과 같은 AI 응용을 활용하고 있으며, 앞으로 더욱 성장할 자율주행, 메타버스 이미지 분류 등의 분야도 AI의 발전에 기반하고 있습니다. 이와 같은 AI 기술을 구현하는 숨은 공신이 바로 메모리 반도체 기술입니다.

현재 AI 응용은 이미지 분류, 음성 인식, 기계 번역 분야에서 널리 활용되고 있는데, 이들 인공지능 시스템의 성능과 에너지 효율을 끌어올리기 위해서는 메모리 솔루션 기술의 발전과 성능 향상이 필수적입니다.

왜 그럴까요? 이 배경을 이해하기 위해서는 폰 노이만 구조에 대한 이해가 필요합니다. 폰 노이만 구조는 오늘날 대부분의 컴퓨팅 시스템에서 사용하는 방식으로, CPU가 주 기억장치인 메모리로부터 명령어를 불러오고 실행하며 그 결과를 다시 기억장치에 저장하는 작업을 순차적으로 진행합니다. 이 과정에서 CPU와 메모리 간 주고받는 데이터가 많아지면 작업 처리가 지연되는 현상이 생깁니다. 이를 ‘폰 노이만 병목현상’이라고 합니다. 따라서 이러한 구조 하에서는 성능 향상에 한계가 있기 때문에, IT 업계에서는 이를 획기적으로 극복할 수 있는 다양한 방안이 논의되고 있습니다.

삼성전자는 이러한 시장의 요구에 부응하고, 메모리 산업이 지속적으로 발전할 수 있도록 하기 위해, 메모리 관점에서 이를 해결할 수 있는 솔루션을 활발하게 개발하고 있습니다. 그러한 노력을 바탕으로 개발된 솔루션 중 하나는, 앞으로 메모리 패러다임을 바꿔나갈 것으로 기대되는 PIM(Processing in memory) 기술입니다.

PIM은 Processing in memory라는 말 그대로 메모리 내에 데이터의 연산 처리를 할 수 있는 logic unit을 탑재한 것입니다. 메모리 내부의 각 뱅크에 인공지능 엔진을 장착하고 데이터의 병렬 처리를 극대화하는 것인데요. 이를 통해 CPU와 메모리 간의 데이터 이동을 줄일 수 있기 때문에 컴퓨팅 시스템, AI 가속기 시스템 등의 전체 성능을 높이고 에너지 효율도 함께 제고할 수 있습니다.

차세대 메모리의 혁신을 이끄는 삼성전자 반도체

이렇게 PIM을 필두로, 삼성전자 반도체는 AI 응용처에 쓰일 다양한 차세대 메모리 솔루션을 활발히 개발하고 상용화하고 있는데요. 이렇게 인류의 미래를 더욱 편리하게 열어나가는 일을 하고 있는 전문가들은 어떤 분들일까요?

삼성전자 반도체 뉴스룸이 차세대 메모리 PIM의 개발과 상용화를 담당하고 있는 전문가들을 직접 만나보았는데요. D램 설계를 담당한 이석한 님, 소프트웨어와 응용 분야를 담당한 노유환 님, 그리고 PIM 제품의 사업화를 담당한 김진현 님과 함께 차세대 메모리의 동향에 대해 이야기를 나눠보았습니다.

Q. 폰 노이만 구조의 한계를 극복하기 위해 반도체 업계가 수십 년간 노력해온 것으로 알고 있습니다. PIM 솔루션이 중장기적으로 폰 노이만 병목현상을 해결하는 데 어떻게 기여할 수 있을까요?

A. PIM은 70년대 이미 컴퓨팅 구조 학계에서 제안되었을 정도로 필요성과 목적이 명확했습니다. 데이터 연산을 위해 메모리 데이터를 CPU에 자주 이동해야만 하는 기존의 폰 노이만 구조에서 CPU와 메모리의 성능 차이에 의한 병목현상은 이미 예견되어 있었기 때문이죠. 다만 이제까지는 메모리의 괄목할 만한 속도 증가와 CPU/GPU들의 병렬 연결을 이용하여 이를 극복해왔지만, 최근에는 인공지능 서비스를 위해 구축한 전체 시스템에서 전력 소모가 감당할 수 없을 정도로 증가하게 됨에 따라 다른 솔루션이 필요했던 상황입니다. PIM은 이러한 문제를 해결할 수 있는 혁신적인 기술인데요, 중장기적인 관점에서는 기하급수적으로 규모가 증가하고 있는 초거대 AI 응용에서 에너지 효율을 높이는데 크게 기여할 것으로 기대하고 있습니다.

Q. 말씀해 주신대로 AI, 빅데이터 처리를 위한 반도체 기술들이 주목을 받고 있는데요. 삼성전자 반도체는 고성능 컴퓨팅에 최적화된 HBM-PIM, LPDDR-PIM, GDDR-PIM 등 PIM(Processing in memory) 기술을 활용한 다양한 솔루션들을 선보이고 있습니다. 삼성전자의 PIM 기술이 기존에 다른 업체들이 해왔던 PIM 기술과 비교해 갖는 차별화 포인트가 있을까요?

A. 삼성전자는 2021년에 업계 최초로 HBM-PIM을 개발했습니다. 이후에도 부품 수준의 성능에 머무르지 않고, 가속기 카드 수준, 그 다음은 가속 서버 레벨, 더 나아가서는 데이터센터를 구성하는 클러스터 레벨까지 기술을 확장하여 왔습니다. 또한 PIM과 같은 새로운 기술 적용에 다소 보수적이었던 데이터센터 및 슈퍼컴퓨팅 업체를 위해, 고객이 바로 사용할 수 있는 실제 인공지능 응용에 PIM 기술을 적용하여 최종 고객 레벨에서 어떠한 성능을 기대할 수 있는지를 시현했습니다.

그동안 반도체 업계에서 제시되어 온 PIM 기술은 CPU 또는 GPU의 기능을 단순히 메모리로 옮겨서 데이터의 이동을 최소화한 것이 대부분이었는데요. 이는 시스템 수준의 비약적인 성능 향상을 가져오거나, 컴퓨팅 구조를 변경시킬 정도의 영향을 끼치지는 못했었습니다. 삼성전자 PIM 기술만이 가진 차별성은 △ 메모리 병렬처리 극대화 △ 인공지능 전용 가속 △ PIM을 지원하는 소프트웨어 제공 △ 현재 업계에서 상용되고 있는 CPU/GPU와 함께 바로 적용 가능한 호환성 (CPU나 GPU의 변경이 필요하지 않음) △ 메모리 셀에 가장 가까운 연산기 배치에 따른 에너지 효율 극대화로 요약할 수 있습니다.

Q. 삼성전자는 2021년 ISSCC 학회에서 PIM을 적용한 HBM을 처음 발표한 바 있는데요. PIM을 본격적으로 개발하기 시작한 시기와 개발 과정에서의 에피소드가 궁금합니다.

A. 우리 회사가 처음 PIM을 개발할 당시에는 어떤 응용을 타겟으로 어떻게 개발할 지에 대한 논의를 위해 상품기획, 개발자들이 모여 많은 시간을 할애하여 치열한 논쟁을 펼쳤습니다. 당시 논의했던 인공지능, 네트워크, 모바일, HPC(High-performance computing) 등의 응용 분야는 아직도 많은 고객들의 요청사항이 접수되고 그들과의 협력이 진행되고 있습니다.

PIM을 처음 개발하던 당시에 저희가 절대 타협하지 않은 부분은, 초기 PIM 제품은 기존 CPU/GPU를 변경하지 않고도 적용이 가능하도록 해야 한다는 것이었고 성능을 위해 D램 셀 가장 근처에 가속 엔진을 병렬로 위치시켜야 한다는 것이었습니다. 또한 외부적인 요인보다도 사업화 측면에서, 이런 중장기적인 기술을 제품에 적용하는 것이 맞는지에 대한 논의가 지속되어 왔지만, 삼성전자만이 할 수 있다는 의지와 함께 PIM 기술이 메모리 기술의 미래가 될 것이라는 신념에는 변함이 없었습니다.

Q. 삼성전자가 PIM을 개발하는 과정에서 학계와의 협력을 비롯해 다른 기업, 연구 기관들과도 적극적인 교류를 해 온 것으로 알고 있습니다. 기술 개발 과정에서 다양한 주체들과 협력한 것이 어떠한 효과를 가져왔는지 설명해주실 수 있으실지요?

A. PIM은 단순히 메모리에 가속 엔진을 넣는 것으로 완성되는 기술이 아닙니다. 메모리에 연산기가 들어가는 순간, 기존에 생각하지 못했던 많은 일들이 일어나기 때문이죠. 또한 PIM을 효과적으로 사용하기 위해서는 가장 적합한 응용을 중심으로 성능 향상과 응용 서비스 생태계가 구축되어야 합니다. 삼성전자는 차세대 IT 시스템들에 PIM의 적용과 확산을 앞당기고 PIM 생태계를 구축하기 위해, 이미 개발된 HBM-PIM로부터 얻은 결과와 PIM 개발 환경을 모두 개방하고, 외부 기업, 국책연구소 등과 다양하게 교류하고 있습니다. PIM의 성공은 훌륭한 제품뿐만 아니라 잘 구축된 생태계에 달려 있기 때문입니다.

Q. 현재까지 PIM 기술은 주로 데이터센터를 운영하는 플랫폼 기업들과 고성능 컴퓨팅이 필요한 슈퍼컴퓨터 등에 활용되고 있습니다. 한편, 삼성전자는 PIM 기술을 HBM뿐 아니라 LPDDR, GDDR 등의 제품으로도 확장하고 있는데요, 이와 같은 기술들이 활용될 수 있는 또 다른 영역은 어떤 것들이 있다고 보시는지요?

A. PIM은 단순한 메모리 제품이 아니라, 컴퓨팅 구조 차원의 메모리 기술이자 솔루션입니다. 사업화 초기에는 응용처를 HPC와 데이터센터로 타겟했기 때문에 HBM에 우선 적용했지만 추후 모바일, 그래픽 영역에도 적용하는 것이 당연한 순서라 볼 수 있습니다.

데이터를 이용하는 응용은 성능 측면에서 컴퓨팅 성능이 중요한 응용과, 메모리 성능을 더 요구하는 응용으로 크게 나눠볼 수 있는데요. PIM이 주목하는 응용은 메모리 성능을 필요로 하는 응용이고, 이런 응용은 빅데이터와 인공지능 시대에는 대부분을 차지하게 될 것입니다. 논리적으로 계산하는 응용보다는 모든 데이터를 모아놓고 답을 얻는 방법이 더 정확하고 빠르다는 것에 주목하고 있기도 하고요. 이러한 메모리 중심의 PIM 응용 사례로는, 인간의 뇌와 같은 저전력 초거대 AI 모델을 활용한 챗봇과 각종 추천 서비스, 실시간 번역 및 음성 인식, 기후나 생명 등 과학 연구를 위한 슈퍼컴퓨팅, 저전력 On-device AI mobile 응용 등 많은 데이터를 저전력으로 활용하여 빠른 연산 처리가 필요한 모든 영역이 될 것으로 예측됩니다.

가까운 미래에 우리의 일상이 될 인공지능 서비스들. AI가 만들어나갈 좀 더 편리하고 스마트한 세상의 핵심에는 메모리 반도체가 있습니다. 상상을 현실로 만들기 위해 오늘도 노력하고 있는 삼성전자 반도체에 많은 응원 부탁드립니다.