[FETV=양대규 기자] 곽노정 SK하이닉스 대표이사 사장이 16단 HBM3E 개발에 대해 세계 최초로 공개했다. 이는 HBM((High Bandwidth Memory) 중 현재 가장 높은 성능을 지닌 12단 HBM3E를 넘은 최고층 제품이다.

4일 서울 삼성동 코엑스에서 열린 ‘SK AI 서밋(Summit) 2024’에서 곽노정 사장은 ‘차세대 AI 메모리의 새로운 여정, 하드웨어를 넘어 일상으로'를 주제로 한 기조 연설에 나섰다.

이 자리에서 곽 사장은 현존 HBM 최대 용량인 48GB(기가바이트)가 구현된 16단 HBM3E 개발을 세계 최초로 공식화했다. 

HBM은 여러 개의 D램(DRAM)을 수직으로 연결해 기존 D램보다 데이터 처리 속도를 혁신적으로 끌어올린 고부가가치, 고성능 제품이다. HBM은 1세대(HBM)-2세대(HBM2)-3세대(HBM2E)-4세대(HBM3)-5세대(HBM3E) 순으로 개발됐다. 기존 12단 HBM3E의 용량은 3GB D램 단품 칩 12개를 적층한 36GB였다.

이날 행사에서 곽 사장은 시간의 흐름에 따른 메모리의 개념 변화를 설명하고, AI 시대를 이끌어 가고 있는 SK하이닉스의 기술력과 제품을 소개했다.

곽 사장은 “고객과 파트너, 이해관계자들과 긴밀히 협력해 ‘풀스택 AI 메모리 프로바이더(Full Stack AI Memory Provider)’로 성장하겠다”고 미래 비전을 제시했다. 풀 스택 AI 메모리 프로바이더는 SK하이닉스가 D램과 낸드 전 영역에 AI 메모리 제품 라인업을 갖추었다는 것을 의미한다.

이날 곽노정 사장은 SK하이닉스가 현재 세계 최초로 개발, 양산하고 있는 ‘월드 퍼스트(World First)’ 제품을 다양하게 준비 중이며, 최고의 경쟁력을 갖춘 ‘비욘드 베스트(Beyond Best)’ 제품을 계획하고 있다고 밝혔다. 또한 AI 시대에 시스템 최적화를 위한 ‘옵티멀 이노베이션(Optimal Innovation)’ 제품을 선보일 예정임을 강조했다.

먼저 월드 퍼스트 제품으로 그는 HBM4부터 16단 시장이 본격적으로 열릴 것이며, 이에 대비해 SK하이닉스는 기술 안정성을 확보하고자 48GB 16단 HBM3E를 개발 중이며, 내년 초 고객에게 샘플을 제공할 예정이라고 설명했다.

16단 HBM3E를 생산하기 위해 SK하이닉스는 12단 제품에서 양산 경쟁력이 입증된 어드밴스드(Advanced) MR-MUF 공정을 활용할 계획이며, 백업 공정으로써 하이브리드 본딩(Hybrid bonding) 기술도 함께 개발하고 있다고 설명했다.

SK하이닉스의 내부 분석 결과에 따르면 16단 HBM3E는 12단 제품 대비 학습 분야에서 18%, 추론 분야에서는 32% 성능이 향상됐다.

또한 비욘드 베스트 제품에 대해 곽 사장은 저전력 고성능을 강점으로, 향후 PC와 데이터센터에 활용될 것으로 전망되는 LPCAMM2(Low Power Compression Attached Memory Module 2) 모듈을 개발하고 있으며 1cnm 기반 LPDDR5와 LPDDR6를 개발 중이라고 설명했다. 또, 낸드에서는 PCIe 6세대 SSD와 고용량 QLC 기반 eSSD, 그리고 UFS 5.0을 준비 중이라고 덧붙였다.

LPCAMM2는 LPDDR5X 기반의 모듈 솔루션 제품으로 기존 DDR5 SODIMM 2개를 LPCAMM2 1개로 대체하는 성능 효과를 가지면서 공간 절약뿐만 아니라 저전력과 고성능 특성을 구현한다.

곽 사장은 더 나아가 당사는 HBM4부터 베이스 다이(Base Die)에 로직 공정을 도입할 예정임을 밝혔다. 그는 글로벌 1위 파운드리 협력사(TSMC)와의 원팀 파트너십을 기반으로 고객에게 최고의 경쟁력을 갖춘 제품을 제공하겠다고 설명했다.

베이스 다이는 GPU와 연결돼 HBM을 컨트롤하는 역할을 수행하는 다이다. HBM은 베이스 다이 위에 D램 단품 칩인 코어 다이(Core Die)를 쌓아 올린 뒤 이를 TSV 기술로 수직 연결해 만들어진다.

마지막 옵티컬 이노베이션 제품으로 커스텀(Custom) HBM을 강조했다. 그는 용량과 대역폭, 부가 기능 등 고객의 다양한 요구를 반영해 성능을 최적화한 제품으로, 향후 AI 메모리의 새로운 패러다임이 될 것이라고 설명했다.

이 밖에도 ▲AI 시스템 구동을 위해서는 서버에 탑재된 메모리 용량이 대폭 증가해야 함. 이를 위해 당사는 여러 메모리를 연결해 대용량을 구현하는 CXL을 준비 중이며 ▲초고용량 QLC eSSD를 개발해 고객이 더 많은 데이터를 더 작은 공간에서 저전력으로 이용할 수 있도록 준비하고 있다.

아울러 SK하이닉스는 메모리 병목 현상을 극복하기 위해 메모리에 연산 기능을 더하는 기술을 개발하고 있다. 차세대 메모리 기술인 PIM(Processing in Memory), 컴퓨테이셔널 스토리지(Computational Storage) 같은 기술은 초거대 데이터를 다루게 될 미래의 필수 기술로 차세대 AI 시스템의 구조를 바꾸는 큰 도전이자 AI 업계의 미래가 될 것이라고 곽 사장은 설명했다.