HBM 이후, SK하이닉스의 다음 먹거리는 무엇인가

SK하이닉스는 지금 역사상 가장 잘나가는 회사다.
HBM 시장 점유율 57%, 창사 이래 최대 영업이익, 만년 2위가 삼성을 누르고 D램 1위에 오른 해.
뉴스는 연일 찬사를 쏟아낸다.

그런데 이 회사 안에 있는 사람들은 왜 지금도 불안할까.

반도체를 오래 들여다본 사람들은 안다. 독점은 항상 일시적이라는 것을. HBM이라는 제품이 특별한 게 아니다. 남들보다 먼저 만들었고, 남들보다 잘 만들었을 뿐이다. 그 격차는 시간이 지나면 반드시 좁혀진다. 마이크론이 추격하고 있고, 삼성이 반격을 준비하고 있고, 중국은 그 아래서 기어올라오고 있다.

SK하이닉스가 진짜 뛰어난 이유는 HBM에서 1등을 했기 때문이 아니다.
HBM이 정점을 향해 달려가는 지금, 이미 다음 판을 깔고 있기 때문이다.

HBM의 영광은 얼마나 갈까

HBM은 AI 학습용 GPU 옆에 붙는 고속 메모리다. ChatGPT 같은 모델을 훈련시킬 때, 수조 개의 매개변수를 처리하려면 엄청난 속도의 메모리가 필요하다. HBM이 그 자리를 차지했다.

문제는 AI 시장이 변하고 있다는 것이다. 지금 AI 산업의 무게중심은 ‘학습’에서 ‘추론’으로 이동하고 있다. 모델을 만드는 단계에서, 모델을 실제로 사용하는 단계로. 이 전환은 메모리 수요의 지형도 바꾼다.

추론 시대의 AI는 끊임없이 대화하고, 데이터를 쌓고, 빠르게 꺼내 써야 한다. HBM만으로는 부족하다. 다른 종류의 메모리가 필요해진다.

다음 판 ① eSSD — AI의 창고

AI가 말을 하려면 기억이 필요하다. 대화 기록, 학습 데이터, 추론에 참조할 방대한 정보들.
이것을 담아두는 창고가 기업용 SSD, 즉 eSSD다.

SK하이닉스의 2025년 eSSD 매출은 전년 대비 약 4배 성장했다. 우연이 아니다. AI 데이터센터가 늘어날수록, 그 안에 들어가는 고용량 저장장치 수요도 구조적으로 함께 늘어난다. SK하이닉스는 인텔의 낸드 사업부를 인수해 만든 자회사 솔리다임과 함께 이 시장을 공략하고 있다.

eSSD의 경쟁 구도는 HBM과 다르다. 삼성이 이미 점유율 1위다. SK하이닉스 입장에서는 추격하는 입장이다. 하지만 시장 자체가 폭발적으로 커지고 있어, 파이가 충분히 크다.

다음 판 ② CXL — GPU 옆에 붙이는 확장팩

AI 서버는 돈이 너무 많이 든다. GPU 한 장에 수천만 원이고, 그 GPU를 충분히 활용하려면 메모리가 넉넉해야 한다. 그런데 기존 서버 구조에서는 메모리를 무한정 늘릴 수 없다. 물리적인 슬롯 한계가 있다.

CXL은 이 문제를 푼다. 서버 바깥에 메모리 풀을 만들어, 여러 서버와 GPU가 공유해서 쓸 수 있게 해주는 기술이다. 기존 대비 메모리 용량을 10배 이상 확장할 수 있다. 데이터센터 운영사 입장에서는 같은 돈으로 더 많은 AI 연산을 처리할 수 있게 된다.

업계 관계자들은 CXL을 “중국이 따라잡기 가장 어려운 기술”이라고 평가한다. D램 제조기술만으로는 안 되고, 소프트웨어와 하드웨어를 고도로 결합해야 하기 때문이다. SK하이닉스는 TSMC와 손잡고 자체 CXL 컨트롤러 개발에 나섰고, 2026년 중반 결실이 예상된다.

다음 판 ③ PIM — 메모리가 직접 계산하는 시대

지금의 컴퓨터 구조는 이렇게 생겼다. 데이터는 메모리에 있고, 연산은 CPU나 GPU가 한다. 데이터가 메모리에서 프로세서로 이동하는 그 순간이 병목이다.

PIM(Processing-In-Memory)은 이 병목을 없애는 발상이다. 메모리 안에 연산 기능을 심어, 데이터가 이동하지 않고 제자리에서 계산하게 만든다. SK하이닉스의 GDDR6-AiM 제품은 특정 조건에서 연산 속도가 기존 대비 최대 16배 빠르다.

PIM은 아직 초기 단계다. 하지만 이 방향이 완성되면, SK하이닉스는 더 이상 부품 공급사가 아니다. AI 시스템 전체의 효율을 설계하는 솔루션 파트너가 된다. 단가 싸움에서 벗어나, 시스템 가치로 가격을 매기는 회사가 되는 것이다.

그래도 낙관만 할 수는 없다

SK하이닉스의 청사진은 그럴듯하다. 하지만 냉정하게 봐야 할 변수들이 있다.

첫째, HBM 가격은 언젠가 내려온다. 삼성이 HBM4 시장에서 점유율을 빠르게 회복하고 있고, 마이크론도 미국 정부의 지원을 등에 업고 점유율을 끌어올리고 있다. 공급이 늘면 가격은 조정된다.

둘째, 미중 갈등이 변수다. SK하이닉스의 중국 팹 장비 수입은 연간 갱신 체제로 바뀌었다. 지정학적 리스크는 언제든 사업 계획을 흔들 수 있다.

셋째, eSSD는 삼성이 앞서 있다. CXL은 아직 시장이 형성 초기다. PIM은 상용화까지 갈 길이 멀다. 다음 판이 실제로 SK하이닉스의 것이 되려면, 지금의 HBM 수익으로 번 시간을 얼마나 잘 쓰느냐에 달려 있다.

이 구조가 내게 주는 시사점

반도체 업계에서 일하거나, 관련 기업에 투자하거나, 단순히 이 흐름을 이해하고 싶다면 하나만 기억하면 된다.

지금 각광받는 기술의 다음 단계를 보라.

HBM이 터진 것은 AI 학습 시장이 열렸기 때문이다. 지금 AI가 추론 시대로 이동하면서, eSSD와 CXL이 그 다음 수혜 구간에 들어오고 있다. 커리어 관점에서 보면, 오늘 HBM 부서에 들어가는 것과 CXL이나 eSSD 솔루션 쪽에 포지션을 잡는 것은 5년 뒤 전혀 다른 이야기가 될 수 있다.

투자 관점에서도 마찬가지다. ‘슈퍼사이클이 끝나면 어떻게 되나’라는 질문은 틀린 질문이다. 맞는 질문은 ‘다음 사이클의 주력 제품은 무엇이고, 누가 그것을 쥐고 있나’다.

SK하이닉스는 지금 그 답을 세 개 준비하고 있다. 셋 모두 성공하지 않아도 된다. 하나만 제대로 터져도, 이 회사는 다시 다음 10년의 이야기를 쓴다.