주변에서 "하이닉스 너무 올랐다, 지금 사도 되냐"는 말을 자주 듣습니다. 저도 솔직히 비슷한 고민을 했습니다. 근데 이번에 엔비디아 신제품 원가 구조를 뜯어보고 앤스로픽 흑자 전환 소식까지 보고 나서, 이건 단순히 주가 고점 얘기가 아닐 수 있겠다는 생각이 들었습니다.
AI 사이클의 구조가 달라지고 있습니다
예전 반도체 시장은 제가 보기에도 꽤 단순한 게임이었습니다. DRAM(동적 램) 가격이 오르면 삼성전자 주가가 오르고, 경기가 꺾이면 메모리 재고가 쌓이면서 빠졌습니다. 여기서 DRAM이란 PC나 스마트폰에 쓰이는 일반 메모리로, 수요가 소비자 교체 주기에 민감하게 연동되는 제품입니다. 그래서 사람들이 "반도체는 돌고 돈다"는 말을 당연하게 받아들였고, 저도 그렇게 배웠습니다.
근데 지금 AI 사이클은 그 구조 자체가 달라지고 있습니다. 제가 직접 시장을 들여다보면서 느낀 가장 큰 차이는, 이번 수요의 주체가 소비자가 아니라 빅테크라는 점입니다. 마이크로소프트, 구글, 메타, 아마존 모두 AI 인프라 CAPEX(자본적 지출)를 매 분기 올리고 있습니다. 여기서 CAPEX란 기업이 미래 수익을 위해 공장이나 장비처럼 장기 자산에 투자하는 비용을 뜻합니다. 빅테크 입장에서는 AI 경쟁에서 한 발 늦으면 검색, 광고, 클라우드 생태계 전체가 흔들릴 수 있으니, 비용이 아무리 비싸도 투자를 멈출 수가 없는 구조입니다.
여기에 앤스로픽의 흑자 전환 소식이 더해졌습니다. 앤스로픽은 공식 투자자 대상 발표에서 당초 2028년으로 예상하던 흑자 시점을 올해 2분기로 앞당길 수 있다고 직접 밝혔습니다. 추측 보도가 아닙니다. 그 배경에는 B2B(기업 간 거래) 고객 비중이 높다는 점, 구글·아마존의 자체 반도체를 활용해 원가를 낮춘 점, 그리고 AI 에이전트 수요가 예상보다 훨씬 빠르게 폭증하고 있다는 점이 복합적으로 작용했습니다. 저도 업무용으로 Claude를 여러 계정에 걸쳐 쓰고 있는데, 실제로 쓰다 보면 쓸수록 더 쓰게 되는 구조라는 걸 체감합니다. 수요가 왜 폭증하는지 어느 정도 이해가 됩니다.
HBM이 AI 서버의 핵심 병목으로 떠오른 이유
이번에 제가 가장 주목한 건 엔비디아 신제품 Vera Rubin 플랫폼의 원가 구조 분석이었습니다. 모건스탠리 보고서에 따르면, 전작 대비 원가 상승폭이 가장 큰 항목은 압도적으로 메모리였습니다. 무려 5배 증가했고, 전체 원가에서 차지하는 비중도 9%에서 25%로 뛰었습니다. 즉 엔비디아 제품 한 대를 팔면 그 가격의 4분의 1이 메모리 비용이라는 뜻입니다(출처: Morgan Stanley Research).
여기서 핵심이 HBM(고대역폭 메모리)입니다. HBM이란 GPU 옆에 수직으로 적층해서 붙이는 초고속 메모리로, 일반 DRAM보다 데이터 전송 속도가 수십 배 빠른 제품입니다. AI 모델이 계산을 하려면 데이터를 메모리에서 GPU로 쉼 없이 옮겨야 하는데, 이 전송 속도가 느리면 아무리 GPU 성능이 좋아도 병목이 생깁니다. 젠슨 황이 인터뷰에서 "지금 가장 큰 병목 하나만 고르라면 메모리"라고 단정적으로 말한 이유가 여기에 있습니다. 그리고 2~3년 전부터 SK하이닉스, 마이크론 CEO와 직접 로드맵을 조율해왔다고 밝혔을 정도로, 이 문제는 이미 업계 최상위에서 인식하고 있던 과제였습니다.
제가 직접 이 구조를 이해하고 나서 느낀 건, 메모리가 더 이상 "부품"이 아니라 AI 서버의 성능 자체를 결정하는 핵심 자원이 됐다는 겁니다. 마이크론도 인터뷰에서 현재 고객 수요의 절반 정도밖에 충족하지 못하고 있다고 밝혔고, 의미 있는 공급 증가는 2028년은 돼야 가능하다고 했습니다(출처: Micron Technology). 즉 공급 부족이 올해만의 이야기가 아닐 수 있다는 뜻입니다.
AI 인프라를 구성하는 핵심 요소들을 정리하면 다음과 같습니다.
- GPU: 연산 처리 담당, 엔비디아가 사실상 독점적 공급자
- HBM: 데이터 전송 속도 결정, SK하이닉스·마이크론·삼성전자가 공급
- 광통신·인터커넥트: 서버 간 데이터 이동 속도 담당
- 전력·냉각: 데이터 센터 운영의 물리적 한계를 결정
- 반도체 장비(ASML 등): 위 모든 부품의 생산 기반
지금 시장에서 조심해야 할 것과 눈여겨볼 것
솔직히 이건 예상 밖이었습니다. 시장이 이렇게 빠르게 달아오를 줄은 몰랐습니다. 근데 그렇기 때문에 더 조심해야 할 지점도 보입니다. 제가 시장을 보면서 느낀 건, 지금 사람들이 "HBM은 무조건 오른다"는 식으로 접근하기 시작했다는 겁니다. 반도체 산업은 과열→증설→공급 과잉→가격 하락의 사이클을 반복해왔습니다. 지금도 삼성전자, SK하이닉스, 마이크론 모두 HBM 생산 캐파(생산 용량)를 늘리고 있습니다. 언젠가 공급 압박이 오지 않을 것이라고 장담하기는 어렵습니다.
다만 이번 사이클이 예전과 다른 이유가 있습니다. AI 모델 크기 자체가 계속 커지고 있고, AI 에이전트 시대가 본격화되면 메모리 수요는 저장 목적이 아니라 AI가 작업 상태를 유지하는 '작업 공간'으로서의 수요로 전환됩니다. 그러면 수요 구조 자체가 달라집니다. 엔비디아 젠슨 황이 "AI 에이전트 다음에 피지컬 AI까지 오기 때문에 향후 10년은 수요가 따라잡기 어려울 것"이라고 한 말도 그 맥락에서 이해할 수 있습니다.
ASML CEO도 최근 인터뷰에서 AI, 로봇, 위성 수요까지 더해지면서 반도체 장비 산업의 연평균 성장률 전망치를 기존 9%에서 15%로 상향했습니다. 본인도 전망을 잘못 잡았다고 인정할 정도였으니, 지금 변화의 속도는 업계 전문가들도 따라잡기 벅찬 수준입니다.
제 경험상 이런 국면에서 가장 위험한 생각은 "지금 안 사면 영원히 못 산다"는 조급함입니다. 메모리 반도체 투자에서 진짜 중요한 건 누가 지금 가장 빨리 오르냐가 아니라, 누가 기술 격차와 수율 안정성을 가장 오래 유지하느냐입니다. SK하이닉스가 강한 이유도 단순한 생산량이 아니라 엔비디아 검증과 수율 안정성에 있었습니다. 삼성전자도 결국 그걸 증명해야 합니다. 시장은 이미 그 싸움을 조용히 시작하고 있습니다.
이 글은 개인적인 경험과 시장 분석을 공유한 것이며, 전문적인 투자 조언이 아닙니다. 투자 판단은 반드시 본인의 책임 하에 하시기 바랍니다.