엔비디아가 실적을 발표한 직후 애프터마켓에서 주가가 30% 가까이 튀어올랐습니다. 솔직히 저도 그 숫자를 보고 잠깐 멍했습니다. 5월에 팔라는 오랜 격언이 또 한 번 틀렸고, AI 랠리는 여전히 현재 진행형입니다. 근데 제가 요즘 더 흥미롭게 보는 건 주가 자체보다 AI가 움직이는 방향입니다.
클라우드 밖으로 나오는 AI
챗GPT가 처음 나왔을 때 저는 "검색이 좀 편해지겠네" 정도로 생각했습니다. 그게 불과 2~3년 전 이야기입니다. 그런데 지금은 문서 작성, 코딩, 이미지 생성, 영상 기획까지 거의 모든 직업군에서 AI를 쓰고 있습니다. 변화 속도가 제가 예상했던 것보다 훨씬 빨랐습니다.
지금까지 AI는 전부 하이퍼스케일러(hyperscaler)들의 데이터 센터에서 돌아갔습니다. 하이퍼스케일러란 마이크로소프트 애저, 아마존 AWS, 구글 클라우드처럼 전 세계에 초대규모 데이터 센터를 운영하며 클라우드 서비스를 제공하는 기업들을 말합니다. 챗GPT든 클로드든 제미나이든, 제가 쓰는 모든 AI 서비스가 결국 이 인프라 위에서 돌아가고 있었던 겁니다.
그런데 이 구조가 한계에 부딪히기 시작했습니다. 자율주행차가 고속도로를 달리다 갑자기 장애물을 만났다고 생각해 보십시오. 그 판단을 클라우드에 보내고 답을 기다린다면 이미 사고가 난 후입니다. 드론도, 수술실도, 반도체 공장도 마찬가지입니다. 레이턴시(latency), 즉 데이터가 클라우드를 왕복하는 데 걸리는 지연 시간 자체가 치명적인 환경이 늘어나고 있습니다.
그래서 나온 개념이 온프레미스(on-premises) AI와 엣지 컴퓨팅(edge computing)입니다. 온프레미스 AI란 외부 클라우드에 데이터를 올리는 대신 기업이 자체 서버나 데이터 센터를 구축해서 그 안에서 AI를 돌리는 방식입니다. 엣지 컴퓨팅은 중앙 데이터 센터에 집중됐던 연산을 실제 데이터가 발생하는 현장, 즉 네트워크의 말단(엣지)에서 처리하는 개념입니다. 은행, 병원, 반도체 공장처럼 민감한 데이터를 외부로 보낼 수 없는 기업들 사이에서 이 수요가 빠르게 늘고 있고, 한 분기에만 온프레미스 AI 팩토리를 구축하겠다는 신규 기업 고객이 천 곳을 넘었다는 이야기도 나옵니다.
AI 수요가 확산되는 구조
엔비디아가 올해부터 실적 발표 방식을 바꿨습니다. 기존의 단일 GPU 매출 중심에서 데이터 센터 부문과 엣지 컴퓨팅 부문, 두 가지로 나눠서 공개하기 시작한 겁니다. 이걸 보고 "GPU 성장이 꺾이니까 숨기려는 것 아니냐"는 시각도 있습니다. 저도 처음엔 그 의구심이 들었습니다. 하지만 조금 더 생각해보니 방향이 좀 다르게 읽혔습니다.
AI 캐펙스(capex), 즉 인공지능 인프라에 대한 자본 지출이 그동안은 하이퍼스케일러들의 대형 데이터 센터 구축에 집중돼 있었습니다. 그런데 지금은 일반 기업들도 자기 현장에 AI 팩토리를 들이겠다는 수요가 생기고 있습니다. 수요의 주체가 늘어나고 있는 겁니다. 하이퍼스케일러 투자가 조금 줄더라도 기업용 온프레미스 수요가 그 공백을 메울 수 있다는 논리가 여기서 나옵니다.
더 큰 그림은 에이전트 AI와 피지컬 AI(physical AI)입니다. 피지컬 AI란 단순히 텍스트나 이미지를 생성하는 수준을 넘어, 로봇·자율주행차·드론처럼 실제 물리적인 몸체를 갖고 현실 세계에서 움직이고 판단하는 AI를 말합니다. 지금 AI가 에이전트 단계, 즉 스스로 도구를 사용하고 작업을 자율적으로 수행하는 단계에 막 진입했고, 그다음이 피지컬 AI입니다.
제가 이 흐름에서 가장 충격적으로 받아들인 부분은 규모의 이야기였습니다. 현재 인류의 지식 노동자가 약 10억 명 수준인데, AI 에이전트는 수천억 개 단위로 가동될 수 있습니다. 게다가 사람은 자고 쉬지만 AI 에이전트는 24시간 7일 쉬지 않습니다. 그렇다면 연산력, 메모리, 스토리지 수요는 지금과는 차원이 다른 규모로 커질 수밖에 없습니다. 2025년 기준 글로벌 데이터 센터 시장은 2030년까지 연평균 약 22% 성장할 것으로 전망됩니다(출처: Grand View Research).
AI 인프라 수혜를 받을 수 있는 영역을 정리하면 다음과 같습니다.
- 기본 컴퓨트와 메모리: GPU, HBM(고대역폭 메모리), D램 등 — 엔비디아, AMD, 마이크론, SK하이닉스, 삼성전자
- 기업용 AI 서버·스토리지: 온프레미스 AI 팩토리 구축 — 델, HP, 펭귄 솔루션
- 엣지 특화 반도체: 저전력 고성능 칩 — 퀄컴, 암바렐라, NXP
- 연결성·통신: AI 기지국(AI RAN), 광통신, 네트워크 반도체 — 노키아, 브로드컴, 마벨
- 피지컬 AI 응용: 센서, 비전, 자율주행, 로봇 관련 기업들
인터넷 버블과 다른 점
AI가 버블이냐 아니냐는 요즘 가장 뜨거운 논쟁입니다. 저는 이 질문 자체가 잘못 설정됐다고 생각합니다. 인터넷 버블은 실제로 터졌습니다. 하지만 인터넷은 사라지지 않았고, 오히려 세상을 바꿔놨습니다. 그 과정에서 진짜 돈을 번 기업들은 특정 닷컴 서비스가 아니라 통신망, 서버, 운영체제, 검색 인프라를 만든 곳들이었습니다.
AI도 비슷한 경로를 걸을 가능성이 있습니다. HBM(High Bandwidth Memory)이란 데이터를 넓은 대역폭으로 빠르게 처리할 수 있도록 설계된 고성능 메모리로, AI 가속기에서 핵심 부품 역할을 합니다. AI 모델이 커질수록, 에이전트가 늘어날수록 HBM 수요는 구조적으로 증가합니다. 마찬가지로 AI RAN(AI Radio Access Network)은 기존 무선 기지국에 AI 추론 기능을 결합해 기지국 자체를 컴퓨팅 노드로 활용하는 기술입니다. 통신 인프라가 AI 연산 거점이 되는 셈입니다. 이런 흐름은 AI를 하나의 소프트웨어 서비스로 보는 시각으로는 잘 보이지 않습니다.
저는 요즘 시장에서 진짜 중요한 질문이 "어떤 AI 모델이 이기냐"가 아니라 "AI가 100배 늘어날 때 누가 돈을 버냐"라고 생각합니다. 개인용 PC가 등장하면서 메인프레임 중심이던 컴퓨팅 역사가 바뀌었듯이, AI도 중앙 데이터 센터에서 현장으로, 현장에서 개인 기기로, 개인 기기에서 로봇과 자동차로 퍼져나가고 있습니다. 글로벌 AI 반도체 시장은 2024년 약 671억 달러에서 2030년 4,600억 달러 규모로 성장할 것으로 전망됩니다(출처: MarketsandMarkets).
물론 그 과정에서 주가는 기술 발전 속도보다 훨씬 앞서 달릴 수 있고, 조정이나 버블 붕괴는 언제든 올 수 있습니다. 그래서 제가 스스로에게 묻는 질문은 "지금 AI 주식이 비싼가 싼가"가 아니라 "이 기업이 10년 뒤 AI 세계에서도 꼭 필요한 역할을 하고 있을까"입니다. 어떤 분야든 투자 판단은 각자가 충분히 공부하고 따져보신 다음에 내리시길 권합니다. 이 글은 개인적인 경험과 의견을 공유한 것이며, 전문적인 투자 조언이 아닙니다.