1. 인류 역사상 가장 돈을 잘 버는 기업
젠슨 황 엔비디아 CEO 얘기를 하기 전에 최근 엔비디아 실적에 대해서 얘기를 한번 해야 할 것 같습니다. 5월 22일 발표된 엔비디아 실적은 분기매출 260억 달러, 분기 영업이익 169억 달러를 기록했습니다. 매출 약 36조 원, 영업이익 23조 원으로 영업이익률이 65%에 달했으며, 매출 총 이익률(Gross margin ratio)은 78.4%로 경이적인 수준을 기록했습니다. 인류의 역사상 이렇게 큰 규모의 기업이 이렇게 돈을 잘 번 적은 없었을 것 같습니다. 지금 전 세계를 지배하는 플랫폼 테크 기업들. 돈 버는 기계인 테크기업들에게서 열심히 수금을 하고 있으니 엔비디아가 이렇게 돈을 잘 버는 것은 당연한 결과입니다.
이렇게 엔비디아가 잘 나가다 보니 모든 기업들이 엔비디아랑 손을 잡고 조금이라도 엔비디아와 친하다는 티를 내고 싶어 합니다. 심지어 엔비디아의 제품을 구매하는 고객들도 마찬가지입니다.
구글 : “엔비디아 블랙웰 우리가 제일 먼저 서비스할 거임. 내가 제일 친함.”
마이크로소프트 : “엔비디아 클라우드 서비스 우리 애저에서 서비스됨. 우리랑 더 친함.”
파이낸셜타임스 : “AWS가 엔비디아 H100 못 구해서 블랙웰만 산다”
AWS : “아닙니다. 오보입니다. H100이랑 블랙웰 둘 다 살겁니다”
일론머스크 xAI : “8조 원 투자받아서 GPU 10만 개 살 거임. 사는 것도 능력이야!”
2. 당신은 엔비디아의 친구입니까?
‘을(乙) 비디아’가 아니라 ‘갑(甲) 비디아’ 고객들도 이런데 엔비디아의 GPU를 받아서 조립을 해야 하는 서버컴 입장에서는 엔비디아가 상전입니다.
대만 슈퍼마이크로가 엔비디아와 친분을 과시하며 1년 새 주가가 240%나 올랐는데, 최근에는 델 테크놀로지스가 친분을 과시하면서 주가가 폭등했습니다. 슈퍼마이크로는 엔비디아와 제일 친한 것에 델이라는 것이 밝혀진 이후에는 하락세입니다. 근데 델은 최근 실적발표에서 엔비디아에 퍼주고 있는 것이 아닌가 의심되는 내용이 공개되면서 다시 주가가 폭락했습니다.
결국 엔비디아는 슈퍼’을’이 되어서 지금의 지위를 최대한 누리고 있습니다. 말하자면 고객과 파트너로부터 최대한의 이윤을 거두고 있습니다. 이것이 엔비디아의 ‘갑질’이 아니라 시장의 수요와 공급에 따른 결과라는 것이 놀라운 점입니다.
컴퓨텍스는 매년 반도체 업계의 CEO들이 연설을 합니다. 올해는 젠슨 황 엔비디아 CEO → 리사 수 AMD CEO → 크리스티아노 아몬 퀄컴 CEO → 르네 하스 Arm CEO → 팻 겔싱어 인텔 CEO순으로 기조연설이 이뤄졌습니다.
퀄컴 CEO와 Arm CEO의 연설은 기본적으로 동일한 내용이었습니다. Arm기반의 AI PC에 최적화된 CPU가 나왔고, 이제 PC에서 x86(인텔&AMD) 대신 Arm기반 CPU의 시대가 온다는 것이었습니다. 지난번 레터에서 설명드린 적 있는 마이크로소프트 코파일럿+ PC 기준을 만족하는 CPU인 스냅드래곤 X 엘리트가 바로 그것입니다. 또한, 서버컴퓨터 시장에서도 Arm기반의 CPU가 확대되고 있다고 Arm 르네 하스 CEO는 말했습니다.
x86 기반의 CPU를 만드는 회사들도 코파일럿+ PC 기준을 충족시키는 CPU를 공개했습니다. 리사 수 AMD CEO는 ‘스트릭스 포인트’를 공개했고, 팻 겔싱어 CEO는 ‘루나 레이크’를 공개했습니다. AI PC라는 새로운 카테고리 시장에서 1위인 인텔, 2위인 AMD, 완전히 새로운 아키텍처인 퀄컴이 경쟁하는 모습입니다.
3. 리사 수 “2025년엔 엔비디아 따라잡는다”
그런데 제가 보기에 이번 컴퓨텍스 CEO 기조연설의 하이라이트는 바로 리사 수 AMD CEO의 발표였습니다. 엔비디아의 경쟁사와 고객들이 어떻게 엔비디아를 때려잡기 위해 힘을 합치고 있는지를 보여줬습니다. 저는 AMD의 발표에서 합종연횡이라는 단어가 생각났습니다.
리사 수 CEO는 기조연설 초반에는 위에서 말씀드린 코파일럿+ PC 용 반도체인 스트릭스 포인트를 공개했고, 두 번째로는 차세대 데이터센터용 CPU 튜린을 공개했습니다. 하지만 기조연설의 무게는 마지막 발표인 서버용 AI가속기에 쏠려 있었습니다.
엔비디아의 AI반도체와 경쟁하는 AMD 제품이 MI300X입니다. 이 MI300X는 최근에서야 마이크로소프트 애저 클라우드에 탑재되어서 일반고객에게 풀렸습니다. 비슷한 시기에 서비스가 본격적으로 시작된 엔비디아의 H200과 고객들이 비교해서 써볼 수 있는 것입니다.
리사 수 CEO는 기조연설에서 MI300으로 애저에 탑재된 오픈AI GPT-4를 가동하는 화면을 보여줬습니다. 생성형AI의 표준이라고 할 수 있는 챗GPT가 AMD GPU에서 잘 돌아간다는 것을 보여준 것입니다.
그리고 한 단계 업그레이드된 HBM3E가 탑재된 MI325X를 올해, 엔비디아 블랙웰보다 1.2배 성능이 뛰어난 MI350을 내년에, 그리고 완전히 새로운 설계의 MI400을 2026년에 공개한다는 로드맵을 공개했습니다. HBM3E는 SK하이닉스가 만들어 엔비디아 H200에 처음 탑재된 신형 HBM인데, 이걸 AMD 제품에도 넣겠다는 것입니다. 이 HBM3E는 삼성전자가 공급하는 것으로 알려져 있습니다.
팻 겔싱어 CEO도 기조연설에서 엔비디아 경쟁제품인 가우디3 반도체는 표준 AI 키트 가격이 6만 5,000달러로 엔비디아 대비 3분의 1밖에 되지 않는다고 설명했습니다. 가격과 기존 제품들과 호환성이라는 측면에서 엔비디아에 도전장을 낸 것입니다.
4. 엔비디아만 빼고 모여 모여
엔비디아를 따라잡는 로드맵을 공개하고, MI300에서 챗GPT가 잘 돌아간다는 것을 보여준 리사 수 CEO는 연합군도 공개했습니다.
바로 UA링크와 울트라 이더넷 컨소시엄(UEC) 양쪽에서 AMD가 중요한 역할을 할 것이라고 말했습니다. 엔비디아는 AI가속기인 GPU 외에도 NV링크와 인피니밴드라는 자체 기술을 보유하고 있습니다. NV링크는 반도체 칩들을 서로 연결하는 기술이고, 인피니밴드는 데이터센터 내에서 컴퓨터들을 서로 연결하는 기술입니다. 이 두 가지 기술은 엔비디아가 GPU를 높은 가격으로 팔 수 있는 이유이기도 합니다.
UA링크는 NV링크를 대체할 수 있는 기술이며, 울트라 이더넷 컨소시엄(UEC)은 인피니밴드와 경쟁하는 이더넷 사용을 촉진하는 연합입니다. UA링크에는 구글, 마이크로소프트, 메타 / AMD, 인텔, 브로드컴 / 시스코, HPE가 참여했습니다.
두 컨소시엄은 상호 협력을 하기로 되어있는데요. 이 연합군에 엔비디아와 AWS만 이름이 빠져있는 것을 알 수 있습니다. AWS 같은 경우 자체적인 데이터센터 연결기술을 갖추고 있어서 빠진 것 같습니다. 그렇다면 이 컨소시엄은 엔비디아가 공통의 ‘적’이라고 할 수 있습니다. 이런 측면에서 보면 지금의 엔비디아는 B2C 세계에서 애플과 가장 비슷한 기업이라는 생각도 듭니다. 모든 걸 자신의 손으로 하고 싶어 하는 기업입니다.
5. 2년 후에 ‘루빈’나올 거야 기대해도 좋아
이렇게 反엔비디아 연합군 발표가 있다는 것을 알아서일까요? 하루 전 전야제에서 이뤄진 젠슨 황 CEO의 기조연설에서 갑자기 차세대 AI반도체 플랫폼인 ‘루빈’이 공개됐습니다. 올해 3월 신제품 ‘블랙웰’을 공개했는데, 6월에 갑자기 차세대 ‘루빈’을 공개한 것입니다. 루빈은 2026년 출시예정입니다. AMD가 현재 신모델인 블랙웰을 기반으로 경쟁 제품을 발표할 것을 알았기 때문인지 그다음세대 모델을 공개해 사람들의 관심을 가져간 것 같습니다. 물론, 루빈의 자세한 성능은 전혀 공개되지 않았습니다. 차세대 모델의 이름과 여기에 탑재될 HBM의 사양만 공개했습니다. 그리고 데이터센터용 CPU ‘그레이스’의 후속 제품인 ‘베라’를 공개했습니다. 앞선 모델 그레이스 호퍼가 여성 컴퓨터공학자의 이름인 것처럼 베라 루빈은 여성 천문학자의 이름이라고 합니다.
엔비디아와 AMD의 발표가 이뤄진 다음날 미국 주식시장에서 엔비디아 주가는 3% 상승했습니다. 반면 AMD 주가는 3% 하락했습니다. 엔비디아에 도전한다는 AMD가 못 미더운 것일까요? 리사 수 CEO가 취임 후 AMD의 PC용 CPU 점유율은 한 자릿수였던 것이 최근에는 20% 정도, 서버용 CPU 점유율도 거의 존재감이 없던 것에서 20%대까지 올라왔습니다. 압도적인 강자가 있는 시장에서 도전자로 살아남는 것을 그가 보여준 것입니다. 엔비디아와의 경쟁에서 비슷한 점유율만을 차지한다고 해도 AMD에게는 큰 성공일 것 같습니다.
6. 눈송이 회사의 정체?
여기서 잠깐. 제가 참석한 스노우플레이크라는 회사의 행사에 왜 젠슨 황 CEO가 등장한 걸까요? 두 회사는 지난해부터 협력을 강화해 왔는데 이번 행사에는 더 발전된 파트너십을 발표했습니다. 젠슨 황 CEO는 두 회사의 이번 파트너십이 엄청난 의미가 있다고 강조했습니다.
스노우플레이크는 데이터베이스 전문가 세 사람이 2012년 창업한 스타트업입니다. 특히, 창업자 중 프랑스 출신의 베노이트 다지빌과 티어리 크루앙스는 파리 6 대학(현 소르본대학교)을 졸업한 후, 오라클에 취업하면서 프랑스에서 미국으로 온 1세대 이민자라는 공통점이 있어요. 두 사람은 절친이기도 합니다.
창업자들은 유럽계였지만 스노우플레이크는 창업초기부터 서터힐벤처스, 세콰이아캐피털 같은 실리콘밸리 벤처캐피털의 투자를 받았고, 일찍부터 경영은 미국인 전문경영인에게 맡겼습니다. 유럽출신이 세웠다는 것 외에는 전형적인 미국 실리콘밸리 기업. 현재 CEO인 슈리다 라마스워미도 구글 출신의 스타 임원이었습니다.
7. 엔비디아가 스노우플레이크와 손잡은 이유
스노우플레이크는 쉽게 말하면 기업의 데이터를 모아서 저장하는 ‘데이터 그릇’을 제공해 주는 회사입니다. 이 데이터는 기업의 서버가 아닌 클라우드 회사에 있습니다. AWS, 마이크로소프트 애저, 구글클라우드 같은 CSP의 클라우드(데이터센터)에 데이터가 저장됩니다. 물론 철저한 보안이 이뤄지고 있겠죠?
기업들이 스노우플레이크라는 데이터그릇에 데이터를 담는 이유는 몇 가지가 있습니다. 하나는 정형 데이터뿐만 아니라 비정형 데이터까지 데이터를 효율적으로 관리할 수 있는 툴을 제공해 주기 때문입니다. 다른 하나는 이렇게 스노우플레이크에 담긴 데이터를 서로 거래할 수 있는 마켓플레이스를 제공해 주기 때문입니다. 이를 통해 다른 기업의 데이터를 사거나, 내가 가진 데이터를 판매하는 것이 가능하다는 의미입니다.
이처럼 스노우플레이크라는 그릇에 데이터가 담겨있다 보니 이것을 가지고 여러 가지가 가능해집니다. 바로 기업이 자신의 데이터그릇에 담긴 데이터로 학습해서 AI를 만드는 것이 가능. 스노우플레이크는 코텍스AI라고 하는 서비스를 통해서도 제공합니다. 코텍스에는 스노우플레이크가 직접 만든 아크틱, 메타의 라마3, 마이크로소프트의 미스트랄, 프랑스 미스트랄AI 등이 기본으로 제공되고 있습니다.
최근 엔비디아는 GPU 반도체 같은 하드웨어만 판매하는 것이 아니라 클라우드 서비스를 고객들에게 직접 판매하고 있습니다. GPU를 사지 않아도 사용료를 내면 이를 쓸 수 있게 해 주는 것입니다. DGX클라우드, NIM(NVIDIA Inference Microservice) 같은 것이 대표적인 서비스입니다. 이 서비스는 기업고객의 데이터를 바탕으로 AI를 학습시키게 되는데, 이미 데이터가 들어가 있는 스노우플레이크와 손을 잡으면 훨씬 고객에게 편리하겠죠? 반대로 엔비디아의 NIM에 스노우플레이크가 만든 아크틱이 합류하기로 하면서 두 회사는 많은 부분에서 통합을 하게 됐습니다.
합종연횡이라는 사자성어는 전국시대 강국이었던 진나라에 대항해 6개국이 힘을 합치는 ‘합종’과 진나라가 6개국 중 약소국을 도와 합종을 방해하는 ‘연횡’이 합쳐진 단어입니다. 즉, 생존을 위해 힘을 합쳐 강자에게 도전하지만 반대로 자신들의 이익을 위해 이 연합을 깨기도 한다는 것입니다.
엔비디아의 고객인 빅테크기업들은 엔비디아의 GPU가 필요하면서도, 조금이라도 저렴하게 GPU를 구매하고 싶어 합니다. 시스코, HPE 같은 기업들은 反엔비디아 컨소시엄에 들어가 있기는 하지만 엔비디아와 협력을 많이 하는 회사이기도 합니다.
그렇기 때문에 단순히 어떤 기업의 특정 사업부가 다른 기업의 특정 사업부와 경쟁관계이기 때문에 두 기업이 협력이 불가능한 ‘적’이다라고 보기는 어려울 것 같습니다. 한쪽 사업부에서는 경쟁을 하지만 다른 사업부에서는 협력을 하고, 필요할 때는 다른 사업부를 레버리지로 기회를 만들기도 하는 등 기업의 전략은 매우 복잡한 고차 방정식이라는 생각이 듭니다. 겉으로는 협력을 내세우지만 필요가 없어지면 냉정하게 돌아설 수 있는 것이 기업 간의 관계입니다.
