1. 탈 엔비디아, 이유는?
1) AI 칩=엔비디아
AI 학습에 필요한 AI 가속기 시장의 98%는 엔비디아의 몫입니다. AI 가속기에 들어가는 필수 부품인 GPU 역시 엔비디아가 80% 점유율로 시장을 꽉 잡았죠.
GPU(Graphic Processing Unit, 그래픽 처리 장치)란 컴퓨터에서 그래픽 연산을 처리해 결괏값을 모니터에 출력하는 연산 장치입니다. 수많은 단순 계산을 빠르게 처리할 수 있어 많은 연산이 필요한 AI 학습에 널리 활용됩니다. 이외에도 비디오 카드, 휴대폰, PC 등 다양한 장치에 쓰이죠.
2) 비싸고 오래 걸려!
이렇게 수요가 몰리다 보니 엔비디아의 주력 AI 가속기인 ‘H100’ 가격은 4만 6천 달러(약 6,400만 원)까지 치솟았는데요. 그마저도 칩을 받기까지 50주 이상 걸리는 것으로 알려졌습니다.
3) AI 관련 비용 절감
이에 빅테크 기업은 AI 산업에 필요한 비용을 절감하기 위한 ‘탈 엔비디아’에 힘쓰는 중입니다. 자사 AI 챗봇 ‘바드’에 자체 개발한 TPU를 탑재한 구글을 필두로, AWS, MS, 메타, 테슬라, 애플 등은 AI 가속기 개발에 한창입니다.
TPU는 구글에서 발표한 데이터 분석과 딥러닝용 하드웨어입니다. 벡터와 행렬 연산의 병렬 처리에 특화됐죠. 같은 전력을 사용했을 때 기존의 CPU나 GPU에 비해 훨씬 많은 연산을 수행할 수 있어 AI 작업의 효율성을 극대화합니다.
2. 오픈 AI의 독자 노선
1) 엔비디아의 대안을 위한 노력
탈 엔비디아 행보에 나선 건 챗GPT의 개발사 오픈 AI도 마찬가지입니다. 샘 올트먼은 투자자를 모아 AI 반도체 전문 회사를 세우려고 했는데요. 자체 AI 반도체 개발을 위해 9,300조 원에 이르는 투자금 유치 계획을 발표하고 TSMC, 삼성전자, SK하이닉스 등 경영진과 만나기도 했습니다.
2) 떨어지는 현실성
다만, 샘 울트먼의 계획을 두고 현실성이 떨어진다는 지적이 이어졌습니다. 목표로 하는 투자금 유치 규모가 너무 크고, 반도체 고급 인력 확보 방안이 빠져 있는 등 허점이 많았죠. 투자자들이 오픈 AI의 구상에 동참하지 않은 이유입니다.
3) 내부 팀과 브로드컴 협력
이에 오픈 AI는 현실적으로 가능한 일에 집중하는 모습입니다. 새로운 AI 반도체 개발을 위한 사내 전담 팀을 만들고, 미국 반도체 회사 브로드컴과 협력을 논의 중이죠. 이는 과거 구글이 자체 AI 가속기 TPU를 개발한 방식이기도 합니다.
3. 소프트뱅크도 AI 칩 회사 인수
1) 그래프코어 인수
지난, 11일(현지 시각) 소프트뱅크는 영국 AI 반도체 회사 그래프코어를 인수했습니다. 인수 금액은 5~6억 달러 정도로 추정되는데요. 그래프코어는 한때 엔비디아의 대항마로 주목받았으나, IPU의 범용성과 호환성이 GPU에 비해 떨어지면서 결국 시장의 외면을 받았죠.
IPU(Intelligence Processing Unit, 지능 처리 장치)란 프로세서에 직접 메모리를 배치해 연산 속도를 빠르게 한 것입니다. GPU와는 다르게 많은 병렬처리를 수행할 수 있다는 것이 장점입니다.
2) 인수의 효과는?
소프트뱅크의 이번 거래를 두고 엔비디아에 맞서 독자적인 AI 생태계를 구축하려는 노력의 일부라는 분석이 나옵니다. 소프트뱅크는 지난 2016년 영국 반도체 기업 Arm도 인수하는 등 AI 시대에 꾸준히 대비하는 모습인데요. 내년 가을 양산을 목표로 진행 중인 Arm의 AI 칩 개발에 그래프코어가 협력할 가능성도 점쳐집니다.
3) 아직은 엔비디아?
다만, 당분간 엔비디아의 독주 체제를 막긴 힘들 것이라는 전망이 우세합니다. 엔비디아가 NV링크라는 기술을 통해 고효율의 GPU 네트워크를 구축한 데다가, 엔비디아 칩으로만 구동할 수 있는 소프트웨어 플랫폼 CUDA가 업계 표준으로 자리 잡았기 때문입니다. 엔비디아가 현재 상황에 안주하는 것도 아닙니다. H100 대비 AI 학습이 최대 5배 개선된 신형 AI 칩 ‘블랙웰’ 출하를 시작하는 등 나름대로 발전을 거듭하는 중이죠.
CUDA는 AI 개발자들이 프로그래밍을 위해 필수로 사용해야 하는 소프트웨어입니다. CUDA로 만든 프로그램은 엔비디아의 GPU에서만 작동되는데요. 이로 인해 CUDA는 AI 시장에서 엔비디아의 영향력을 더욱 끌어올려 줬습니다.
4) 중국 시장 포기 못해!
22일엔 엔비디아가 중국 시장 공략을 위해 신제품을 개발한다는 소식도 전해졌습니다. 올해 말 출시되는 블랙웰 시리즈 중 하나로 B20이라는 중국 수출용 저사양 AI칩을 내놓을 계획인데요. 이 소식이 전해지자 22일 오전 10시 30분(현지 시각), 엔비디아 주가는 전일 대비 3.96% 오른 122.60달러를 기록했습니다.
