AI 시장이 학습에서 추론 중심으로 이동하며 전력 효율과 비용이 중요해졌습니다. 이에 따라 네트워크 장비와 주문형 반도체(ASIC)에 강점을 가진 브로드컴이 단기적으로 엔비디아보다 더 빠르게 성장할 것으로 보고 있습니다.
지난 글에서 장기적인 관점에서 엔비디아가 왜 가장 큰 성장을 이어갈 가능성이 높은지 살펴보았습니다.
그렇다면 단기적으로도 엔비디아가 계속 가장 빠르게 성장할까요?
이 질문에 대한 저의 의견은 그렇지 않을 가능성이 높다입니다.
오히려 브로드컴(Broadcom, 티커: AVGO)이
더 빠른 성장 속도를 보일 수 있는 구조가 만들어지고 있습니다.
이 글에서는 왜 AI 시장의 흐름이 단기적으로 브로드컴에게 유리하게 작용하는지,
그리고 이 성장이 “일시적 테마”가 아니라
구조적인 수요 변화에서 나온다는 점에 대해 풀어보겠습니다.
* 이 글은 올랜도 킴의 《AI 인프라, 새로운 부의 지도 4권》을 참고하여 제 의견을 넣어 작성하였습니다. 자세한 내용은 올랜도 킴의 팬딩 강의를 참고하실 수 있습니다.
AI 시장이 ‘학습’에서 ‘추론’으로 이동하는 이유
AI 산업 초기에는 대부분의 자금과 관심이 학습(Training)에 집중되어 있었습니다.
당시에는 더 많은 데이터를 넣고, 더 큰 모델을 먼저 만드는 것이 경쟁력이었기 때문입니다.
당시에는 더 많은 데이터를 넣고, 더 큰 모델을 먼저 만드는 것이 경쟁력이었기 때문입니다.
누가 더 빨리, 더 거대한 모델을 완성하느냐가 기업의 기술력을 보여주는 기준이었습니다.
그러나 AI가 연구 단계를 넘어 실제 서비스로 확산되기 시작하면서 상황이 달라졌습니다.
그러나 AI가 연구 단계를 넘어 실제 서비스로 확산되기 시작하면서 상황이 달라졌습니다.
모델을 한 번 학습시키는 비용보다,
완성된 모델을 매일 수억·수십억 번 실행하는 비용이
기업의 재무 구조에 훨씬 더 큰 영향을 미치기 시작했기 때문입니다.
이 지점에서 AI 산업의 중심이 자연스럽게 이동합니다.
“어떻게 더 큰 모델을 만들 것인가”에서
“이 모델을 얼마나 효율적으로 운영할 수 있는가”로 관심이 바뀐 것입니다.
이 변화가 중요한 이유는, 학습과 추론이 요구하는 조건이 근본적으로 다르기 때문입니다.
학습 단계에서는 모델을 한 번이라도 더 빠르게 완성하는 것이 중요하기 때문에
최고 성능의 하드웨어가 최우선 선택이 됩니다.
완성된 모델을 매일 수억·수십억 번 실행하는 비용이
기업의 재무 구조에 훨씬 더 큰 영향을 미치기 시작했기 때문입니다.
이 지점에서 AI 산업의 중심이 자연스럽게 이동합니다.
“어떻게 더 큰 모델을 만들 것인가”에서
“이 모델을 얼마나 효율적으로 운영할 수 있는가”로 관심이 바뀐 것입니다.
이 변화가 중요한 이유는, 학습과 추론이 요구하는 조건이 근본적으로 다르기 때문입니다.
학습 단계에서는 모델을 한 번이라도 더 빠르게 완성하는 것이 중요하기 때문에
최고 성능의 하드웨어가 최우선 선택이 됩니다.
반면 추론 단계에서는 같은 결과를
더 적은 전력과 더 낮은 비용으로 반복 실행할 수 있는 구조가 핵심이 됩니다.
이 과정에서 하드웨어의 절대 성능보다
전력 효율과 비용 구조가 더 중요한 판단 기준으로 떠오르게 됩니다.
바로 이 지점에서 고성능 학습에 강한 엔비디아의 영역과,
비용 효율 중심의 추론 인프라에서 강점을 가지는 브로드컴의 역할이
자연스럽게 분리되기 시작합니다.
더 적은 전력과 더 낮은 비용으로 반복 실행할 수 있는 구조가 핵심이 됩니다.
이 과정에서 하드웨어의 절대 성능보다
전력 효율과 비용 구조가 더 중요한 판단 기준으로 떠오르게 됩니다.
바로 이 지점에서 고성능 학습에 강한 엔비디아의 영역과,
비용 효율 중심의 추론 인프라에서 강점을 가지는 브로드컴의 역할이
자연스럽게 분리되기 시작합니다.
추론 시장에서는 ‘범용 GPU’가 불리한 이유
엔비디아 GPU는 매우 강력하지만, 그만큼 비싸고 전력 소모가 큽니다.
학습 단계에서는 이 비용이 정당화됩니다.
학습 속도가 빨라질수록 서비스 출시 시점이 앞당겨지기 때문입니다.
그러나 추론 단계에서는 상황이 다릅니다.
이미 완성된 모델을 반복적으로 실행하는 환경에서는
“최고 성능”보다 “필요한 만큼의 성능을 가장 효율적으로 제공하는 구조”가 중요해집니다.
이때 빅테크 기업들은 자연스럽게 다음 선택지를 고민하게 됩니다.
“우리 서비스에 꼭 GPU가 필요할까?”
“특정 작업만 처리하는 전용 칩이 더 효율적이지 않을까?”
이 질문의 답이 바로 ASIC(주문형 반도체)입니다.
브로드컴의 역할은?
브로드컴은 엔비디아와 경쟁하지 않습니다.
빅테크가 자체 AI 칩을 만들 때 반드시 거쳐야 하는 파트너에 가깝습니다.
빅테크는
- “어떤 기능이 필요한지”
- “어떤 구조로 설계할지”
를 결정합니다.
이를 실제 반도체로 구현하는 과정에서 고난도의 설계 IP와 연결 기술이 필요합니다.
이 영역에서 브로드컴은 오랜 기간 축적된 기술력을 보유하고 있습니다.
특히 AI 추론에서
- 칩 내부 연결
- 칩과 칩 사이의 통신
- 데이터센터 네트워크
가 매우 중요해지는데, 이 모든 영역이 브로드컴의 핵심 사업 영역입니다.
네트워크를 장악한 기업이 단기 성장에 강한 이유
AI 데이터센터는 단순히 “연산 칩을 많이 넣는 곳”이 아닙니다.
수천, 수만 개의 칩이 동시에 데이터를 주고받는 초고속 통신 환경입니다.
이 환경에서는 연산 성능보다 먼저 네트워크가 병목 지점이 되는 경우가 많습니다.
브로드컴은
- 데이터센터 스위치
- 고속 인터커넥트
- 이더넷 기반 AI 네트워크
에서 이미 깊숙이 자리 잡고 있습니다.
브로드컴이 공급하는 네트워크 장비들은 새로운 AI 칩을 설계하고 생산하는 것과 달리,
기존 데이터센터에 비교적 쉽게 추가할 수 있습니다.
이미 운영 중인 서버에 네트워크 장비만 증설해도
성능 개선 효과를 빠르게 얻을 수 있기 때문에,
기업 입장에서는 도입 결정부터 실제 적용까지의 시간이 짧습니다.
이 때문에 이러한 장비들은 주문 후 비교적 빠른 시점에 납품되고,
기업 실적에도 빠르게 매출로 반영되는 특징을 가집니다.
결국 다음과 같은 구조가 만들어집니다.
- AI 추론 수요 증가
→ ASIC 증가
→ 네트워크 장비 증가
→ 브로드컴 매출이 즉각 반영
이것이 바로 브로드컴이 단기 성장 국면에서 특히 강한 이유입니다.
“엔비디아를 버리는 것”이 아니라 “엔비디아를 줄이는 전략”
브로드컴의 성장은 엔비디아를 대체해서 나오는 성장이 아닙니다.
실제 빅테크의 전략은 다음과 같습니다.
- 학습: 엔비디아 중심 유지
- 추론: 비용 효율을 위해 ASIC 확대
- 네트워크: 표준화된 이더넷 기반 확대
이 구조에서 브로드컴은 엔비디아와 정면 충돌하지 않으면서도
AI 지출이 늘어날수록 함께 커지는 위치에 있습니다.
이 때문에 단기적으로는 “엔비디아보다 더 빠른 성장률”이 나타날 가능성이 충분합니다.
마무리: ‘단기’에서 브로드컴인 이유
정리해보겠습니다.
AI 산업은 지금
- 더 많은 모델을 만드는 단계에서
- 더 많은 서비스를 운영하는 단계로 이동 중입니다.
이 변화는
- 비용
- 전력
- 효율
을 중시하는 방향이며, 이 흐름의 중심에 ASIC과 네트워크가 있습니다.
브로드컴은 이 두 영역 모두에서 이미 준비된 기업입니다.
따라서 단기 성장 속도만 놓고 본다면,
브로드컴은 엔비디아보다 더 빠르게 성장할 수 있는 조건을 갖추고 있습니다.
Q&A
Q. 그렇다면 브로드컴이 엔비디아를 이기는 건가요?
아닙니다. 역할이 다를 뿐입니다. 학습과 추론은 다른 시장입니다.
Q. 이 성장은 일시적인가요?
AI 서비스 확산이 계속되는 한, 추론과 네트워크 수요는 구조적으로 유지될 것으로 봅니다.
댓글 쓰기