반도체 다음은? AI 밸류체인 3개 계층의 투자 기회

• 하드웨어: 에이전틱 AI가 병목 지점을 어떻게 바꾸고 있나
• 데이터 인프라: 오케스트레이션 계층의 성장이 가속화하는 이유
• 애플리케이션: 가장 작은 계층이 가장 큰 계층이 될 수 있는 이유

이번 AI 사이클 대부분의 기간 동안 시장을 놀라게 한 것은 반도체였다. 올해는 밸류체인의 더 위쪽, 즉 AI 모델 기업과 새롭게 부상하는 AI 애플리케이션에서도 놀라운 소식이 늘고 있다.

이에 최근 열린 웨비나 ’비욘드 칩스(Beyond Chips)’에서는 한발 물러서서 하드웨어, 데이터 인프라, 애플리케이션으로 이어지는 AI 밸류체인 전체를 살펴봤다.

당사가 추적하는 AI 매출 가운데 하드웨어는 여전히 약 70%를 차지한다. 데이터 인프라는 약 4분의 1, 애플리케이션은 약 4% 수준이다. 그러나 각 계층의 성장 속도는 크게 다르며, 세 계층 모두를 재편하고 있는 하나의 흐름이 있다. 바로 AI 에이전트다. 

기업들은 올해부터 AI 에이전트를 실제 업무에 투입하기 시작했다. 당사는 다음 단계로 소비자층의 폭넓은 도입을 예상하며, 이는 향후 2~5년간 밸류체인 전반의 수요를 견인할 수 있다.

1. 하드웨어: 에이전트가 병목 지점을 옮기고 있다

AI의 모든 계층은 하드웨어 위에서 작동한다. 당사가 여전히 하드웨어에서 큰 잠재력을 보는 이유다. 달라진 것은 그 기회를 잡는 방법이다.

2023년에는 AI 하드웨어 전반에 투자하는 것만으로 충분했다. 지금은 병목 지점을 찾아내는 데서 수익이 나온다. 병목 지점이 계속 바뀌기 때문이다. 2023~2024년에는 GPU가 시장을 놀라게 했고, 2026년에는 메모리가 주인공이었으며, 2027년에 걸쳐서는 CPU가 변곡점을 맞고 있다. 다음 차례는 네트워킹이다.

그 원인은 에이전트에 있다.

배경을 살펴보면 이렇다. 모델 학습은 방대한 데이터셋을 수천 개의 GPU에 밀어 넣는 작업으로, 별다른 조율이 필요 없다. 반면 에이전트는 할 일 목록을 가진 직원처럼 일하며, 단계마다 모델로 돌아가 다시 묻는다. 이 과정에서 작업을 조율할 CPU와 매번의 주고받기를 실어 나를 네트워킹이 필요하다.

이 변화는 엔비디아의 랙 내부에서도 확인된다. 3세대에 걸쳐 부품원가(BOM)에서 연산(컴퓨팅)이 차지하는 비중은 약 60%에서 약 45%로 줄어드는 반면, 네트워킹 비중은 약 8%에서 약 20%로 늘어난다.

베라 루빈(Vera Rubin) 세대에서 가장 큰 변화는 메모리였다. 메모리 비중은 약 35%로 높아졌는데, 이는 대체로 올해 메모리 가격 급등을 반영한 결과다.

메모리 가격은 공급이 빠듯해지는 즉시 반응한다. 마이크론의 지난 분기 매출은 전년 동기의 5배에 육박했고, D램 가격은 3개월 만에 30% 올랐다. 수요는 여전히 견조해 보이지만, 당사는 메모리가 사이클의 중반을 지났다고 본다. 신규 공장의 생산능력 확대가 주요 리스크다.

네트워킹은 아직 초기 단계다. 광학 부품은 지금까지 주로 스케일아웃(서버 간 연결)에 쓰였지만, 엔비디아의 차세대 시스템에서는 서버 내부로 들어간다.

공급업체들은 이미 물량이 부족하다. 루멘텀은 수요 급증으로 2029년 초까지 생산능력이 매진됐다. 마벨은 최근 전체 목표 시장 규모를 4,000억 달러로 상향했다. 기존 추정치의 4배다.

당사의 판단은 이렇다. AI 하드웨어는 더 이상 하나의 투자 테마로 묶을 수 없다. CPU와 광학 부품은 2~3년간 이어질 것으로 예상되는 사이클의 초입에 있고, 메모리는 그보다 더 진행된 상태다.

2. 데이터 인프라: 오케스트레이션 계층의 성장이 가속화하고 있다

배경을 살펴보면, 데이터 인프라는 AI 스택의 중간층이다. 연산 자원을 임대하는 클라우드, 모델을 개발하고 서비스하는 기업, 데이터를 관리하고 보호하는 플랫폼이 여기에 포함된다.

2026년 가장 큰 놀라움은 이 계층에서 나왔다. 앤트로픽의 연환산 매출(run rate)은 지난해 12월 약 90억 달러에서 700억 달러 이상으로 뛰었다. 시장은 앤트로픽이 연말까지 1,000억 달러를 넘길 것으로 예상하는데, 당사는 이를 보수적이라고까지는 못해도 현실적인 전망으로 본다. 프런티어 모델은 가격 결정력도 유지하고 있다. 새 모델이 나올 때마다 곧 더 저렴한 오픈 모델이 뒤따르지만, 매출 대부분은 여전히 폐쇄형 모델이 가져간다.

기회는 모델 기업 너머로 확대되고 있다. 기업이 에이전트를 업무에 투입하면, 작업마다 적합한 모델과 데이터를 연결해야 한다. 기업 데이터를 정리하고, 모델을 선택하고, 작업을 배분하는 플랫폼이 이 수요를 채우고 있다. 당사는 이를 ’데이터 오케스트레이션 계층’이라 부르며, 이 계층은 에이전트 트래픽과 함께 성장한다. 클라우드플레어 집계에 따르면 현재 AI 봇이 만들어내는 웹 트래픽은 사람이 만드는 트래픽을 넘어섰다.

선도 플랫폼들의 성장 속도도 빨라지고 있다. 최근 분기와 1년 전 같은 분기의 성장률을 비교하면 다음과 같다.

• · 팔란티어: 48% → 93%
• · 데이터브릭스: 50% 이상 → 80% 이상 (공시 매출이 아닌 연환산 매출 기준)
• · 클라우드플레어: 28% → 36%
• · 스노우플레이크: 32% → 35%

당사의 판단은 이렇다. 에이전트가 수행하는 모든 작업에는 ’어떤 모델을 쓰고, 어떤 데이터를 쓸 것인가’라는 같은 질문이 따른다. 따라서 기업이 운용하는 에이전트가 늘어날수록 이 질문에 답하는 계층의 가치도 커진다. 당사는 이 분야의 위험 대비 수익 구조가 흥미롭다고 본다. 다만 밸류에이션이 성장 속도를 앞질렀는지는 주시해야 한다.

3. AI 애플리케이션: 지금은 가장 작지만, 가장 큰 계층이 될 수 있다

애플리케이션은 대부분의 사람이 AI를 접하는 곳이지만, 현재 매출은 약 1,000억 달러로 가장 작은 계층이다. 이 가운데 AI 네이티브 기업의 매출은 약 140억 달러다.

당사는 시간이 지나면 애플리케이션이 밸류체인에서 가장 큰 부분으로 성장할 수 있다고 본다. 아래 계층들은 결국 애플리케이션을 구동하기 위해 존재하며, 이 계층에서 탄생하는 기업들은 역대 어떤 소프트웨어 기업보다 빠르게 성장하고 있다.

AI 영상 플랫폼 힉스필드(Higgsfield)는 창업 3년도 채 되지 않아 연간 반복 매출(ARR) 10억 달러를 달성했다. 캔바(Canva)가 같은 이정표에 도달하기까지는 약 13년이 걸렸다.

AI 네이티브 기업들은 연간 100%를 크게 웃도는 성장률을 기록하고 있다. 반면 세일즈포스, 어도비, 허브스팟의 성장률 전망치는 8~14%에 머물러 있다.

기존 강자들의 강점은 탄탄한 기존 고객 기반이지만, 성장 속도는 신생 AI 네이티브 애플리케이션 기업보다 느리다. 기존 기업의 AI 제품은 낮은 기반에서 출발해 아직 전체 성장률을 끌어올리지 못하고 있으며, 신생 기업들은 더 빠르게 혁신하고 있다.

당사의 판단은 이렇다. 애플리케이션 계층은 가장 빠르게 움직이지만, 선도 기업 대부분이 비상장사여서 공개시장 투자자가 접근하기 가장 어렵다. 동시에 다음 투자 기회가 다수 등장할 것으로 예상되는 계층이기도 해 당사는 이를 면밀히 추적하고 있다.

결론

AI 밸류체인의 각 계층은 서로 다른 단계에 있다.

• 하드웨어는 가장 큰 계층이며, 에이전트로 인해 병목 지점이 GPU와 메모리에서 CPU와 네트워킹으로 옮겨가고 있다.
• 데이터 인프라는 올해 가장 큰 놀라움을 안겨줬으며, 그 안의 오케스트레이션 계층은 성장에 속도가 붙고 있다.
• 애플리케이션은 현재 매출이 가장 적지만, 가장 빠르게 성장하는 기업들이 모여 있다.

에이전트는 이 세 계층을 하나로 잇고 있으며, 에이전트의 도입은 이제 막 확산되기 시작했다.

주목할 이벤트

10월 말 하이퍼스케일러 실적 발표에서는 AI 지출과 클라우드 성장세를 확인할 수 있다. 팔란티어, 클라우드플레어, 스노우플레이크의 다음 실적에서는 데이터 계층의 성장 가속이 이어지는지 볼 수 있다. 마지막으로 앤트로픽이 공개할 증권신고서(S-1)는 프런티어 AI 연구소의 수익 구조를 감사받은 재무 자료로 처음 들여다볼 기회가 될 것이다.