AI의 다음 병목은 연산이 아니다… 모든 것을 잇는 ’네트워크’다

• 하드웨어 구성 - 무엇이 달라졌나?
• 네트워킹이 AI 분야에서 가장 큰 기회 중 하나인 이유
• 광통신: 승기를 잡을 세 가지 길

AI 에이전트는 모델 학습 때와는 비교도 안 될 만큼 많은 네트워킹을 요구한다. 그리고 그 네트워킹은 갈수록 광통신 위에서 돌아가고 있다.

1. 에이전트가 하드웨어 구성을 바꾸고 있다
AI 에이전트 확산은 이제 막 시작됐다.
▪️ 메타의 Muse는 출시 한 달도 안 돼 주간 사용자 300만 명을 넘어섰다.
▪️ 오픈AI는 이번 주 백그라운드에서 상시 작동하는 에이전트 ’Dots’를 내놨다. 자사 에이전트 도구의 개발자 사용량이 1년 새 100배 늘었다고도 밝혔다.
메타의 일간 사용자 약 36억 명 가운데 10%만 Muse 같은 에이전트를 쓰더라도 밸류체인 전반의 수혜는 막대할 수 있다.
AI는 국면이 바뀔 때마다 병목도 바뀌었다. 처음엔 GPU, 다음은 메모리, 그다음은 CPU였다. 이제 모델 학습의 시대에서 에이전틱 AI의 시대로 넘어가고 있다. 이 시대에는 메모리와 CPU, 그리고 네트워킹이 훨씬 더 많이 필요하다.

AI 에이전트에 필요한 하드웨어 인프라 구성은 모델 학습 때와 다르다.

• 학습은 하나의 대형 데이터센터 안에서 수천 개의 GPU에 방대한 데이터를 밀어 넣는 작업이다. 트래픽 대부분이 그 건물 밖으로 나가지 않는다.
• 에이전트는 사람처럼 일한다. 작업을 받으면 모델에 묻고, 앱을 호출하고, 웹사이트를 확인한 뒤 다시 모델로 돌아간다. 말하자면 끊임없이 오가는 소통이다. 이 흐름을 조율(오케스트레이션)하려면 CPU가 훨씬 더 많이 필요하다. 소통 자체를 감당하려면 네트워킹도 훨씬 더 많이 필요하다.

게다가 이 트래픽은 멈추지 않는다. HPE는 이번 주 네트워킹 부문 투자자 행사에서 이 점을 짚었다. AI 트래픽은 "영상처럼 캐싱할 수 없고, AI 에이전트가 쉴 새 없이 만들어낸다"는 것이다.
우리의 판단은 이렇다. 학습의 시대가 가장 큰 클러스터를 짓는 경쟁이었다면, 에이전트의 시대는 오케스트레이션과 모든 것을 잇는 연결의 경쟁이다. 다음 AI 하드웨어 수요의 물결에서 네트워킹이 유리한 고지에 서 있는 이유다.

2. 네트워킹이 AI 최대의 기회 중 하나인 이유
먼저 랙부터 보자. 엔비디아의 GB300 NVL72에서는 GPU가 랙 전체 가치의 60% 이상을 차지하고, 네트워킹은 약 10%다. 루빈 울트라(Rubin Ultra) NVL576에서는 GPU 비중이 약 45%, 네트워킹이 약 20%로 추정된다. AI 랙 하나에서 네트워킹이 차지하는 몫이 사실상 두 배로 커지는 셈이다.
두 번째 순풍은 커스텀 칩이다. 엔비디아 시스템은 네트워킹의 상당 부분을 자체 제품으로 채운다. 반면 아마존과 구글이 만드는 커스텀 칩은 칩당 외부 업체의 네트워킹 장비를 더 많이 쓴다.
폐쇄형 모델이 매출 파이에서 큰 몫을 가져갈수록 이들은 자체 ASIC 개발과 최적화에 나설 것으로 본다. 예컨대 앤트로픽은 구글 TPU와 아마존 트레이니엄(Trainium)을 모두 대규모로 쓰기로 약정했다.

우리가 주목하는 기업을 계층별로 정리하면 다음과 같다.
▪️ 스위칭은 데이터센터의 교통정리를 맡는다. 아리스타, 브로드컴, 엔비디아, HPE가 여기에 속한다.
▪️ 연결용 칩과 케이블은 랙 안에서, 그리고 랙과 랙 사이에서 데이터를 나른다. 크레도, 아스테라 랩스, 마벨이 대표적이다. 액티브 전기 케이블(AEC)로 잘 알려진 크레도는 지난 분기 매출이 115% 늘었다. 크레도 CEO는 이렇게 요약했다. "AEC는 계속 성장하고 있다. 광통신은 그보다 더 빠르게 성장하고 있다."
▪️ 광통신은 데이터를 빛으로 실어 나른다. 레이저와 트랜시버 분야에는 루멘텀과 코히런트가 있다. 데이터센터 간 연결은 시에나, 광섬유는 코닝이 맡는다. 루멘텀의 지난 분기 매출은 두 배 넘게 늘었고, 코히런트의 데이터컴·통신 부문 매출은 59% 증가했다.
우리의 판단은 이렇다. 지금 AI 밸류체인에서 가장 매력적인 영역 중 하나가 네트워킹이다. 어느 칩이 이기든 돈을 벌고, 새 랙이 나올 때마다 차지하는 몫이 커진다. AI 연구소들이 커스텀 반도체로 옮겨갈수록 수혜는 더 커진다.

3. 광통신: 승기를 잡을 세 가지 길
먼저 기본 개념부터 짚자. 광통신은 데이터를 전기가 아닌 빛으로 전송한다. 속도가 빠르고 거리가 멀수록 빛은 속도와 전력 효율 모두에서 구리를 앞선다.
지금까지 광통신 투자는 사실상 하나의 테마였다. 우리는 테마가 세 가지라고 본다. 그리고 기회의 더 큰 부분은 2027년에 열린다.

• 스케일아웃(Scale-out): 데이터센터 안의 랙과 랙을 잇고, 데이터센터를 외부 세계와 연결한다. 현재 시장의 중심이며 1차 상승을 이끈 영역이다. 트랜시버 속도는 800G에서 1.6T로 올라가는 중이다. 코히런트는 이 전환이 예상보다 빨리 찾아오고 있다고 밝혔다.
• 스케일어크로스(Scale-across): 데이터센터와 데이터센터를 잇는다. 한곳에서 전력을 확보하기가 점점 어려워지면서 AI 인프라는 더 작은 데이터센터 여러 곳으로 분산되고 있다. 이들을 서로 연결해야 한다. 올해부터 본격화됐고 2027년에는 훨씬 더 확대될 것으로 본다. 시에나는 2026 회계연도를 약 100억 달러의 수주잔고로 마무리할 것으로 예상한다. 2029년까지 연평균 약 30%의 매출 성장도 목표로 내걸었다.

우리의 시각은 이렇다. 리스크 대비 수익 측면에서 네트워킹 가운데 특히 흥미로운 영역이다. 인프라는 이미 지어져 있으니 서로 연결하기만 하면 된다.

• 스케일업(Scale-up): 시스템 내부에 광통신을 적용하는 것이다. 현재는 랙 안의 GPU들이 구리선으로 통신한다. 2027년 하반기 출시가 예상되는 엔비디아의 루빈 울트라 NVL576은 코패키지드 옵틱스(CPO)를 적용해 여러 랙의 GPU를 하나의 거대한 시스템으로 묶는다. 코히런트도 같은 시기에 스케일업용 광통신 제품 매출이 발생하기 시작할 것으로 예상한다. 세 가지 중 가장 논쟁이 많은 영역이다. 하지만 현실화된다면 광통신과 광부품 수요에 또 한 번의 상승 동력이 될 수 있다.

정책도 순풍이 되고 있다. 이번 주 미국 상원에서 초당적으로 법안이 발의됐다. 국가안보 시스템에 중국산 광 트랜시버를 쓰지 못하게 하는 내용이다. 미국 연방통신위원회(FCC)도 중국산 신규 광모듈에 대한 규정을 준비 중이다. 두 조치 모두 차세대 수요를 미국 등 비(非)중국 공급업체 쪽으로 더 옮겨놓을 수 있다. 

우리의 판단은 이렇다. 광통신은 사이클 초입에 있다. 1차 상승은 스케일아웃이 이끌었다. 스케일어크로스는 지금 본격화되고 있다. 스케일업은 2027년 말부터 기존 수요에 온전히 더해지는 순증 수요가 될 수 있다. 그래서 우리는 앞으로 2~3년의 사이클이 남아 있다고 본다. 다만 유의할 점이 있다. 발목을 잡는 것은 수요가 아니라 공급이다. 관련 종목들은 이미 크게 올랐다(루멘텀은 올해 들어 180% 넘게 상승했다). 하드웨어 업종은 여전히 경기를 탄다.

핵심 정리
AI 하드웨어의 첫 번째 물결은 연산이었다. 에이전트 시대에는 여기에 연결이 더해진다. 에이전트가 수행하는 작업 하나하나가 모델로, 앱으로, 다른 기기로 오가는 왕복이다. 여기에 수십억 명의 사용자를 곱하면 네트워크가 병목이 된다.
학습은 가장 큰 클러스터를 지었다. 이제 에이전트가 그 클러스터들을 이어야 한다.

주목할 일정
10월 6일 마벨 애널리스트 데이에서는 광칩과 커스텀 반도체 관련 내용을 확인할 수 있다. 11월 초에는 루멘텀과 코히런트가 실적을 발표한다. 1.6T와 코패키지드 옵틱스(CPO)가 일정대로 진행되는지 확인할 기회다. 연말 전 발표가 예상되는 FCC의 중국산 광모듈 규정도 지켜봐야 한다.