CPU의 귀환: 메타 ’뮤즈’가 보여준 에이전틱 AI 시대

• 메타의 ‘뮤즈’, 소비자 규모의 AI 추론은 이런 모습이다
• AI 에이전트, 컴퓨팅 수요의 새로운 동력으로 부상
• CPU는 누가 만들며, 시장은 왜 계속 커지는가

월요일, 소비자용 앱 하나가 반도체 시장을 움직였다.

Arm과 인텔은 나란히 10% 넘게 급등했다. AMD는 장중 한때 시가총액 1조 달러를 사상 처음으로 돌파했다.

그 앱은 메타의 ’뮤즈(Muse)’였다. 반도체 투자자들이 주목한 이유는 필자가 몇 주째 다뤄온 바로 그 주제다. AI 에이전트에는 훨씬 더 많은 CPU가 필요하다. 이번 주 시장은 이를 주가에 반영하기 시작했다.

1. 메타의 ‘뮤즈(Muse)’: 대규모 AI 추론의 모습

뮤즈는 메타의 개인 AI 에이전트로, 질문에 답하는 데 그치지 않고 직접 일을 처리한다. 이메일을 보내고, 여행을 예약하고, 각종 요금을 줄이고, 양식을 작성하고, 물건을 구매한다. 사용자가 앱을 닫은 뒤에도 작업을 계속한다.

뮤즈는 9월 8일 조용히 출시됐다. 시장의 화제로 떠오른 것은 지난 주말이었다. 앱스토어에서 챗GPT를 제치고 1위에 올랐고, 미국에서 하루 26만 4천 건이라는 사상 최대 다운로드 기록을 세웠다.

수치로 보면 다음과 같다.

• 출시 후 12일 동안 미국과 캐나다에서 약 280만 건이 다운로드됐다. 같은 기간 챗GPT의 두 배가 넘는 속도다.
• 출시 첫 주에 사용자 50만 명을 돌파했다.
• 메타의 알렉산더 왕 최고AI책임자(CAIO)는 초기 사용량이 "예상치를 훨씬 뛰어넘었다"고 밝혔다. 사용자들의 이용량은 메타 테스트 그룹의 10배에 달했다.
• 비즈니스 모델도 새롭다. 마크 저커버그 CEO는 이번 주 ’커넥트’ 행사에서 메타가 "거래에서 소액의 수수료를 받는" 방식으로 장기적인 수익을 낼 계획이라고 밝혔다. 에이전트가 일을 해내면 수익이 생기는 구조다.

배경을 짚어보자. 학습(training)은 AI 모델을 만드는 과정이고, 추론(inference)은 만들어진 모델을 사용하는 과정이다. 뮤즈는 소비자 규모에서 이뤄지는 추론이며, 챗봇 시대와는 전혀 다른 모습을 보인다.

뮤즈 사용자는 한 명 한 명이 클라우드에 전용 보안 컴퓨터를 할당받고, 이 컴퓨터에는 자체 브라우저가 있다. 모델의 데이터 처리는 다른 곳의 GPU에서 이뤄진다. 하지만 웹사이트를 열고, 양식을 하나하나 클릭해 넘기고, 일정을 확인하는 실제 작업은 CPU에서 처리된다. 자신의 뮤즈 컴퓨터를 살펴본 초기 사용자들은 GPU를 전혀 찾지 못했다. 가상 CPU 2개와 메모리, 저장공간이 전부였다.

필자의 판단: 뮤즈는 아직 제한적으로 출시된 단계이고, 메타의 서비스를 이용하는 사람은 하루 36억 명에 이른다. 사용량이 이미 계획보다 10배 앞서 있는 만큼, 에이전트에 더 많은 컴퓨팅 자원이 필요한지는 더 이상 질문거리가 아니다. 문제는 얼마나 더 필요하냐다.

2. 성장의 동력은 에이전틱 AI

가장 간단하게 생각하면 이렇다. AI 시스템에서 GPU는 두뇌이고, CPU는 손이다.

GPU는 추론을 만들어내고, CPU는 이를 실행한다. 앱을 호출하고, 데이터베이스를 조회하고, 코드를 실행하며, 워크플로의 각 단계를 하나씩 진행하는 것이 CPU의 몫이다.

챗봇은 주로 생각하고, 에이전트는 주로 행동한다. 이 차이가 하드웨어 구성을 바꾼다.

• 학습: GPU 7~8개당 CPU 약 1개
• 추론: GPU 1~3개당 CPU 약 1개
• AI 에이전트: 약 1대 1, 일부 환경에서는 GPU 1개당 CPU 4개까지

리사 수 AMD CEO도 지난 실적 발표에서 같은 점을 짚었다. 이 비율이 "1대 1에 가까워지고 있다"는 것이다. 이바나가 BNN 블룸버그에서 설명했듯, 에이전틱 AI용 서버는 학습용으로 구축된 거대한 클러스터보다 AI 이전에 쓰던 전통적인 서버에 더 가깝다.

이제 계산을 해보자.

미국의 지식노동자 1억 명에게 에이전트를 하나씩 배정하고 CPU 1개당 에이전트 약 10개를 돌린다고 가정하면, CPU 1천만 개가 필요하다. 이를 전 세계로 넓혀 지식노동자 10억 명이 각자 에이전트 10개를 쓴다고 하면 CPU 10억 개가 필요하다.

전 세계 서버용 CPU 생산량은 연간 약 3,500만~4,500만 개다. 필요한 물량은 현재 생산량의 20배가 넘는다.

수요는 이미 나타나고 있다.

• 인텔 CEO는 자사 CPU에 대한 고객 수요의 절반 정도밖에 충족하지 못하고 있다고 밝혔다.
• 앤트로픽은 목요일 아카마이와 116억 달러 규모의 7년짜리 CPU 용량 계약을 체결했다. 최첨단 AI 연구소가 GPU뿐 아니라 CPU까지 대규모로 사들이고 있다는 뜻이다.
• AMD의 서버용 CPU 매출은 지난 분기 70% 증가했다.

그리고 아직 초기 단계다. 전망에 따르면 추론은 연평균 약 35%씩 성장해, 2030년까지 학습을 제치고 데이터센터 최대의 AI 워크로드가 될 것으로 예상된다. 

필자의 판단: 학습의 시대는 GPU로 측정됐다. 에이전트의 시대는 작업 단위로 측정될 것이고, 모든 작업은 CPU를 거친다.

3. CPU는 누가 만드는가

거의 모든 데이터센터용 CPU 뒤에는 세 기업이 있다. 인텔, AMD, 그리고 Arm이다.

인텔과 AMD는 전 세계 서버 대부분이 채택한 x86 아키텍처 칩을 만든다. AMD는 수년간 점유율을 늘려왔으며, 현재 x86 서버 CPU 매출의 절반 가까이를 차지한다. 2017년 140억 달러였던 AMD의 시가총액은 이번 주 1조 달러를 찍었다. 인텔은 기존 강자로, 지금 인텔을 제약하는 것은 수요가 아니라 공급이다.

Arm은 엔비디아의 베라(Vera) CPU와 아마존·구글·마이크로소프트가 자사 클라우드용으로 만드는 맞춤형 칩의 아키텍처를 설계한다. 올해부터는 자체 칩 판매도 시작했으며, 메타가 핵심 고객이다. Arm 기반 칩은 서버 시장에서 점유율이 가장 빠르게 늘고 있다.

기회는 계속 커지고 있다. AMD가 추정한 2030년 서버 CPU 시장 규모와 그 변화는 다음과 같다.

• 2025년 11월: 약 600억 달러
• 2026년 5월: 1,200억 달러 이상
• 2026년 7월: 약 2,200억 달러

비교하자면, 2025년 전체 시장 규모는 약 260억 달러였다.

추정치는 1년도 안 돼 거의 4배로 뛰었고, 매번 그 이유로 꼽힌 것은 AI 에이전트였다. Arm은 에이전틱 데이터센터가 기가와트당 현재의 4배 이상의 CPU 용량을 필요로 할 것이라고 밝혔다.

필자의 판단: CPU는 에이전틱 AI에 투자하는 가장 매력적인 방법 가운데 하나가 될 수 있다. 반도체 업종 안에서 가장 최근에 변곡점을 맞은 분야이기 때문이다. 

주목할 점: 공급이 빠듯해 어느 기업이든 출하 속도에 한계가 있다. 또 새 데이터센터가 지어지면서 x86과 Arm의 점유율 구도도 달라질 것이다.

결론

모델 학습의 시대에는 GPU가 AI 투자의 중심이었다. 에이전틱 시대에는 그 범위가 넓어진다.

뮤즈는 소비자 규모에서 이를 처음으로 입증한 사례다. 모든 에이전트에는 전용 컴퓨터가 필요하고, 모든 컴퓨터에는 CPU가 필요하다. GPU가 사라지지는 않는다. 하지만 AI의 중심이 모델 학습에서 실제로 일을 하는 에이전트로 옮겨가면서, AI 인프라 구축에서 CPU가 차지하는 비중은 훨씬 커진다.

시장은 지난 3년 동안 AI에 GPU가 얼마나 필요한지를 물었다. 이제는 CPU가 얼마나 필요한지를 묻고 있다.

향후 주목할 일정

9월 29일 오픈AI의 데브데이(DevDay)에서는 소비자용 에이전트에 대한 오픈AI의 대응을 확인할 수 있다. 9월 30일 마이크론 실적 발표에서는 메모리 가격이 유지되는지가 관건이다. 10월 말 인텔과 AMD의 3분기 실적에서는 CPU 공급이 얼마나 빨리 수요를 따라잡을 수 있을지 가늠할 수 있다.