에이전트

자율형 인공지능 에이전트의 확산으로 데이터센터 중앙처리장치 수요 급증 전망

2026년 11월 16일 · 읽는 시간 2분

다른 언어로도 게시됨 中文, Indonesia, 日本語

turned-on drone
Alessio Soggetti / Unsplash

자율형 인공지능 에이전트의 사용 증가로 인해 데이터센터 내 중앙처리장치 핵심 코어에 대한 수요가 4배까지 증가할 수 있습니다.

분석 기업 Trendforce는 자율형 인공지능 에이전트의 계산 요구 사항이 증가함에 따라 운영자들이 중앙처리장치 수를 대폭 늘리고 서버 인프라 내에서 중앙처리장치와 그래픽처리장치의 균형을 재검토해야 할 수 있다고 밝혔습니다. 인공지능 에이전트는 기존의 대규모 언어 모델 추론보다 중앙처리장치 의존도가 더 높은 작업 부하를 유발합니다. 그래픽처리장치가 모델 학습 단계에 필수적인 반면, 중앙처리장치는 인공지능 에이전트가 자율적으로 작동하게 하는 복잡한 행동 시퀀스의 조율을 담당합니다. 여기에는 작업 계획, 하위 작업 일정 관리, 외부 도구 호출, 다중 에이전트 간 상호작용 관리 및 결과 평가가 포함됩니다.

또한 인공지능 에이전트는 파이썬 코드 실행, 데이터베이스 검색, 웹사이트 탐색 및 정보 처리를 위해 기존 데이터 자원에 의존합니다. 이에 따라 중앙처리장치는 단순히 그래픽처리장치를 보조하는 프로세서에서 벗어나 인공지능 인프라의 핵심 요소로 부상하고 있습니다. 기존 인공지능 데이터센터는 보통 그래픽처리장치 4개에서 8개당 중앙처리장치 1개를 사용했으나, 에이전트 기반 인공지능 인프라에서는 그래픽처리장치 1개에서 2개당 중앙처리장치 1개 비율로 발전할 것으로 예상됩니다.

Arm의 추정치에 따르면 데이터센터 용량 기가와트당 중앙처리장치 코어 요구 사항은 약 3,000만 개에서 1억 2,000만 개로 증가할 수 있습니다. 일부 에이전트 기반 작업 부하에서는 중앙처리장치 기반의 도구 처리가 전체 지연 시간의 90.6퍼센트까지 차지할 수 있으며, 특정 작동 조건에서 중앙처리장치의 동적 전력 소비가 시스템 전체 전력 소비의 상당 부분을 차지할 수 있습니다.

Nvidia 또한 이러한 변화에 대응하고 있습니다. 과거에는 그래픽처리장치를 궁극적인 해결책으로 내세우며 중앙처리장치의 가치를 낮게 평가했으나, 최근에는 Grace 프로세서를 도입하고 이를 Vera 세대에 포함시켰습니다. Vera는 88개의 중앙처리장치 코어와 176개의 스레드를 갖추고 있으며, 고대역폭 NVLink-C2C 연결을 통해 가속기와 통신 및 메모리를 공유합니다. Nvidia는 고객이 그래픽처리장치 중심 시스템과 독립적으로 중앙처리장치 시스템을 배포할 수 있도록 전용 Vera 중앙처리장치 랙을 개발하고 있습니다.