최근 AI 기술은 단순 질문에 대한 답변을 제공하는 기능을 넘어섰으며, 이제는 스스로 데이터를 탐색하고 외부 도구를 활용하여 실질적인 작업을 수행할 수 있는 ‘에이전틱 AI’ 시대가 도래했다. 이러한 발전은 단순히 AI 실행을 위한 컴퓨팅뿐 아니라, AI의 행동을 감시하고 관리하는 새로운 컴퓨팅 구조의 필요성을 더욱 부각시켰다.

Arm은 최근 엔비디아와 함께 에이전틱 AI를 안전하게 실행하기 위한 컴퓨팅 구조를 발표했다. 이 구조는 중앙 처리장치(CPU)가 AI 에이전트의 작업을 수행하는 동시에, 데이터처리장치(DPU)가 별도로 감시 및 관리 역할을 하는 형태로 설계되어 있다. CPU는 ‘일꾼’이라면, DPU는 독립된 ‘감시자’의 역할을 맡게 되며, 이를 통해 AI 에이전트가 안전하고 효율적으로 작동할 수 있도록 보장한다.

Arm은 CPU 설계 및 핵심 코어 기술을 제공하는 회사로, 실제 반도체를 직접 생산하지는 않지만, 이러한 기술을 바탕으로 엔비디아의 ‘Vera’, AWS의 ‘Graviton’, 구글의 ‘Axion’, 마이크로소프트의 ‘Cobalt’ 등 다양한 CPU가 개발되고 있다. DPU에 대해서도 엔비디아의 ‘BlueField’ 같은 제품들이 시장에서 활용되며, 이러한 BlueField는 Arm의 ‘Neoverse’ 계열 CPU 코어를 통합하고 있다.

에이전틱 AI의 등장으로 인해, 기존의 챗봇과 달리 스스로 여러 작업을 수행할 수 있는 능력이 필요하게 되면서 CPU 성능은 물론 각 에이전트의 행동을 어떻게 통제할 것인지에 대한 중요성도 증대되고 있다. Arm은 CPU가 에이전트의 작업 환경과 관리를 담당하도록 설계했으며, 필요한 도구 실행 및 애플리케이션 연결을 포함한다.

DPU는 네트워크와 보안 기능을 분리된 영역에서 처리하며, AI 에이전트가 접근할 수 있는 데이터와 자원에 대한 제어를 강화하고 이상 행동이 발생했을 때 격리할 수 있는 구조를 마련한다. 엔비디아는 ‘오픈 에이전트 세이프티 플랫폼’으로 이러한 개념을 구현하고 있으며, ‘오픈셸’과 DPU인 ‘블루필드’를 결합하여 에이전트의 접근 자원과 행동을 관리한다. 블루필드4에는 Arm 네오버스 V2 기반으로 CPU 코어 64개가 탑재되었으며, 엔비디아의 ‘센트리’를 사용하여 에이전트의 행동을 감시하고 문제 발생 시 격리하는 역할을 수행한다.

AI 기술이 단순한 질문 응답에서 실질적인 행동으로 진화함에 따라, AI 인프라의 경쟁은 ‘얼마나 빠르게 실행할 수 있느냐’에서 ‘AI가 어떤 일을 할 수 있으며 이를 통제하는 방법은 무엇이냐’로 넓어지고 있다. 이러한 변화는 AI의 안전성과 관리에 대한 새로운 시대의 도래를 의미하며, 기술 발전 속에서 감시자 컴퓨팅의 중요성을 한층 더 부각시키고 있다.