2026년 9월 29일, 도널드 트럼프 미국 대통령은 워싱턴 D.C. 백악관에서 인공지능(AI) 분야의 주요 기술기업 경영진들을 모아 ‘자율규제’ 방식으로 AI를 안전하게 개발할 수 있도록 하는 새로운 협약을 체결했다. 이번 자리에는 엔비디아의 젠슨 황, 앤트로픽의 다리오 아모데이, 메타의 마크 저커버그 등 주요 인사들이 참석했으며, 트럼프 대통령은 이를 통해 AI 기술 발전과 안전성 간의 균형을 맞추기 위한 정부의 새로운 접근 방식을 보여주었다.

AI 기술이 급속도로 발전함에 따라, AI 시스템의 통제 불능 가능성과 관련된 위험에 대한 우려가 커지고 있었다. 그러나 이번 협약은 정부의 강제적인 규제보다는 기업들이 자체적으로 안전을 관리할 수 있도록 하기 위해 만들어졌다. 트럼프 대통령은 이 협약을 ‘도덕적 구속력이 있는 합의’라고 묘사하며, 이는 법적 강제성은 없지만 기업들의 자발적인 약속에 의해 지지되는 협약임을 분명히 했다.

이번 협약에 따라 기업들은 AI 시스템이 통제 불능 상태가 되는 것을 막기 위한 내부 통제장치를 마련하기로 약속했다. 구체적으로, 이 협약에는 사이버 보안, 생물안보, 화학적 위협 등 다양한 영역에서 모델의 능력을 모니터링하고 통제시스템과 정렬 상태를 점검하는 내부 통제장치 구축이 포함되어 있다. 또한, 기술 시스템 해킹 등의 위협을 방지하기 위한 조치도 마련될 것이다.

두 번째로, 내부 팀에 권한을 부여해 통제와 모니터링을 실시하고 문제를 해결할 수 있도록 하였으며, 세 번째로는 독립적인 외부 감사인 또는 평가기관과 협력해 통제와 모니터링, 탐지 기능이 의도한 대로 작동하는지를 독립적으로 평가하도록 하였다. 네 번째 단계는 이사회 내의 독립위원회를 통해 관련 절차를 감독하고 확인하는 것을 목표로 한다.

이 협약은 참여 기업들이 정기적으로 만나 모범 사례와 표준을 정립하기 위한 논의를 진행할 것임을 강조하였다. 구글의 순다르 피차이, 앤트로픽의 다리오 아모데이, 메타의 마크 저커버그 등 주요 기술업계 인사들과 함께 이 협약에 서명한 것은 AI 안전성 관리에 있어서 민간 부문의 적극적인 참여를 보여주는 중요한 사례가 될 것이다.

트럼프 대통령은 이와 함께 AI라는 명칭을 ‘초지능'(Super Intelligence)으로 변경하는 행정명령에도 서명했다. 이러한 명칭 변경은 AI의 이미지를 더 긍정적으로 바꾸고자 하는 시도로 평가될 수 있으며, 정부에서는 기술 발전을 통해 제기되는 안전 문제에 대한 적극적인 해결책을 모색하겠다는 의지를 드러내고 있다.

이번 협약은 AI와 관련된 미래의 정책 방향성과 기업들 간의 협력 구조에 대한 새로운 시사점을 제공하였다. 특히, 정부의 직접적인 개입보다는 민간 부문에서 나오는 자율규제를 강조하는 이번 사례는 AI 기술 발전과 안전성 관리에 있어서 새로운 길을 열 수 있다는 평가를 받고 있다.

워싱턴포스트와 같은 주요 미디어들은 이러한 정부의 접근 방식을 통해 대중의 AI에 대한 불안감을 완화하려는 시도로 보고 있으며, 기술 업계와의 긴밀한 협력을 통해 안전성을 확보하겠다는 미국 정부의 의지를 강조하고 있다.