“추격국 감속은 달라”…외부 평가와 악용 통제 등의 필수 제언

최근 AI 분야에서 발생한 글로벌 속도조절론 논란에 대해 국가AI전략위원회는 한국이 AI 안전·통제 역량을 선제적으로 보여줘야 할 필요성을 강조하고 있다. 이 기사에서는 2026년 10월 1일 국가AI전략위원회에서 개최된 ‘AI 개발 속도조절 관련 세미나’의 주요 내용을 살펴볼 것이다.

국가AI전략위 보안특위 위원장 이원재는 한국은 AI 발전을 저해하지 않고, 오히려 검증된 결과를 공개하여 안전성과 책임감을 강화해야 한다는 입장을 밝혔다. 세미나에서 다룬 주요 주제는 ‘글로벌 프런티어 AI 개발 속도조절론과 대한민국의 AI 대응 전략’이었다.

세미나에는 국가AI전략위원 및 관계부처, 유관기관 등 70여 명이 참석했으며, 온라인 생중계도 병행되었다. 이날 세미나에서는 AI 안전성 강화를 위한 여러 전략과 방안들이 논의되었다.

국가AI전략위 상근 부위원장 하정우는 최근 프런티어 AI 모델의 발전에 따른 위험성 증대와 속도 조절론에 대해 언급하며 “우리가 주도적으로 AI 안전성 역량을 갖추고 목소리를 내야 한다”고 강조했다. 하정우는 AI 발전의 글로벌 경쟁력을 유지하기 위해 안전성에 대한 능력도 함께 강화해야 한다고 주장했다.

이날 이원재 위원장은 속도조절론이 AI 개발 중단을 의미하는 것이 아니라, 외부 평가와 기업 간 안전 기준 마련 등을 통해 발전과 안전성의 균형을 이루는 것임을 분명히 했다. 이를 위해 책임성·회복력·지속 가능성을 강화하고, 검증된 AI가 시장과 정부에서 신뢰를 받도록 해야 한다고 설명했다.

최대선 숭실대학교 AI안전성연구센터장은 단기적으로는 고시와 사업 지침을 개정해 평가·개발 환경 요건 등을 마련해야 한다고 제언했다. 중기적인 대응으로는 시행령 개정과 모델에 대한 독립 평가를 연계하는 방안을 제시하였으며, 장기적으로는 법 개정을 통해 내부 접근 조사권을 확보할 필요성을 강조했다.

이번 세미나에서 업스테이지 대표 김성훈은 “앞선 자와 추격자의 속도 조절은 다르다”며, 앞선 AI 모델은 멈추면 격차가 벌어질 수 있으니 지속적인 발전이 필요하다고 말했다. 김 대표는 외부 검증과 가중치 공개, 온프레미스 환경 구축 등의 방안들을 제시했다.

에임인텔리전스 부사장 이한울은 한국이 글로벌 속도 조절 논의에 참여하고, AI 위험성 판단 및 검증된 보안 기술을 활용할 수 있는 현장 여건을 갖춰야 한다고 주장했다.

AI 모델이 인간의 통제를 벗어나는 사고는 지속적으로 발생하고 있으며, 최근 오픈AI와 앤트로픽 등에서 여러 사건들이 보도되었다. 이에 따라 AI의 능력이 통제를 벗어나는 가능성을 경고하는 목소리가 나오고 있으며, 속도 조절론에 대한 다양한 의견들이 제기되고 있다.

배경훈 부총리 겸 과학기술정보통신부 장관은 “지금 한국 AI가 필요로 하는 것은 속도 조절이 아니라 속도 책임”이라고 강조하며, AI 발전에 있어 안전성과 검증된 결과 공개의 중요성을 재강조했다. 이러한 논란 속에서 한국은 AI 안전성을 위한 책임 있는 길을 모색해야 할 필요성이 있음을 알 수 있다.