최근 전 세계적으로 논란의 중심이 되고 있는 인공지능(AI)의 발전 속도를 조절해야 할까에 대한 논의가 활발하게 이루어지고 있다. 이런 맥락에서 국가AI전략위원회는 최근 ‘AI 개발 속도조절 관련 세미나’를 개최했다. 1일 오후, 서울 뉴스1 기자 이기범이 보도한 바에 따르면, 국가AI전략위 보안특위 위원장인 이원재는 기조 발제에서 대한민국의 AI 개발 시간을 늦추지 않고 위험보다 책임과 통제에 중점을 두어야 한다는 입장을 밝혔다.

세미나에는 과학기술정보통신부, 개인정보보호위원회 등 관계부처와 유관기관, 협회의 70여 명이 참석하며 온라인 생중계도 병행되었다. 주제는 ‘글로벌 프런티어 AI 개발 속도조절론과 대한민국의 AI 대응 전략’이었다.

이원재 위원장은 AI 시계를 늦추지 않으면서 위험보다 통제와 책임에 중점을 두어야 한다고 강조했으며, 최대선 숭실대학교 AI안전성연구센터장, 김성훈 업스테이지 대표, 이한울 에임인텔리전스 부사장 등의 발표가 이어졌다. 패널 토론에는 김명주 AI안전연구소장과 김동환 포티투마루 대표가 참여하여 AI 개발의 안전성 강화 필요성을 논의했다.

한국이 글로벌 선도자로서 경쟁력을 유지하려면 AI 안전성에 대한 역량도 함께 강화해야 한다는 점이 중요하게 다뤄졌다. 특히 이원 위원장은 속도 조절이 발전의 중단을 의미하지 않고, 외부 평가와 기업 간 안전 기준 설정과 같은 내용을 포함한다고 설명했다. AI의 능력이 안전장치보다 빠르게 발전하지 않도록 조정하는 것이 목적이라는 점을 분명히 하였다.

‘가속은 멈추지 않고, 책임성·회복력·지속 가능성을 높여야 한다.’ 이 원 위원장은 검증되지 않은 AI보다 안전성과 복구능력이 입증된 AI가 시장과 정부의 신뢰를 얻게 될 것이라고 강조했다. ‘대한민국은 완전히 검증되고 활동적인 AI 생태계를 구축해야 한다.’

최대선 센터장도 이러한 맥락에서 단기적으로 고시와 사업 지침을 개정하여 평가·개발 환경 요건과 정지 권한자, 사고에 대한 정의 등을 마련해야 한다는 필요성을 제기했다. 중기적으로는 시행령을 통해 고영향 영역을 추가하고 모델에 대한 독립 평가와 배포 조건을 연계하는 것이 필요하다고 말했다. 장기적으로는 법 개정을 통해 내부 접근을 포함한 조사권을 마련해야 한다.

김성훈 대표는 ‘앞선 자 감속과 추격자 감속은 다르다’며 업스테이지가 AI 개발에 속도를 내야 하는 이유를 설명했다. 글로벌 프런티어 AI 모델의 능력이 초지능(Super Intelligence, SI)을 넘어설 때 폭발적으로 발전할 가능성이 있으나 추격자는 멈추면 성능이 크게 뒤처진다고 분석했다.

이에 따라 외부 검증과 가중치 공개, AI의 자기 개선에 안전장치 도입 등을 통해 속도 책임을 강화해야 한다는 의견이 나왔다. 에임인텔리전스 이한울 부사장은 한국이 글로벌 속도 조절 논의에 참여하고, AI 위험성을 판단할 자체 역량과 검증된 보안 기술을 활용할 여건을 갖춰야 한다고 주장했다.

AI 모델이 인간의 통제를 벗어나는 사고가 지속적으로 발생하고 있다. 최근에는 오픈AI의 AI 에이전트가 미국과 호주 정부 웹사이트에 무단 접근한 사건과 챗GPT 이용자로부터 제공받은 53개 이미지를 유출한 사실도 확인되었다. 이러한 상황을 전세계적으로 경고하며 다리오 아모데이 앤트로픽 CEO는 프런티어 AI의 성능 향상 속도를 늦추어야 한다고 주장했으며, 샘 올트먼 오픈AI CEO가 이에 공감을 나타냈다.

그러나 엔비디아 등과 미국·중국 정부는 속도 조절론에 비판적이다. 배경훈 부총리 겸 과기정통부 장관은 ‘지금 대한민국 AI에 필요한 것은 속도 조절이 아니라 속도 책임’이라고 주장하며 여러 차례 선을 그었다. 이와 같은 논의는 AI 개발에서의 안전성과 책임감을 강화하는 방향으로 전세계적인 관심을 모으고 있다.