인공지능(AI) 기술의 급속한 발전은 혁신적인 변화를 가져오면서 동시에 새롭고 복잡한 위험을 내포하고 있습니다. 이러한 AI와 관련된 잠재적 위험에 대비하기 위해 정부는 민간과의 협력을 통해 포괄적인 AI 안전 전략을 수립하는 방안을 마련하고 있습니다. 과학기술정보통신부는 이를 위해 ‘국가 AI 안전 생태계 조성 마스터플랜’의 초안 작업에 뛰어들며, 10월부터 정부와 민간 전문가들이 참여하는 실무 협의체를 운영할 예정입니다.

과학기술정보통신부는 최근 밝혀진 계획에 따르면, 이 협의체는 AI 관련 위험을 효과적으로 관리하고 대응할 수 있는 체계를 구축하는 것이 주요 목표입니다. 협의체에서는 국가적인 AI 안전 관리 체계 설립, 고성능 AI로 인한 위협에 대한 역량 강화, 그리고 일상 생활 속에서 안심하고 AI 기술을 활용할 수 있는 환경 조성 등 세 가지 핵심 전략을 검토하게 됩니다. 또한, 협의체는 해외에서 진행 중인 AI 안전 정책과 산업·기술 흐름을 분석하여 한국의 AI 활용에 맞춤형으로 추진할 수 있는 신규 과제들을 도출해 나갈 계획입니다.

이러한 노력은 정부와 민간 간의 긴밀한 협력을 통해 이루어지며, 협의체에는 과학기술정보통신부 및 관련 부처들, 국가인공지능전략위원회, 인공지능안전연구소, 한국지능정보사회진흥원(NIA), 정보통신정책연구원(KISDI) 및 한국정보통신기술협회(TTA), 그리고 국내외 AI 기업, 스타트업, 협회 등이 함께 참여하게 됩니다. 또한 기술과 법제에 숙련된 전문가들도 이 협의체에 포함될 예정입니다.

배경을 살펴보면, 최근 AI 기술이 다양한 분야에서 널리 활용되고 있으며, 이는 경제성장과 혁신적 발전을 가져왔습니다. 그러나 동시에 개인정보 보호 문제, 윤리적 딜레마, 신뢰할 수 없는 결정 등 AI 관련 위험들이 대두되고 있습니다. 이러한 맥락에서 정부는 AI 안전성을 높이기 위해 체계적인 접근 방식이 필요하다고 판단했습니다.

정부의 이러한 계획 발표와 관련하여, 배경훈 부총리 겸 과학기술정보통신부 장관은 국회 법제사법위원회 전체 회의에서 민간과 함께 AI 안전성을 강화하기 위한 계획에 대해 설명하고 있습니다. 이를 통해 정부는 AI 기술이 가져오는 장점을 최대한 활용하면서, 그로 인해 발생할 수 있는 부작용들을 극복하기 위한 체계적인 접근 방식에 대한 노력을 강화하고자 합니다.

과학기술정보통신부는 이 협의체가 민간의 지혜와 정부의 리더십이 결합된 플랫폼으로서, AI 안전 관리 체계를 포괄적으로 점검하고, 새롭게 등장하는 AI 기술과 그로 인해 발생할 수 있는 위협에 대응하는 데 있어 중요한 역할을 할 것이라고 기대합니다. 협의체가 마련될 예정인 ‘국가 AI 안전 생태계 조성 마스터플랜’은 12월까지 완성되며, 이를 통해 한국이 글로벌 AI 기술 경쟁력을 더욱 강화하고, 동시에 안전한 AI 환경을 조성하기 위한 근본적인 방향성을 제시할 계획입니다.

이와 같은 정부의 노력은 단순한 기술 발전보다는 사회 전반에 걸친 안전과 신뢰를 확립하는 것을 목표로 하고 있습니다. AI 기술이 가져올 미래의 혁신은 모든 이들이 함께 즐길 수 있는 긍정적인 효과를 창출해야 한다는 신념에 기반하고 있습니다. 따라서 정부와 민간 간의 협력을 통한 이 계획은 AI 안전성을 극대화하기 위한 중요한 첫걸음으로 자리 잡게 될 것입니다.