카카오는 최근 인공지능안전연구소와 함께 AI 모델 및 에이전트의 안전성을 평가하고 개선하기 위해 전략적 업무협약(MOU)을 체결했다. 이번 협력은 AI 기술 발전과 함께 증가하는 보안 및 윤리적 문제에 대한 해결책을 모색하기 위해 시작된다.

28일, 카카오의 AI 시너지 성과리더 김세웅과 인공지능안전연구소 소장 김명주는 MOU 체결식을 통해 이번 협력 방향성에 대한 기념 촬영을 마쳤다. 이 계기는 카카오가 AI 안전성 평가를 위해 자사의 AI 모델과 에이전트를 제공하고, 인프라 지원을 통해 평가 수행 및 도구 개발에 필요한 기반을 마련한다는 것을 의미한다. 반면, 연구소는 방법론 고도화와 평가 진행을 담당하며 양사는 평가 결과를 공동 검토하고 AI 안전성 평가 도구 개발에 협력할 계획이다.

이들의 협력은 세 가지 주요 단계로 구분된다. 첫 번째 단계에서는 언어모델을 대상으로 배포 전과 후에 안전성 평가를 실시한다. 이를 통해 초기 단계의 위험 요소를 파악하고 개선 방안을 모색한다. 두 번째 단계에서는 멀티모달 언어모델과 AI 에이전트까지 평가 범위를 확장하여 보다 다양한 AI 기술에 대한 안전성 검증을 실시한다. 마지막으로, AI 모델과 에이전트의 안전성을 효율적으로 검증할 수 있는 평가 도구를 공동 개발하는 계획이다.

이 협약은 단순한 기술적 협력을 넘어 AI 모델의 위험 요소를 선제적으로 식별하고 해결할 수 있는 체계 구축에 중점을 두고 있다. 카카오는 이를 통해 AI 안전성 평가 역량을 지속적으로 고도화하는 것이 가능할 것임을 강조하고 있다.

또한, 국내 최대의 AI 안전성 전문 연구기관과 협력함에 따라 글로벌 수준에서 신뢰할 수 있는 AI 생태계를 구축하는 데 기여할 것으로 기대된다. 이는 국제적인 AI 기술 발전 경쟁에서 한국이 선도적 역할을 할 수 있음을 의미한다.

김세웅은 이번 협력에 대해 “카카오의 AI 모델이 더욱 객관적이고 엄격한 안전성 검증 체계를 갖추게 되었다”며, “기술 혁신과 동시에 안전성과 신뢰를 최우선으로 하는 AI 모델 및 서비스 제공을 위해 지속적으로 노력할 것”이라고 말했다.

카카오는 이와 별도로 kt 클라우드와 안전한 AI 생태계 구축을 위한 업무협약을 체결하였으며, 외부 전문가들로 구성된 ‘AI&기술윤리소위원회’ 자문단을 통해 글로벌 수준의 신뢰할 수 있는 AI 생태계 조성에 힘쓰고 있다. 이는 카카오가 AI 안전성 강화를 위한 다각적인 노력을 지속하고 있음을 보여주며, 기술 발전과 윤리적 책임의 균형을 맞추려는 카카오의 의지를 드러낸다.