대한민국의 기술 거물 카카오는 최근 인공지능안전연구소와 함께 AI 안전성을 강화하고자 전략적 업무협약(MOU)을 체결했다. 이 협력은 두 기관이 공동으로 AI 모델과 에이전트의 잠재적 위험을 사전에 식별하고 검증할 수 있는 체계를 구축하는 방향으로 진행될 예정이다. 이번 협력 발표식에는 카카오 AI 시너지 성과리더 김세웅 씨와 인공지능안전연구소 소장 김명주 씨가 함께 참석하였다.

AI 기술이 급속히 발전함에 따라 그 안전성과 신뢰도를 확보하는 것은 점차 중요해지고 있다. 카카오는 지난 28일 인공지능안전연구소와 AI의 안전성 평가 및 검증 체계 구축을 위한 전략적 협력을 발표하면서, 이를 통해 더욱 신뢰할 수 있는 AI 생태계 조성을 목표로 삼는다. 양사는 본 MOU를 바탕으로 객관적이고 체계적인 안전성 평가 기반 구축을 통해 AI 모델과 에이전트의 잠재적 위험을 사전에 파악하고자 한다.

카카오는 자사의 AI 모델과 에이전트를 평가 대상으로 제공함과 동시에, 평가 수행 및 관련 도구 개발을 위한 인프라 지원을 맡게 될 것이다. 반면, 인공지능안전연구소는 평가 수행과 방법론의 고도화를 담당하며, 양사는 함께 평가 결과를 검토하고 AI 안전성 도구 개발을 위해 협력할 예정이다. 이러한 협력은 총 3단계로 구분되어 진행될 계획이며, 첫 단계에서는 언어모델의 배포 전·후 안전성 평가를 통해 시작하고, 이후 멀티모달 언어모델과 AI 에이전트에 대한 평가 범위를 확대할 예정이다. 마지막 단계에서는 AI 모델과 에이전트의 안전성을 더욱 효율적으로 검증할 수 있는 평가 도구를 공동 개발하는 것이 목표로 설정되어 있다.

카카오는 지난해 인공지능안전연구소와 함께 자체 언어모델 ‘카나나(Kanana)-1.5-9.8B’의 공동 안전성 평가를 진행한 바 있다. 이번 평가 결과, 카카오의 모델은 유사 규모의 해외 AI 모델에 비해 더 높은 수준의 안전성을 나타냈다는 점에서 주목받고 있다. 이러한 성과를 바탕으로 카카오 AI 시너지 성과리더 김세웅 씨는 “이번 협력을 통해 우리의 AI 모델들은 더욱 객관적이고 엄격한 안전성 검증 체계를 갖춘다. 앞으로도 기술 혁신과 함께 안전성 및 신뢰를 최우선으로 하는 AI 모델과 서비스 제공에 노력할 것”이라고 밝혔다.

인공지능안전연구소 소장 김명주 씨도 “AI 기술의 고도화가 진행됨에 따라 잠재적 위험을 선제적으로 식별하고 평가할 수 있는 체계의 중요성이 더욱 커지고 있다”며 “카카오와의 협력을 통해 글로벌 표준에 부합하는 AI 안전성 평가 체계 구축에 최선을 다하겠다”고 말했다.

한편, 카카오는 이번 협력 외에도 AI의 안전성 강화를 위해 다양한 노력을 기울이고 있다. 회사는 최근 KT클라우드와 함께 안전한 AI 생태계 구축을 목표로 하는 업무협약을 체결하였으며, 외부 전문가들이 참여하는 ‘AI&기술윤리소위원회’ 자문단의 운영을 통해 AI 기술 윤리와 안전성 강화에 대한 논의를 지속하고 있다. 이러한 다각적인 노력은 카카오가 AI 기술 발전과 함께 사회적 책임을 깊이 인식하며, 안전하고 신뢰할 수 있는 AI 환경 조성에 헌신하는 것을 보여준다.