中 ‘생성형 인공지능’ 서비스 제공 전 보안 평가 신청해야

중국 국가인터넷정보판공실이 11일 ‘생성형 인공지능(AI) 서비스 관리법(의견 수렴안)’(이하 ‘생성형 인공지능 관리법’)을 공개하고 의견 수렴에 나섰다. 이번 ‘생성형 인공지능 관리법’에는 생성형 인공지능 제품을 이용해 대중에게 서비스를 제공하기 전 국가 인터넷 정보 부처에 보안 평가를 신청해야 한다는 내용이 담겼다.

생성형 인공지능이란 알고리즘·모델·규칙을 기반으로 텍스트·이미지·음성·동영상·코드 등 콘텐츠를 생성해 내는 기술을 말한다.

‘생성형 인공지능 관리법’은 특히 제공자가 서비스를 제공하는 과정에서 사용자가 입력한 정보와 사용 기록을 보호할 의무가 있다고 강조했다. 이에 사용자의 신원을 추정할 수 있는 정보를 불법적으로 보관하거나 사용자가 입력한 정보와 사용 기록을 이미지화하면 안되며 다른 사람에게 사용자 정보 제공을 금지한다. 또 생성된 텍스트·사진·음성·동영상 등이 타인의 초상권·명예권·개인 프라이버시·영업비밀을 침해하거나 인공지능 관리법의 요구 사항에 부합하지 않는 경우 생성을 중지하고 관련 조치를 취해야 한다.

치안신(奇安信)그룹 보안 전문가는 ‘생성형 인공지능 관리법’의 발표는 데이터 보안과 프라이버시 보호가 이미 생성형 인공지능 발전의 전제이자 핵심이 됐다는 것을 의미한다고 말했다. 생성형 인공지능 기술이 성숙해지고 보급될수록 기업은 데이터 보안과 프라이버시 보호에 더 많은 관심을 기울여야 한다는 설명이다.

원문 출처: 신화사