AI 워터마크 의무화 등 ‘AI 안전·신뢰성 확보'…‘디지털신질서 마스터플랜’

송현수 기자 songh@busan.com
부산닷컴 기사퍼가기

20대 정책과제 수립…가짜뉴스 대응·비대면 진료 제도화 등 포함
이행점검·공론화 등 통해 성과 창출·글로벌 AI·디지털 규범 주도

최상목 경제부총리 겸 기획재정부 장관(오른쪽)과 이종호 과학기술정보통신부 장관이 21일 오전 서울 종로구 정부서울청사에서 열린 국무회의에 입장하고 있다. 연합뉴스 최상목 경제부총리 겸 기획재정부 장관(오른쪽)과 이종호 과학기술정보통신부 장관이 21일 오전 서울 종로구 정부서울청사에서 열린 국무회의에 입장하고 있다. 연합뉴스

정부가 인공지능(AI) 생성물의 워터마크 표시를 의무화하는 한편 딥페이크 탐지·식별 기술을 개발 등을 통해 가짜뉴스에 대응하기로 했다. 또 AI 저작물에 대한 대가를 산정하고, 비대면 진료를 제도화하는 한편 잊힐 권리에 대해서도 본격적인 공론화에 나선다.

과학기술정보통신부는 AI 기술의 안전성과 신뢰·윤리 확보 등을 골자로 하는 '새로운 디지털 질서 정립 추진계획'을 관계부처 합동으로 마련해 21일 국무회의에 보고했다.

과기정통부는 디지털 권리장전을 바탕으로 디지털 심화 시대에 해결해야 할 52개 쟁점을 발굴했으며, 이를 해결하기 위한 20대 정책과제를 정리해 ‘새로운 디지털 질서 정립 추진계획’에 담았다. 자유·공정·안전·혁신·연대 등 5대 원칙에 따라 지정된 20대 과제 중에서도 국민 관심사가 크거나 파급력이 크고 시급한 8가지는 핵심과제로 선정해 집중적으로 관리한다.


‘새로운 디지털 질서 정립 추진계획’ 요약. 과기정통부 제공 ‘새로운 디지털 질서 정립 추진계획’ 요약. 과기정통부 제공

8대 핵심과제는 △AI 기술의 안전성 및 신뢰·윤리 확보 △딥페이크를 활용한 가짜뉴스 대응 △AI 개발·활용 관련 저작권 제도 정비 △디지털 재난 및 사이버 위협·범죄 대응 △디지털 접근성 제고·대체 수단 확보 △비대면 진료의 안정적 시행 △연결되지 않을 권리 보호 △잊힐 권리 보장이다.

주요 내용을 보면, 관련 법령 제·개정을 통해 AI 생성물의 워터마크 표시를 의무화하고 딥페이크 가짜뉴스 생성·유통·확산 전주기 대응 체계를 구축한다. 또한 AI 저작권 실무반을 통해 AI 학습 이용 저작물에 대한 적정 이용 대가 산정방안 등 연구 결과를 종합해 연말까지 저작권 제도 정비 방안을 마련한다.

아울러 디지털 서비스 안전법 제정 추진, 피싱·디지털 성범죄 등 민생 사이버 범죄 대응체계 정비, 4대 핵심 보안기술 개발을 위한 투자 확대(1141억 원) 등을 통해 고도화·지능화되는 디지털 위협에 대비할 예정이다.

소외계층을 대상으로는 행정·금융 등 필수 영역에서의 디지털 대체 수단 확대 등을 통해 디지털 접근성을 높인다.

정부는 또 의료법 개정을 통해 비대면 진료의 법적 근거를 마련하고 규제특례를 받은 디지털 혁신 기술과 서비스의 비대면 진료 연계를 강화한다. 동시에 개인 건강정보 보호와 처방전 위·변조 방지 방안도 마련한다.

아직 사회적 논의는 성숙하지 않았지만, 주요 쟁점이 될 (일터에서 업무시간 외) 연결되지 않을 권리, 잊힐 권리 등 개인의 디지털 권리 향상을 위한 노력도 추진할 계획이다.

과기정통부는 추진계획이 조속히 성과를 낼 수 있도록 7월부터 고용노동부(연결되지 않을 권리), 보건복지부(비대면 진료), 여성가족부(딥페이크 기반 디지털 성범죄)와 함께 심층 정책연구에 본격적으로 착수한다.

정부는 AI 혁신과 안전·신뢰 등 균형을 위한 법 제정을 연내 마무리하고, 21~22일 열리는 AI 서울 정상회의를 통해 글로벌 AI 규범과 거버넌스 논의를 주도할 계획이다. 또 AI 안전성을 검증하고 연구하는 조직을 설치해 아시아태평양 지역의 AI 안전 허브로 육성한다.

이종호 과기정통부 장관은 "단순히 계획에서 그치는 것이 아니라 국민이 체감할 수 있는 구체적 성과를 도출해내는 것은 물론, 전 부처가 합심해 디지털 심화 시대 모범국가로서 글로벌 디지털 질서 정립에 기여할 수 있도록 노력하겠다"고 말했다.


송현수 기자 songh@busan.com

당신을 위한 AI 추천 기사