논설위원

비밀번호 해킹에 1분도 안 걸려
가족 목소리 위조해 협박하기도
국가·기업 기밀 유출도 우려돼
사내 챗GPT 사용 제한 업체 늘어
이탈리아는 아예 접속 금지 조치
우리 정부는 관련 대응에 미온적

이종호 과학기술정보통신부 장관(왼쪽), 고진 대통령 직속 디지털플랫폼위원회 위원장(가운데)과, 고학수 개인정보보위원회 위원장이 14일 서울 정부서울청사 기자회견장에서 디지털플랫폼 정부 실현 계획 보고회에 브리핑을 하고 있다. 연합뉴스

AI(인공지능)가 내 통장 비밀번호를 해킹한다? 그런 일이 실제 가능하다는 소식이 최근 전해졌다. 미국의 한 보안 업체가 AI에게 사람들의 비밀번호 작성 패턴을 학습시킨 뒤 특정 계정의 비밀번호를 알아내는 실험을 진행했는데, 대부분의 비밀번호를 1분 이내에 풀어냈다는 것이다. 숫자에다 영어 대·소문자, 기호 등을 포함한 7자리 고난도의 비밀번호도 불과 6분 만에 알아냈다고 한다.

호주에서는 한 현직 시장이 챗GPT에 의해 범죄자로 몰렸다며 챗GPT 개발사인 오픈AI를 고소하는 일이 있었다. 2000년대 초 호주조폐공사(NPA) 뇌물 사건에 연루됐다는 건데, 해당 시장은 NPA와 관련해 어떤 혐의로도 기소된 바 없다고 한다. 미국에선 AI로 딸의 목소리와 말투를 복제한 뒤 부모에게 들려 주며 딸을 납치했으니 거액을 보내라고 요구하는 사건이 발생했다. 당시 AI는 딸이 SNS에 3초 간 올린 영상 속 목소리를 학습해 재현한 것으로 밝혀졌다.

AI로 인한 범죄 가능성이 현실화하고 있는 것이다. 우려는 개인을 넘어 기업이나 국가로까지 확대된다. 온라인상에서 이미 무불통지요 무소불위인 AI 아닌가. 특정 기업의 핵심 기술 소스에 무단으로 접근해 빼내거나 국민 삶에 결정적 영향을 미칠 수 있는 국가 기밀을 적대국에 퍼뜨린다면? 그 피해는 상상을 넘어서는 것일 테다.

기업들은 민감하게 반응하고 있다. JP모건이나 씨티그룹, 골드만삭스 등 이름만 들어도 알 만한 세계적 금융업체들은 벌써부터 챗GPT 등 AI의 무분별한 사용에 제동을 걸었다. 국내에서도 삼성전자가 지침을 만들어 사내 챗GPT 사용을 제한했고, SK하이닉스는 아예 사내망을 이용한 챗GPT 사용을 차단했다.

국가 차원에서 AI 사용을 규제하겠다는 움직임도 확연하다. 이탈리아는 지난 1일부터 개인의 챗GPT 접속을 한시적으로 금지했다. 현재로선 챗GPT가 개인이나 기업 등의 정보를 제대로 보호한다고 믿을 근거가 없으니, 그 근거가 확실해지면 접속을 허용하겠다는 것이다. 이탈리아가 이처럼 강력한 제재 의지를 밝히자 프랑스, 독일, 아일랜드 등 유럽은 물론 미국과 캐나다 등 미주 국가들도 동조하고 나섰다.

우리나라는 어떤가. 챗GPT 등 AI에 대한 규제를 강화하려는 이런 움직임과는 사뭇 다른 분위기다. 오히려 여러 규제를 완화해 AI 산업의 덩치를 키우는 쪽으로 정책의 방향을 잡고 있다. 이는 과학기술정보통신부가 지난 14일 개최한 ‘디지털플랫폼정부 실현 계획 보고회’에서 거듭 확인됐다. 이날 보고회에선 최근 챗GPT 열풍에 부응해 AI 산업의 주도권을 확보하기 위한 정부 차원의 ‘초거대 AI 경쟁력 강화 방안’이 발표됐다. 올해에만 3900억 원이 넘는 예산을 투입해 민간의 AI 개발과 고도화를 지원하는 인프라를 확충하고, 관련 산업 생태계를 조성하는 한편, 혁신적인 AI 제도·문화 정착을 추진한다는 게 골자다. 그렇지만 AI 확대에 따른 정보 유출이나 권리 침해 등을 예방하기 위한 정책이나 대안은 구체적으로 제시하지 않았다.

지난달 28일 미국의 비영리단체인 미래생명연구소(FLI)가 현재의 ‘GPT-4’보다 더 강력한 AI 개발을 6개월 이상 중단할 것을 요구하는 공개서한을 세계 곳곳의 AI 연구소에 보냈다. 지금 AI 개발 속도가 인간이 도저히 감당할 수 없는 수준이니 잠시만이라도 유예 기간을 두자는 것이다. 이 서한에는 5000명 이상이 지지서명을 했는데, 테슬라 CEO 일론 머스크, 애플 공동창업자 스티브 워즈니악, 작가 유발 하라리 등 유명 인사들이 대거 참여했다. AI가 몰고 올 변화와 부작용에 대한 두려움이 그만큼 큰 것이다.

이런 사정으로 우리나라도 AI 개발 및 사용에 대한 규제 논의가 시급하다는 목소리가 높다. 서구 여러 나라에서 적극 대응에 나선 것에 비하면 다소 늦었다는 지적도 나온다. 이들의 주장을 곰곰 들여다보면 현재 수준에서 AI에 대한 규제는 규제 자체보다는 신뢰성의 문제로 봐야 한다는 걸 깨닫게 된다. AI로 인한 정보 유출이나 왜곡된 데이터 제공 때문에 발생하는 사회·경제적 혼란은 말할 것도 없고, AI에 대한 불신이 가중될수록 해당 산업 자체가 위기를 맞을 수 있다는 것이다. 제대로 된 AI 산업 활성화를 위해서도 최소한의 안전장치는 필요하다는 이야기다.

이제 막 성장 기로에 있는 AI 환경을 두고 지나친 걱정 아니냐고 물을 수 있다. 하지만 인간이 제어할 수 없는 AI 세상은 유토피아가 아니라 디스토피아일 뿐이다. 지금은 초거대 AI 경쟁력 강화도 중요하지만, 동시에 인간과 AI가 공존할 수 있는 방안을 마련해야 할 때이기도 하다. 만사불여튼튼 아닌가.

임광명 논설위원 kmyim@busan.com