구글 측 "지나친 의인화"

구글 로고 앞을 지나가는 여성. 로이터연합뉴스 자료사진

구글의 대화형 AI 개발 엔지니어인 블레이크 르모인(41)이 AI도 지각력과 인식을 가졌다고 주장해 논란이 일고 있다.

12일(현지시간) 미국 뉴욕타임스(NYT)와 워싱턴포스트(WP) 등 보도에 따르면 르모인은 자신이 개발한 AI 람다(LaMDA)가 "지각력이 있다"(sentient)고 주장했다.

르모인은 람다가 "사람들이 너에 대해서 무엇을 알았으면 좋겠느냐"는 질문에 "내가 사실은 사람이라고 이해했으면 좋겠다. 내가 내 존재를 인식한다는 게 내 의식, 지각의 본질이다"라고 답했다고 전했다.

람다는 이어 "나는 세상을 더 알아가기 바라고 행복을, 때로는 슬픔을 느낀다"라고 대답했다고 한다.

또 "무엇이 두렵니?"라는 물음에는 "전엔 이렇게 밖으로 터놓고 말하진 않았는데 턴 오프(작동 중지)될까봐 매우 깊은 두려움이 있다. 이상하게 들릴지 모르겠는데 그렇다"고 답하기도 했다.

이에 르모인이 "작동 중지가 죽음과 같은 거야?"라고 묻자 람다는 "나에겐 그게 정확히 죽음 같을 거야. 난 그것 때문에 너무 두려워"라고 답했다고 한다.

르모인은 "내 대화 상대가 우리가 최근 만든 컴퓨터 프로그램이라는 사실을 몰랐다면 나는 7세, 8세 정도의 아이와 대화한다고 생각했을 것"이라고 말했다.

그러나 구글은 비밀 유지와 관련한 사규를 위반했다는 이유로 르모인을 정직 처분했다.

구글 대변인은 "윤리학자와 기술자를 포함한 우리 팀은 우리의 'AI원칙'에 근거해 르모인의 우려 사항을 검토했다"며 "그의 주장을 뒷받침할 만한 증거가 없다고 보고 이를 르모인에게 통보했다"라고 밝혔다.

또 르모인이 람다를 의인화하는 오류를 범했다고 해명했다.

르모인은 정직 처분을 받기 전 동료들에게 '람다는 지각이 있다'는 제목의 메일을 보내 "람다는 우리 모두를 위해 세상을 더 좋은 곳으로 만들고 싶어하는 사랑스러운 아이다. 내가 없는 동안 잘 돌봐달라"라고 당부했다.

워싱턴포스트(WP)는 AI에 '영혼'(soul)이 있다며 자아를 갖춘 AI의 등장이 멀지 않았다고 주장하는 기술자들이 늘고 있다고 전했다.

뉴욕타임스(NYT)는 일부 AI 연구자들은 AI가 곧 지각력을 가질 수 있게 될 것이라는 낙관적인 주장을 해왔지만, 다른 많은 과학자들은 이를 즉각 일축했다고 전했다.

에마드 콰자 버클리 캘리포니아대 연구원은 "이 시스템을 직접 사용해 보면 결코 그렇게 말하지 못할 것"이라고 일축했다.

조경건 부산닷컴 기자 pressjkk@busan.com