최근 마크 저커버그는 페이스북이 다른 거짓 정보에 취하던 자세와 달리, 소위 딥페이크라고 부르는 인공지능을 이용해 생산된 가짜 비디오에 다른 접근법을 취할 수도 있다는 신호를 보냈습니다.

거짓 정보나 부정확한 정보에 관해 그동안 페이스북은 사용자들이 허위 진술을 만들 수 있는 많은 공간을 주었습니다. 잘못된 게시물을 삭제하지도 않았죠. 하지만 딥페이크는 다릅니다.

아스펜연구소와 아틀란틱이 공동 주최한 아스펜 아이디어 축제(Aspen Ideas Festival)에서 저커버그는 “일반적인 거짓 진술과 딥페이크가 실제로 완전히 다른지에 대한 의문이 있다.”라고 하버드대 교수 캐스 선스타인에게 말하며, “저는 딥페이크가 오보와 다르다는 점을 보여주는 사례들이 있다고 생각합니다.”라고 덧붙였습니다.

딥페이크는 공중의 담론을 불안정하게 만들 수 있는 잠재력을 가지고 있다는 점에서 사람들의 불안을 자아내고 있죠. 새로운 컴퓨터 기술은 사람이 실제로는 하지 않은 일을 말하거나 하는 것처럼 보이는 현실적이면서도 설득력 있는 비디오를 만들 수 있습니다. 한 예로 예술가들은 마크 저커버그가 페이스북을 버리는 가짜 동영상을 만들기도 했죠. 페이스북은 이 동영상을 삭제하지 않기로 했습니다.

저커버그는 페이스북이 딥페이크를 어떻게 다룰지에 대한 정책 결정 과정에 있다고 말했습니다. 한 가지 문제는 저커버그가 내린 딥페이크의 정의가 폭넓지 않다는 점입니다.

“딥페이크는 인공지능을 통해 누군가가 말하지 않은 것을 말한 것처럼 보이게 조작된 미디어라고 볼 수 있습니다.” 저커버그는 아래와 같이 말했습니다. “저는 이것이 꽤 합리적인 정의라고 생각합니다.”

이는 좁은 범위의 정의입니다. 페이스북은 최근 낸시 펠로시 하원의장의 발언을 느리게 만들어 그녀가 약에 취했거나, 건강한 인지 능력을 갖추고 있지 않은 것처럼 보이게 하는 비디오를 삭제하지 않기로 하며 비난을 받았습니다. 해당 비디오는 인공지능을 전혀 사용하지 않았으며 전통적이고 (아주 기본적인) 편집 기술만을 사용했습니다.

이에 대해 저커버그는 딥페이크가 광범위하게 정의될 경우 무분별한 비디오 검열 및 삭제가 발생할 수 있음을 경고합니다.

“만일 [우리가 정의한 딥페이크]가 누군가 여론을 호도하게끔 편집되었다고 생각할 수 있는 모든 비디오를 포함한다면, 본인이 좋아하지 않거나, 말하고자 한 바가 잘못 전달되었다고 생각하는 TV 인터뷰를 한 많은 사람이 해당 비디오를 지우기를 원하겠죠.” 저커버그는 아래와 같이 덧붙였습니다. “저는 다른 이들에게 본인이 좋아하지 않거나, 인터뷰에서 말하고자 바와 다른 의미로 전달된 비디오를 삭제할 수 있는 선례를 주지 않기 위해 사람들이 신중하게 딥페이크의 범위를 정하기를 원한다고 생각합니다.”

누군가가 기자에 의해 자신의 발언이 잘못 전해졌다고 주장할 수 있는 횟수를 고려한다면, 이는 아마도 타당한 두려움이겠죠.

하지만 선스타인은 더 폭넓은 정의를 선호하며, 어떤 종류의 비디오를 페이스북이 허락하지 않는지와 펠로시 비디오를 분명하게 언급할 것을 요구했습니다.

저커버그는 “집행”과 관련해 페이스북의 다소 느린 반응에 대한 문제 역시 설명했습니다. 그는 회사 현재 시스템상 사람들을 오도하는 비디오에 문제가 있다는 표시를 하는데 “하루 이상”이 걸린다고 말했습니다. 팩트체커가 비디오에 문제가 있음을 1시간 안에 확인한다고 해도, 하루 동안 비디오는 많은 사람에게 퍼져 나가죠. 저커버그는 비디오가 삭제되지 않는다고 해도 즉각적으로 문제가 있다는 표시가 되는 시스템을 만들어 비디오가 퍼져나가는 것을 효과적으로 막는 접근을 선호합니다. “집행 자체를 향상하는 것이죠.” 저커버그는 말했습니다. “하지만 우리는 사기업으로서 사용자가 사실관계가 잘못된 말을 하는 것 자체를 막기를 원하지는 않습니다.”

이는 저커버그가 “상충하는 요소에 대한” 합의를 보는 규제 내지는 정책을 반복적으로 요청한 다른 발언과도 맥을 같이 합니다.

저커버그는 최적의 관리 시스템을 만들기 위해 노력하고 있다고 덧붙였습니다. 또한, 기업 공개했을 당시의 수입보다 더 많은 돈을 콘텐츠 검토와 안전성을 위해 투자할 것이라고 말했죠. 이는 분기당 10억 달러 정도의 지출을 의미합니다.

위의 지출에 더해 새로운 (아직 불완전하지만) 기반 시설 역시 만들어질 것입니다. 이는 저커버그가 페이스북을 해체하자는 주장으로부터 회사를 지키기 위한 근거로 사용해왔던 것이죠. “우리는 선거의 공정성과 콘텐츠 시스템을 향상할 능력이 있습니다. 페이스북은 성공적인 기업이고, 기존에 존재하지 않았던 시스템을 만들 수 있는 능력을 갖추고 있습니다.”

하지만 모든 문제가 해결될 수 있는 것은 아닙니다. 인터뷰 초반 미국 선거에 대한 외국의 개입에 대한 질문에 저커버그는 페이스북의 새로운 정책을 언급했지만, 궁극적으로는 이런 문제가 “권한 밖의 일”이라는 점을 인정했습니다.

(아틀란틱, Alexis C. Madrigal)

원문보기

jisukim / Newspeppermint