[이진우의 시대정신] 딥페이크와 '페이크 정치'

포스텍 명예교수

가짜가 난무하는 세상에는 가짜와 진짜를 구별하기 힘들 뿐만 아니라 진짜 위험이 발생할 때 그것을 인식하지 못할 수도 있다. 최근 우리는 인공지능의 위험과 부작용을 예고하는 사회 문제를 경험하고 있다. 음성과 이미지를 합성하여 실제 인물처럼 보여주는 딥페이크 성착취물이 범람하고 있다. 누구나 쉽게 접근할 수 있는 딥페이크 기술은 사진 한 장만으로 몇 초안에 진짜처럼 보이는 가짜 이미지를 뚝딱 만들어낸다. 어린 학생들이 호기심에 장난삼아 만들어낸 딥페이크 성착취물이 피해자에게 인격을 파괴할 정도의 상처를 얼마나 깊게 남기는지는 우리의 상상을 초월한다. 설령 성범죄 영상을 탐지하고 삭제하는 인공지능 기술이 발달하더라도 이미 발생한 상처는 쉽게 치유되지 않는다. 인공지능이 성범죄의 양상과 영향을 근본적으로 바꿔놓은 것이다.

그런데 더 커다란 위험은 딥페이크의 문제를 성범죄로만 국한할 때 발생한다. 성범죄는 어느 시대 어느 문화에도 항상 있었다는 인식과 결합하면, 딥페이크가 우리의 삶과 사회에 미치는 혁명적 영향력을 제대로 파악하지 못할 수 있다. 인공지능 로봇이 등장하면 사회가 바뀌겠지, 시를 짓고 소설을 쓰고 영상을 만들어내는 인공지능이 널리 퍼지면 문화와 예술도 바뀌겠지. 기술이 발전하면 사회는 변화하기 마련이라는 이런 순응적이고 무비판적인 태도는 인공지능의 진짜 위험을 은폐할 가능성이 크다.

인공지능은 우선 정치를 변화시키고 있다. 오늘날 많은 사람이 페이크 뉴스를 정치의 문제점으로 지적하지만 사실 진리와 정치의 사이가 좋았던 적은 별로 없었다. 한나 아렌트가 정확하게 짚은 것처럼 진실성이 정치적 덕목에 포함된 적은 없으며, 거짓말은 정치적 거래에서 정당화될 수 있는 도구로 늘 간주되었다. 거짓말은 정치꾼이나 선동가만 하는 것이 아니다. 정치인은 필요하면 언제나 거짓말을 한다. 정치인은 악의적이지는 않더라도 국민을 위한다는 명분으로 비전과 공약의 형식으로 선의의 백색 거짓말을 한다. 문제는 오히려 거짓말하는 정치인보다는 오직 진실을 말할 뿐이라고 믿는 정치인이었다. 진실만 말하고자 하는 사람들은 종종 끊임없이 변화하는 현실을 외면한 독선과 독단에 빠진 사람들이다.

때로는 거짓말을 유용하게 만들고 때로는 진실을 무력하게 만드는 것은 바로 구체적 현실이었다. 아무리 거짓말을 하더라도 그 거짓말로 가릴 수 없는 '현실'이 있기 때문에 거짓말쟁이는 자신이 거짓말을 한다는 사실을 알고 있었다. 여기서 우리는 인공지능 기반 딥페이크가 바꿔놓은 두 가지 요소를 보게 된다. 만약 현실 자체가 진짜와 가짜를 구별할 수 없을 정도로 온통 가짜투성이라면, 정치는 어떻게 변화할 것인가? 그리고 거짓말쟁이가 거짓말을 하고 있음에도 스스로 진실을 얘기하고 있다고 믿는다면, 우리는 어떻게 대응할 것인가? 이 물음에 대해 프로파간다를 정치의 본질로 파악한 요제프 괴벨스는 이렇게 말한다. "거짓말을 충분히 자주 반복하면 사람들은 그것을 믿게 될 것이고, 당신 자신도 그것을 믿게 될 것이다."

많은 사람이 가짜를 믿는 세상은 분명 '페이크 현실'이다. 고전적 거짓말쟁이는 실제 현실이 있다는 것을 알면서도 거짓말을 하였지만, 딥페이크 세상의 거짓말쟁이는 자신이 거짓말을 하는 것이 아니라 진실을 말하고 있다고 '자기기만'을 한다. 자기기만은 가짜와 진짜의 구별에 관심이 없이 진짜를 가짜로 만든다. 중요한 것은 진짜와 가짜의 구별이 아니라 가짜를 진짜로 받아들이는 감정과 태도이다. 자신의 신념과 주장을 널리 퍼뜨리는 것이 선전이었다면, 프로파간다는 강렬한 가짜를 통해 사람들을 부추기는 선동의 '페이크 정치'를 추구한다.

올해 미국 대선은 페이크 정치를 적나라하게 보여준다. 테일러 스위프트가 해리스에 대한 지지를 선언하기 전에 트럼프는 테일러 스위프트와 그녀의 팬들이 대선 캠페인에 대한 지지를 맹세하는 딥페이크 이미지를 공유했다. 트럼프와 일론 머스크가 춤추는 딥페이크 영상은 단순한 재미로 받아들여질 수도 있다. 그런데 카멀라 해리스가 민주당 전당대회에서 공산주의 군사 집회를 여는 모습을 묘사한 인공지능 생성 이미지는 오락과 재미의 경계를 넘어선다. 딥페이크 기술은 허위 정보 캠페인을 만들고, 저급 콘텐츠로 온라인 플랫폼을 범람시키고 있다.

인공지능으로 진짜처럼 만들어진 가짜는 공론 영역을 오염시키는 데 그치지 않고 민주주의의 토대를 붕괴시킬 수 있다. 슬로바키아의 최근 선거를 앞두고 발생한 허위 정보의 폭풍은 딥페이크의 정치적 효과를 암시한다. 페이스북에 후보자와 미디어 담당자가 선거 조작 계획, 특히 표를 매수하는 계획을 논의하는 대화가 담긴 오디오 녹음이 올라왔다. 오디오가 가짜라는 비난이 빠르게 제기되었지만 피해는 이미 발생했다. 이 사건은 인공 지능이 여론 조작을 위한 강력한 도구가 되고 있다는 소름 돋는 증거이다. 인공지능이 생성한 허위 정보는 전 세계 선거에서 유포될 것이 분명하다. 딥페이크는 상대방을 트롤링하고, 가짜 지지를 표명하고, 후보자를 해치려는 의도로 이미지와 오디오를 만드는 데 사용된다.

이러한 페이크 정치는 시민의 선택에 사용하는 정보와 투표 능력에 심각한 영향을 미친다. 오늘날 다양한 기술적 위협에 취약한 선거를 더욱 취약하게 만드는 것은 '페이크 정치'의 논리이다. 가짜는 이를 반박할 진짜가 드러나도 여전히 위력을 발휘한다. 그 때문에 페이크 정치의 공격자는 공격에 반드시 성공할 필요가 없다. 선거 과정의 합법성과 무결성에 의심을 품는 것만으로도 결과에 대한 지지와 사회적 응집력이 잠재적으로 침식될 수 있다. 페이크 정치는 궁극적으로 민주주의의 기반인 선거의 공정성과 합법성을 뒤흔든다.

정치인들이 거짓말을 밥 먹듯이 하는 것은 이익이 있기 때문이다. 우리가 잘 알고 있는 '늑대와 양치는 소년'의 이솝 우화는 거짓말의 보상을 잘 말해준다. 있지도 않은 늑대가 왔다고 소리치다 보면 실제로 늑대가 왔을 때 사람들은 거짓이라고 생각하고 도움을 주지 않는다. 거짓말에 기반한 페이크 정치는 무엇이 진실이고 무엇이 그렇지 않은지를 불투명하게 할 뿐만 아니라 그들이 진실을 말하더라도 아무도 그들을 믿지 않는다는 것이다. 이렇게 페이크 정치는 민주주의의 기반인 신뢰의 가능성을 파괴한다. 포스텍 명예교수