[기업법률가이드] 딥페이크 관련 법적규제

표경민 법무법인 디엘지 변호사

인공지능(AI) 기술 발전으로 누구나 손쉽게 딥페이크(Deepfake) 이미지와 영상을 제작해, 이를 악용한 범죄가 사회적 문제로 부각되고 있다.

딥페이크는 사람 얼굴이나 음성, 물건, 장소 등의 합성을 통해 '진실'과 구분이 어려운 결과물을 만들어낸다. 정치 분야에서 많이 악용됐다. 국내에선 지난 1월 18일 공직선거법을 개정해 딥페이크 기술을 이용한 선거운동을 금지시켰다. 선거운동을 위해 딥페이크 영상 등을 제작·유포한 경우 가상정보라는 점을 명확하게 딥페이크 영상 등에 표시해야 한다. 표시를 누락하면 허위사실 공표죄에 해당한다. 중앙선거관리위원회의 '딥페이크 영상 관련 법규운용기준'을 보면 가상정보임을 표시해도 특정 후보자의 낙선을 목적으로 후보자를 비방하는 내용을 포함하면 후보자 비방죄에 해당할 수 있다.

딥페이크 관련 플랫폼의 법적 책임에 대한 논의도 이어지고 있다. 딥페이크 위법행위가 온라인 플랫폼을 매개로 이뤄져서다.

EU의 AI법에 따르면 AI서비스 제공자는 딥페이크 콘텐츠가 AI에 의해 생성됐음을 워터마크 등 기계 판독이 가능한 형식으로 표시해야 한다. AI 서비스 운용자도 유사한 의무를 갖는다.

22대 국회에서 발의된 AI 관련 법률안들 중엔 'AI산업 육성 및 신뢰 확보에 관한 법률안(안철수 의원 대표 발의)'과 'AI발전과 신뢰기반 조성 등에 관한 법률안(정점식 의원 대표 발의)'이 있다. 이 법안을 보면 생성형 AI를 이용해 제품 또는 서비스를 제공하는 자는 해당 서비스 등이 생성형 AI에 기반해 운용된다는 점을 이용자에게 사전 고지해야 한다. 그 결과물이 생성형 AI에 의해 생성됐다는 사실도 표시해야 한다.

딥페이크를 이용한 성착취물 제작 및 유포 행위도 논란이다. 온라인 음란물 유포는 기존 정보통신망 이용촉진 및 정보보호 등에 관한 법률로도 처벌할 수 있다. 2020년 3월 성폭력범죄 처벌 등에 관한 특례법이 개정돼 반포(유포)목적으로 사람 신체 등을 촬영하고 대상자 의사에 반해 성적 욕망 또는 수치심을 유발할 수 있는 형태로 편집합성·가공하거나 이를 반포·판매하는 행위를 처벌할 수 있게 됐다.

다만 딥페이크 성착취물은 텔레그램처럼 추적이 힘든 플랫폼을 통해 소수 그룹 내에서만 비밀리 유통되는 경우가 많다. 이에 개인소장 또는 1대1 관계에서 제공된 성착취물은 성폭력범죄 처벌 등에 관한 특례법에서 요구하는 '반포' 목적이 명확하지 않아 처벌이 어렵다. 그러나 만 19세 미만 아동청소년을 대상으로 한 텔레그램 성착취물은 아동청소년의 성보호에 관한 법률에 따라 단순 소장해도 처벌이 가능하다. 실제 2023년 이미지 생성 AI프로그램에 10살·나체·어린이 등의 명령어를 입력, 360여 개의 아동 성착취 영상물을 만든 남성이 징역 2년 6개월(실형)을 선고받았다. 22대 국회에도 성인 대상 딥페이크 성착취물에 대해서도 단순 소장 또는 시청 행위를 처벌하도록 한 법률 개정안들이 발의돼 있다.

딥페이크를 이용한 주된 범죄 양상은 그간 허위정보 유포나 성착취물 유포에 집중됐지만, 활용방식이 다양해지면서 최근엔 사이버 사기 등 경제범죄로까지 확산되고 있다. AI서비스 제공자와 각종 플랫폼 운영자들도 AI와 딥페이크 관련 규제 법률의 적용을 받을 가능성이 있다. 온라인 플랫폼 운영자는 현재 논의 중인 딥페이크 관련 규제 방안들에 대비, 법적·기술적 컴플라이언스 체계를 사전에 구축해야 한다.딥페이크 콘텐츠 탐지 및 관리 시스템도 마련할 필요가 있다.

<표경민 법무법인 디엘지 변호사>