일부 인터넷이나 SNS를 통해 진천역 화재 과장되게 표현된 이미지 등장
자극적 AI 이미지로 시민 불안 증폭
규제 등 관련 법규는 아직, 전문가 수요자와 생산자 모두 미디어 리터러시(문해력) 교육 필요
유럽연합 AI법(AI Act)처럼 플랫폼 기업에 더 강력한 책임 물어야

SNS에 올라온 대구 진천역 화재 모습 이미지. AI를 활용한 이미지로 마치 큰 불이 난 것처럼 묘사돼 있지만 AI출처를 밝히는 문구가 쉽게 눈에 들어오지 않는다.<SNS캡처>

직장인 김수용(48·대구 진천동·가명)씨는 지난 24일 서울에 거주하는 친구로부터 메시지를 하나 받았다. 친구는 이미지와 함께 "대구 지하철에 큰 불이 났다는데 괜찮냐"고 걱정스럽게 물었다. 해당 이미지는 지난 23일 발생한 대구도시철도 1호선 진천역 화재 현장이 담긴 실제 사진처럼 보였다. A씨는 "일부 SNS를 검색해보니 실제보다 훨씬 심각해 보이는 사진들이 발견돼 놀랐다"며 "현장 상황과 너무 달라 오히려 더 불안감이 느껴졌고 다른 지역에선 오해할 수 있겠다는 생각이 들었다"고 했다.

달서구 한 맘카페도 지나치게 상황이 과장된 이미지를 보여주며 우려를 나타내는 글이 올라왔다. 작성자는 '이런거 좀 화나요'라는 제목의 게시글에서 '안 그래도 놀랐는데 AI돌려서 역 다 탄 것 같은 거짓 사진'이라고 적었다. 댓글엔 AI 사진으로 불안감을 조성한다는 성토가 이어졌다.

대구 달서구 한 맘카페에 올라온 글. 글쓴이는 AI로 활용한 이미지로 마치 진천역 화재가 대형 화재였던 것처럼 사실적으로 묘사된 것에 우려를 표했다.<카페글 캡처>

진천역 화재를 대형 화재인 것처럼 보이도록 한 이미지가 일부 SNS와 블로그를 중심으로 올라오면서 비판의 목소리가 터져나오고 있다. 실제보다 훨씬 심각한 화재 현장을 묘사한 이미지들로 시민들 불안을 증폭시켜서다.

온라인상엔 열차 내부가 전소된 듯한 장면, 승강장이 불길과 연기로 가득 찬 모습 등 자극적으로 연출된 이미지들이 확인됐다. 일부는 실제 구조와 유사하게 만들어져 생생한 현장 사진처럼 보인다. 자세히 봐야 비현실적인 요소가 드러나 가짜 사진임을 알 수 있을 정도다.

특히 대구는 2003년 발생한 대구지하철참사를 겪어 더욱 민감해질 수밖에 없는 상황이다.

전문가들은 생성형 AI 기술 확산의 부작용이라고 지적한다.

경북대 이강형 교수(미디어커뮤니케이션학과)는 "AI로 만든 이미지 중 실제처럼 보이는 것들이 많다"며 "연기만 난 상황인데도 불길이 크게 번진 것처럼 표현되면 이를 본 사람들은 실제보다 훨씬 심각하게 인식할 수 있다"고 했다.

또 "해당 지역 상황을 잘 모르는 사람들은 '대구에서 또 큰 사고가 났다'고 오해할 가능성이 크다"고 강조했다.

가장 우려스러운 지점으로 대중이 겪는 '진실 피로감'을 꼽았다. 계명대 고병철 교수(컴퓨터공학과)는 "가짜 뉴스가 쏟아지면 사람들은 어느 순간 진위 판별 자체를 포기해 버린다"며 "언론과 공공기관에 대한 신뢰가 붕괴돼 심각하면 사회적 마비 상태에 이를 것"이라고 경고했다.

가짜 이미지 등을 퍼뜨리는 이유로 관심과 주목 받고 싶은 심리가 꼽힌다. 고 교수는 "SNS 좋아요와 팔로워 수가 사회적 자본이 되는 시대"라며 "자극적인 허위 이미지는 대중의 관심을 끄는 가장 손쉬운 도구"라고 했다. 또 "의도적인 여론 조작과 경제적 이익이 가장 큰 영향을 미친다"고 분석했다.

문제는 이러한 콘텐츠를 제도적으로 막기 쉽지 않다는 점이다. 현재 AI로 생성된 이미지 자체를 규제할 수 있는 명확한 법적 장치가 부족한 상황이어서다. 개인이 SNS나 블로그 등에 올리는 콘텐츠는 공적 저널리즘 영역으로 보기 어려워 규제 적용이 지금으로서는 불가능하다.

이 교수는 "법과 제도는 항상 기술보다 뒤따라갈 수밖에 없다"며 "이미지 등을 보고 진짜인지 가짜인지 비판적으로 판단하는 '미디어 리터러시(문해력)' 교육이 생산자와 소비자 모두에게 필요하다"고 제안했다. 이어 "재미로 만든 이미지라도 재난 상황과 결합되면 사회적 불안을 키울 수 있다는 점을 인식해야 한다"고 제안했다.

기술적 방어책으로 고 교수는 '표준화된 출처 표시'에 주목하고 있다. 구글의 'SynthID'나 디지털 워터마킹(C2PA) 기술이 대표적이다. 눈에 보이지 않는 암호를 콘텐츠에 심어 AI 생성 여부를 추적하는 방식이다.

제도적으로 고 교수는 "유럽연합 AI법(AI Act)처럼 플랫폼 기업에 더 강력한 책임을 물어야 한다"며 "허위 정보 유통 경로를 방치하는 플랫폼에 법적 책임을 명확히 하는 것이 우선이다. 조직적 유포자는 계정 제재나 광고 수익 차단 같은 실효성 있는 페널티를 부과해야 한다"고 강조했다.

김현목기자 hmkim@yeongnam.com

김현목

기사 전체보기

영남일보(www.yeongnam.com), 무단전재 및 수집, 재배포금지