AI 신뢰도 급락한 이유

AI 신뢰 위기… 소비자 71% 불안감 표출
AI 편향 논란 확산… 윤리적 가이드라인 절실
소비자 60% 우려…기업 신뢰도 71%↓

AI와 인간의 융합을 주제로 생성한 이미지. 이미지FX

인공지능(AI) 기술이 콘텐츠 제작부터 고객 상담까지 전방위로 확산되며 효율성은 극대화됐지만, 소비자들의 윤리적 우려와 사회적 편향성에 대한 경계심이 기술 수용의 장벽으로 부상하고 있다.

AI 시스템이 재현하는 문화적 편견과 불투명한 의사결정 과정이 신뢰 하락의 주요 원인으로 지목된다. 단순한 기술적 결함을 넘어 'AI의 윤리적 불성숙'에 대한 경고음이 높아지고 있다.

29일 웹 트래픽 조사업체 닐슨의 글로벌 설문조사(전 세계 소비자 6천명 대상)에 따르면, 응답자 60% 이상이 AI 생성 콘텐츠에서 체계적 편향성을 감지했다. 이 중 55%는 이를 불편함과 연결지어 설명했다.

특히 인종·문화적 소수자 집단에서 첨예한 거부감이 나타났다. 흑인 응답자의 60%는 “AI가 자신의 문화를 왜곡한다"고 답했고, 아메리카 원주민의 56%는 “AI 의존도가 높은 브랜드를 신뢰하지 않는다"고 밝혔다.

이는 단순한 '불쾌한 골짜기' 현상을 넘어, AI 학습 데이터의 다문화적 포용성 결여와 알고리즘 편향성 문제가 누적된 결과로 해석된다.

신뢰 추락의 연쇄적 증상도 두드러진다. AI를 적극 활용하는 기업에 대한 소비자 신뢰도가 전년 대비 71% 하락했다는 세일즈포스 보고서(18개국 1만6천500명 대상)는 기술 남용에 대한 경계가 전 세계적 현상임을 입증했다.

투명성 요구도 급증하고 있다. 응답자의 71%는 “AI 출력 결과에 대한 인간의 감시 장치 필수적"이라 강조했으며, 48%는 “AI 과도 활용 브랜드를 신뢰하지 않는다"고 응답했다.

닐슨의 패트리샤 라툴랑기 부사장은 “소비자가 AI의 잠재력과 위험성을 동시에 인식하고 있다"며 “기업은 기술 효율성보다 편향성 통제·윤리 가이드라인 수립에 우선 투자해야 신뢰 회복이 가능하다"고 지적했다.

이는 AI가 단순 업무 자동화를 넘어 고객 데이터 해석·의사결정에 개입하면서 발생하는 책임성 논란을 반영한다. AI 상담 시스템이 특정 인종·성별을 기반으로 차별적 답변을 제공하거나, 역사적 맥락을 무시한 콘텐츠를 생성할 경우 브랜드 이미지에 치명적 타격을 입힐 수 있다는 것이다.

손선우기자 sunwoo@yeongnam.com

손선우

기사 전체보기

영남일보(www.yeongnam.com), 무단전재 및 수집, 재배포금지