[광장에서] 불붙은 인공지능 규제 경쟁

이성엽 (고려대 기술경영전문대학원 교수·기술법정책센터장)

챗GPT가 등장한 지 약 1년이 지나는 시점에서 AI의 성능은 인간의 능력을 뛰어넘을 것으로 전망되고 가짜 영상 등으로 인한 폐해가 곳곳에 나타나면서 AI에 대한 규제 논의가 활발해지고 있다. 크게 보면 최근 다음 3가지 이벤트가 주목을 끌고 있다.

먼저 지난 10월 캐나다, 프랑스, 독일, 이탈리아, 일본, 영국, 미국으로 구성된 주요 7개국(G7)과 유럽연합(EU)이 AI 기술의 위험과 잠재적 오용 가능성을 완화하기 위해 기업에 대한 국제 행동 강령 마련에 합의했다. 11개 항목으로 구성된 이 강령은 기업이 AI 수명 주기 전반에 걸쳐 위험을 식별, 평가 및 완화하기 위한 적절한 조치를 취하고 AI 제품이 시장에 출시된 후 사고 및 오용 패턴을 해결할 것을 촉구하는 내용을 담고 있다.

뒤이어 지난 10월30일 조 바이든 미국 대통령이 안전하고 신뢰할 수 있는 AI 개발과 사용에 관한 행정명령(Executive Order on Safe, Secure and Trustworthy Artificial Intelligence)에 서명했다. 해당 행정명령은 크게 3가지 중요한 내용을 포함하고 있다. 첫째, 미국의 안보, 경제, 공중 보건 또는 안전에 위험을 초래하는 강력한 AI 시스템 개발자는 국방물자생산법(Defense Production Act)에 따라 안전 테스트 결과를 대중에게 공개하기 전에 미국 정부와 공유한다. 둘째, 국립표준기술원(NIST)은 AI 공개 전 안전을 보장하기 위해 광범위한 레드팀 테스트에 대한 엄격한 표준을 설정, 화학과 생물학, 방사선, 핵 및 사이버 보안 위험을 해결한다. 셋째, 상무부는 AI 생성 콘텐츠를 명확하게 가려내기 위한 콘텐츠 인증 및 워터마킹 지침을 개발한다는 내용을 담고 있다. 이번 행정명령은 상당히 광범위한 규제 내용을 담고 있다는 점에서 의미가 있으나, 법률에 비해 효력이 제한적이며, 상당한 조항이 기업의 자발적 협력을 전제로 하고 있다는 점에서 혁신과 경쟁을 중시하는 미국의 기본 입장에는 변화가 없다고 평가할 수 있다.

바이든 행정명령 하루 뒤 영국 블레츨리 공원(Bletchley Park)에서는 세계 주요국 정상급 인사와 빅테크 경영자 및 학계 전문가들이 참가한 가운데 'AI 안전 정상회의(AI Safety summit)'가 열렸다. AI의 급속한 발전으로 인해 발생할 수 있는 재앙적 위험에 대한 이해와 함께 대응책을 세워 국제사회가 협력한다는 취지의 '블레츨리 선언'이 공개됐는데, 이는 AI 안전과 관련한 국제사회의 첫 협력 선언으로 미국, 중국, 한국 등 28개국과 EU가 동참했다. 공공의 안전에 심각한 위험을 초래할 만큼 위험한 능력을 보유한 파운데이션 모델인 프런티어(frontier) AI에 대한 대응도 논의가 되었다.

영국 정부는 세계 최초로 열리는 AI 안전 정상회의를 유치하는 한편, 미국은 AI 안전 정상회의 하루 전 행정명령을 발표하고, EU는 이미 2년 전 AI법 초안을 발표했고, 중국은 생성형 AI 규제법을 시행하는 등 AI 규제 주도권을 확보하기 위한 각국의 경쟁이 뜨겁다.

규제는 본질적으로 산업혁신의 한계를 설정한다는 점에서 선발기업이나 국가가 높은 수준의 규제를 설정하는 경우 후발기업이나 국가에는 진입장벽이 될 가능성이 높다. AI로 인해 발생하는 많은 위험은 본질적으로 국제적인 성격을 띠고 있으므로 이는 국제 협력이 필요한 것은 맞지만, 국가 간 격차를 인정하고 각 국가의 상황에 적용가능한 규제체계를 가질 수 있도록 하는 것도 중요하다고 할 것이다.

이성엽 (고려대 기술경영전문대학원 교수·기술법정책센터장)