박재열 경북대 명예교수·시인
데이터센터는 무얼 하는 곳이기에 주민들의 불편과 희생에도 불구하고 짓고 있을까? AI에 데이터센터는 왜 필요할까? AI의 성능은 데이터센터의 상상을 초월하는 횟수의 수학적 연산에서 나온다. 그래서 데이터센터는 차라리 '연산센터'라고 불러야 할 것이다.
2018년 오픈AI는 자사 GPT 시리즈의 첫 모델 GPT-1을 출시했다. 이 모델을 훈련시키는 데에 덧셈과 곱셈 연산 1천800경 회가 필요했다. '1천800경'이란 18 뒤에 0을 18개 붙인 숫자다. 이 모델에 '추수감사절에 터키를 요리하는 법은…' 하고 프롬프트를 줬더니 내놓는 반응이 한마디로 횡설수설이었다. 이듬해에 이 회사는 GPT-2를 출시했는데 이것의 훈련에는 이전 모델보다 300배 많은 연산이 투입됐다. 이것은 제법 그 요리법을 이야기하나 의미가 안 통하는 곳이 있고 또 오류가 있었다.
2022년 공개되어 전 세계를 놀라게 한 챗GPT는 GPT-1보다 14만 배 많은 연산이 투입된 GPT-3.5 모델을 기반으로 했다. 대체로 자세하고 결점 없이 요리법을 설명해 냈다. 2023년의 GPT-4의 훈련에는 GPT-1보다 다시 100만 배 이상의 연산을 넣었다. 2026년의 GPT-6 아스트라는 GPT-1보다 5천만 배 이상 많은, 거의 1옥틸리언(10의 27승) 회의 연산 훈련을 시켰다. 1옥틸리언은 온 우주에 존재하는 별의 개수의 천 배가 넘는 숫자다. '천문학적'이라는 표현도 무색하다. 만약 아이폰이 이 계산을 혼자 마치려면 1천3백만 년이 걸릴 것이다. 이처럼 AI 분야에는 컴퓨팅 연산량, 데이터 크기, 모델의 매개변수 크기를 늘릴수록 AI의 성능이 향상되는데 이것을 '규모의 법칙'이라고 부른다.
영남일보(www.yeongnam.com), 무단전재 및 수집, 재배포금지