"AI 필수재 GPU, 마약보다 구하기 어려워"..내년까지 부족 전망

구글 최고경영자인 순다르 피차이는 인공지능(AI) 혁명을 인간이 불을 사용하는 것에 비유했지만, 혁명의 불쏘시개 역할을 하는 GPU(그래픽처리장치)는 내년까지 구하기 어려울 전망이다.

29일(현지시각) 월스트리트저널(WSJ)에 따르면, 전 세계 AI 업계가 AI 성능에 영향을 미치는 GPU가 부족해지자 제공하는 컴퓨팅 성능을 낮추거나 다른 해결책을 찾기 위해 분주하다. 최근 챗GPT의 대성공으로 GPU 수요가 급증하면서 공급을 훨씬 앞지르고 있는 상황.

이런 상황에 오픈AI는 자사의 유료서비스인 챗GPT-4 이용횟수를 3시간당 질문 25개까지 제한했다. AI 업계는 더 복잡해지고 커가는 모델을 개발하고 운영하기 위해 GPU를 탑재한 더 많은 서버가 필요하다고 말한다.

오픈AI의 샘 알트먼 최고경영자는 지난 16일 AI 관련 미 의회 청문회에서 "프로세서(GPU) 병목현상 때문에 챗GPT를 사용하는 사람이 다소 줄어들면 좋겠다"고 말했다.

일론 머스크는 지난 23일 WSJ CEO 카운슬 서밋에서 "현시점에서 (AI에 필수인) GPU는 마약보다 구하기가 훨씬 더 어렵다"고 강조했다.

GPU는 행렬 연산에 특화돼 있는데, AI 모델은 많은 양의 행렬 연산이 필요하다. 예를 들어 인공지능망 각 층에는 가중치 수백만 개가 입력 수천 개와 곱해져 다른 층으로 전달되면서 전체 모델을 키우는데 이때 필요한 계산이 기본적으로 행렬 연산이다. 특히 엔비디아의 GPU는 이런 연산에 매우 뛰어나 전 세계 GPU 공급의 90%를 차지하고 있다.

UBS 분석가들은 과거 버전의 챗GPT가 약 1만개의 GPU가 필요했을 것으로 추정한다. 머스크는 최근 버전의 챗GPT는 이보다 3~5배 많은 GPU가 쓰였을 것이라고 예상한다고 밝혔다.

엔비디아는 최근 증가하는 수요를 맞추기 위해 공급을 확대하고 있다고 밝혔다.

엔비디아의 젠슨 황 최고경영자는 지난 29일 대만 타이베이에서 열린 정보기술(IT) 박람회 '컴퓨텍스 2023'의 개막 전 기조연설자로 나서 "엔비디아가 새로운 차세대 AI용 플래그십 칩인 H100의 생산량을 늘렸다"며 "말 그대로 전 세계 곳곳에서 수요가 쏟아지고 있다"고 소개했다.

인공지능 업계는 GPU가 부족해지자 대응책을 마련 중이다. 일부 업체는 컴퓨팅 성능을 확보하기 위해 외부 제공 용량을 제한하고 있다. AI 스타트업들은 업계 전체가 쓸 수 있는 GPU와 서버 용량을 대량으로 주문하고 있다. 또 AI모델을 축소해 효율성을 높이고 상대적으로 인기가 적은 클라우드 제공업체에서 자원을 공급받고 있다.

많은 AI업계는 적어도 내년까지는 GPU 공급과 서버 용량이 부족할 거로 예상한다.

AI기반 대화형 검색도구를 개발하는 펄플렉서티의 아라빈드 스리니바스 최고경영자는 "돈을 먼저 냈다고 해서 내일이나 다음 주에 GPU를 제공받을 수 있는 게 아니다"며 "그저 기다리는 수밖에는 상황"이라고 말했다.