덩치 커진 AI, GPU 부족 몸살
페이지 정보
본문
덩치 커진 AI, GPU 부족 몸살
게티이미지뱅크.
| 국내외 인공지능(AI) 기업이 데이터 센터 구축, AI 학습 등에 필요한 그래픽 처리 장치(GPU) 부족 현상에 시달린다. 24일(현지시간) 월스트리트저널(WSJ) 보도에 따르면 AI 시스템을 만들기 위한 GPU 수요는 오픈AI '챗GPT'가 등장한 2022년 말부터 급증했다. 전문가들은 챗GPT 버전을 훈련하는 데 1만개 이상의 엔비디아 GPU가 사용됐다고 추정한다. 최신 업데이트에는 더 많은 GPU가 필요할 것으로 예상된다. 챗GPT와 같은 AI 서비스를 지원하는 데이터 센터 역시 GPU 수급 문제에 직면했다. 아마존웹서비스(AWS), 마이크로소프트(MS), 구글 모회사인 알파벳 등 글로벌 빅테크 기업은 최근 AI용 데이터 센터 구축에 조 단위를 투자 중이다. 구글은 지난 1월 영국 런던 외곽에 데이터센터를 건설하는데 10억달러(약 1조3800억원)를 투자했다. MS와 오픈AI는 오는 2028년까지 1000억달러(약 138조원)를 투입, 슈퍼컴퓨터를 포함한 초대형 데이터센터를 구축하는 '스타게이트' 프로젝트를 추진한다. AWS도 향후 15년간 데이터센터 건설에 1500억달러(약 207조원)를 투자할 예정이다. 그러나 이들 기업은 데이터 센터에서 AI 계산을 하기 위한 엔비디아 GPU 공급 부족으로 골머리를 앓는다. WSJ에 따르면 엔비디아가 GPU를 생산하는 데 걸리는 시간(리드타임)이 몇 개월로 늘어나면서 GPU 공급이 수요를 따라가지 못하기 때문이다. 국내 AI 스타트업도 자금 부족과 으로 GPU 확보에 어려움을 겪는다. 정부가 AI 스타트업을 대상으로 AI 학습을 위한 GPU 지원 사업을 진행하지만 역부족이다. 과학기술정보통신부는 '고성능 컴퓨팅 지원' 사업을 통해 AI 스타트업 등을 대상으로 GPU 등을 지원하고 있다. AI 스타트업이 예전보다 급증하면서 GPU 수요는 늘었다. 그럼에도 올해 사업 예산은 122억원으로 지난해(145억원)보다 오히려 줄어든 상황이다. AI 스타트업 관계자는 “GPU 지원을 받기위해 기다리는 기업 수가 늘어나면서 1년 내내 지원을 못받는 경우가 발생할 수도 있는 상황”이라며 “AI 개발에 GPU가 필수인만큼 한정된 자본을 효율적으로 배분하기 위해 우선순위를 정해 선택적 지원을 하는 것도 하나의 방법이 될 수 있다”고 말했다. |
- 이전글“초거대 생성형 AI, 기후위기 돌파할 게임체인저 된다” 24.04.30
- 다음글AI 안전성 확보하려면…대시민 교육 확대 필요 24.04.29
댓글목록
등록된 댓글이 없습니다.