The Stargate Project - Datacenter for AI
트럼프 대통령이 취임 후 하루 뒤인 어제 백악관에서 오라클의 래리 엘리슨, 오픈AI의 샘 알트만, 소프트뱅크의 마사요시 손과 함께 스타게이트 프로젝트를 발표했습니다.
Stargate 회사를 합작으로 설립한 후 향후 수년간 5000억 달러 ($500b)를 투자해서 미국 내에 AI를 위한 데이터센터를 구축하겠다는 야심찬 계획인데요. 당장 지금 1000억 달러, 140조원을 투자하겠다고 하네요.
처음 목표는 데이터센터 구축 후 미국인의 의료기록을 가지고 암에 대한 백신을 만든다고 합니다. 개인 맞춤형 mRNA 백신을 만들어서 효과적으로 암세포를 없애겠다는 건데요. 이런 목표는 차치하고, 제가 관심이 가는 부분은 세 회사가 모여서 데이터센터를 만드는 것입니다.
오라클은 이미 데이터센터 구축 경험이 있으니, 아마 오라클이 주도적으로 데이터센터 설계를 할 것 같고요. 소프트뱅크는 아마 돈줄이지 않을까 싶습니다. (소프트뱅크에 그만큼의 돈이 있는지는 의문입니다.) OpenAI는 소프트웨어 프레임웍과 AI를 위한 가속기 개발에 관여할 것 같네요.
오픈AI에서 저희 팀 디렉터를 데려가서 칩 디자인 하드웨어 부서를 만든 게 1년 전이었던 것 같네요. 그 이후로 저희 팀의 수많은 인재가 OpenAI로 이직을 했습니다. 현재 진행형이기도 하고요. 작년에 꽤 많은 설계 엔지니어, 검증 엔지니어가 이직을 해서, 이제 실제로 디자인이 이뤄지고 있다는 생각이 듭니다.
잘 하는 동료들이 갔으니, 칩은 잘 나오긴 할거라고 봅니다.
얼마전까지만 해도 왜 OpenAI가 칩 디자인을 하는지 의문이었습니다. ML 칩을 만들어도 OpenAI가 쓰려면 결국 마이크로소프트에 칩을 팔아서 그 데이터센터를 써야했었는데, 별로 당위성이 보이질 않았죠. 엔비디아 칩을 구하기 어려우니 자체 칩을 제작하려는 의도는 이해가 가지만, OpenAI에게는 아무런 데이터센터도 없거든요. 모든 플랫폼을 마이크로소프트 애저(Azure)에 의지하고 있는 상황인데, 칩만 만든다고 할 수 있는게 없을 것 같았습니다.
칩을 제작하니, 그 칩을 쓸 곳이 필요한 데, 마이크로소프트에 팔아서 서버(Pod)를 만들고 사용하는 것은 뭔가 마이크로소프트에만 이득인 상황이라 이해가 가질 않았습니다. 그렇다고 OpenAI가 데이터센터를 구축한다고 쉽게 할 수 있는 것도 아니죠. 데이터센터를 구축하는 데에 서버만 필요한 게 아니고, 기반 인프라, 네트워크 기술, 전력 기술 등 많은 부분이 필요한 데, 이런 부분은 준비가 하나도 되어있지 않았죠.
그런데 이번 스타게이트 프로젝트 발표를 보고 나니, 왜 자체 칩을 개발하는 지 이해가 가네요. 스타게이트를 통해서 오라클은 데이터센터 기술을 지원하고, OpenAI는 처음에는 소프트웨어, ML 모델을 지원하다가 칩이 잘 동작하면 결국은 엔비디아 칩은 줄여가고 OpenAI 칩을 쓰게 할 것 같습니다.
쉽지 않은 일입니다. 일단 5천억 달러라는 큰 돈을 투자하고 그 이득을 얻을 때 까지 정말 많은 시간이 필요할 텐데요. 일단 네트웍을 설치하는 것 부터 큰 문제죠. 큰 테크회사는 자체 전세계 광케이블을 가지고 있는 데 지금 당장 스타게이트가 해저 케이블을 설치한다 해도 그 시간은 무척 많이 소요될 테고, 미국내에서만 연결한다고 해도 결국은 다른 큰 회사의 네트웍에 당분간은 얹혀 살아야겠죠.
고객을 확보하는 것도 문제입니다. OpenAI가 200달러 프로모델을 내놓으면서 손해를 보고 있다고 샘 알트먼이 언급한 적이 있는 데, 그만큼 ML로 돈을 버는 회사가 거의 없습니다. 들리는 소문으로는 AI로 돈버는 회사는 엔비디아와 구글밖에 없다는 말이 돌 정도로 AI 운용비용이 엄청납니다. 수익이 나려면 요금이 낮을 수가 없는데, OpenAI의 ChatGPT가 타 회사 모델에 비해서 월등한 장점이 많이 사라진 지금, 새로운 투자금액을 상쇄할 만큼 수익을 낼 수 있을 지 의문입니다.
그럼에도 불구하고, 이번 스타게이트 프로젝트가 잘 되었으면 하는 바람입니다. 그래야 이직할 곳도 더 생기고, 엔지니어 수요도 늘고, 결국엔 저에게도 이득이 될테니까요.