AI 붐은 일부 기업들을 엄청나게 가치 있게 만들었다. OpenAI와 Anthropic은 이제 세계에서 가장 가치 있는 두 민간 기업이다. Google, Microsoft, Nvidia는 그 어느 때보다 커졌다. 하지만 가장 큰 수혜자 중 하나는 노란 트럭과 크레인을 공급하는 Caterpillar였다. Caterpillar의 주가는 지난 1년 동안 두 배 이상 올라 회사 가치가 Nike의 6배가 되었다. 이러한 상승은 이 회사가 유명한 건설 차량(실물과 장난감 모두)과 거의 관련이 없다. 대신 Caterpillar의 성공은 전국 데이터센터 건설에 동력을 공급하는 거대한 가스 엔진에서 비롯된다.

모델 성능 향상에 많은 관심이 쏠리고 있지만, AI의 가장 중요한 투입물은 비트가 아니라 원자와 전자다. 모델을 훈련하고 실행하기 위해 AI 산업은 건설이 필요하다. 데이터센터는 엄청나게 복잡한 기술 및 산업 운영이다. 기술 기업들은 발전소를 세우고, 폐수 처리 시설을 건설하며, 각종 전기 장비, 송전선, 첨단 냉각 장비를 설치해야 한다. 이를 위해서는 콘크리트, 철강, 실리콘, 유리, 구리, 액화천연가스가 필요하다.

이러한 데이터센터 건설은 오랫동안 광란의 수준이었지만, 이제는 경외심과 우려를 동시에 불러일으키는 변곡점에 빠르게 다가가고 있다. 주요 플레이어인 Amazon, Google, Microsoft, Meta, Oracle은 연말까지 데이터센터에 운영 수익보다 더 많은 돈을 쓸 예정이다. 이는 챗봇이 아닌 사업에서 매년 수백억 달러를 벌어들이는 기술 거물들이 AI 야망을 위해 부채를 질 가능성이 있음을 의미한다. 2022년 말 ChatGPT 출시부터 작년 말까지 이들 기업의 자본 지출(대부분 데이터센터에 사용됨)은 5천억 달러를 훨씬 넘었다. 이들 기업은 2026년에만 비슷한 금액을 지출할 계획이다. 그리고 J.P. Morgan의 최근 보고서에 따르면, 내년에는 AI 투자가 1조 1천억 달러를 초과할 가능성이 높다.

실리콘밸리는 오랫동안 간단한 이점을 누려왔다. 제품과 서비스는 상대적으로 적은 비용으로 만들 수 있지만 막대한 수익을 창출한다. 그러나 데이터센터 운영은 여러 면에서 스마트폰 앱보다는 제철소 운영에 더 가깝다. 특히 데이터센터는 엄청난 양의 전기를 필요로 하며, AI 모델이 더 강력해짐에 따라 그 필요성은 더욱 커지고 있다. 5년 전에는 표준 데이터센터가 10~50메가와트의 전력을 필요로 했으며, 이는 수만 가구에 충분한 양이었다. 1년 전에는 1~2기가와트의 전력을 요구하는 데이터센터가 거대한 것으로 간주되었다. 이번 주 Meta는 주력 AI 데이터센터의 규모를 두 배 이상 늘릴 것이라고 발표했으며, 이로 인해 최대 전력 수요가 5기가와트로 증가할 것이다. 유타주에 제안된 데이터센터는 완공되면 9기가와트의 전력을 필요로 할 것이다. 이는 몇 개의 대형 창고를 통해 흐르는 여러 대도시의 에너지 양이며, 모두 봇 전용이다.

전력망은 일반적으로 이러한 거대 프로젝트에 충분한 에너지를 공급하지 못하기 때문에, 데이터센터를 가동하는 가장 빠른 방법은 자체 발전소를 건설하는 것이다. 여기서 Caterpillar가 등장한다. 이 회사는 전력 장비에 대한 막대한 백로그 주문을 보유하고 있으며, 세계의 모든 주요 천연가스 터빈 제조업체도 마찬가지다. 5월에 Elon Musk는 연소 터빈을 보유한 에너지 회사를 인수하는 데 최소 10억 달러를 지출한 것으로 알려졌으며, 이는 아마도 그의 AI 모델 Grok에 전력을 공급하기 위한 것이다.

전력은 문제의 일부일 뿐이다. 데이터센터는 수십 개의 최첨단 AI 칩을 냉장고 크기의 랙에 배선하고, 그런 다음 건물 내에 수천 개의 랙을 연결해야 한다. 이 칩들은 화씨 200도까지 뜨거워지며, 일반적으로 물과 산업용 팬의 조합으로 냉각된다. 랙 중 하나에 너무 가까이 가면 땀을 흘릴 수도 있다.

OpenAI가 자처하는 "지능을 시간이 지남에 따라 더 저렴하고, 더 좋고, 더 풍부하게 만드는" 목표는 실제로 데이터센터를 효율적으로 전력 공급하고 냉각하는 것으로 귀결된다.