AI 뉴스가 전기, 반도체, 데이터센터로 흩어지는 이유가 뭔가요?

주식에 조금이라도 관심 있는 분들은 AI 생태계를 이미 잘 이해하고 계실 것 같습니다. AI 투자가 주가를 견인하고 있다고 하는데, 어제는 '엔비디아,' 오늘은 '하이닉스,' 또 어떤 날은 '삼성전기.' 주도적인 변화를 이끄는 산업군이 뭔가 바뀌는 느낌이 들었다면, 당신의 생각이 맞습니다!

한동안 저는 AI 기사를 반쯤만 읽었습니다.

새 모델 나왔다더라, 뭐가 더 똑똑하다더라 하는 건 나름 열심히 챙겨 봤는데, 전력이 모자란다거나 어디에 데이터센터가 들어선다는 기사는 아무래도 좀 와닿지 않았습니다.(IT만 12년…) 다 'AI 뉴스'라고 묶여 있긴 한데 그냥 그런가 보다 하고 있었거든요. 근데 엔비디아 CEO 젠슨 황이 이걸 그림 하나로 정리한 게 있는데, AI는 다섯 층으로 쌓인 케이크라는 겁니다.

'AI 5단 케이크'는 정확히 뭔가요?

아래에서 위로 다섯 층입니다.

층이름쉽게 말하면5층애플리케이션우리가 실제로 쓰는 서비스4층모델흔히 'AI'라고 부르는 학습된 지능3층인프라데이터센터, 냉각, 전력 설비2층칩전기를 계산으로 바꾸는 반도체1층에너지발전소에서 오는 전기

'AI 5단 케이크'는 2026년 1월 다보스 세계경제포럼에서 블랙록 CEO 래리 핑크와 대담하다 처음 꺼낸 얘기입니다. 3월 10일에는 아예 「AI Is a 5-Layer Cake」라는 글을 엔비디아 블로그에 직접 써서 정리했고요. 요지는 AI가 똑똑한 앱 하나가 아니라 전기나 인터넷처럼 사회 밑에 깔리는 인프라라는 겁니다.

그 글에서 제일 중요한 문장은 아마 이걸 거예요. 성공한 애플리케이션은 하나같이 "그 아래 모든 층을 끌어당긴다"고 썼거든요. 그걸 살아 있게 하는 발전소까지 내려가면서요.

우리가 챗봇에 질문 하나 던지는 그 순간에 다섯 층이 전부 움직입니다. 5층에서 시작한 요청이 4층 모델을 거쳐 3층 데이터센터로 내려가고, 2층 칩을 돌리고, 1층 발전소에서 전기를 끌어옵니다. 그래서 AI 얘기는 하다 보면 어김없이 발전소까지 내려가는 거고요.

왜 하필 맨 아래가 전기인가요?

AI가 답을 그 자리에서 만들어내니까요.

예전 소프트웨어는 사람이 미리 짜둔 규칙을 그대로 실행했습니다. 정해진 대로만 움직였죠. 그런데 AI는 질문의 맥락을 보고 답을 그 순간에 새로 만듭니다. 미리 저장해둔 걸 꺼내오는 게 아니라요. 지능을 실시간으로 만들면 전기도 실시간으로 들어갑니다.

그래서 아무리 좋은 모델을 만들고 아무리 좋은 칩을 깔아도, 1층에서 끌어올 수 있는 전기가 얼마냐에 따라 위층이 갈 수 있는 데까지가 정해져요. 국제에너지기구(IEA)는 전 세계 데이터센터 전력 소비가 2024년 약 415TWh에서 2030년엔 약 945TWh까지 갈 걸로 봤습니다. 945TWh라고 하면 저는 전혀 감이 안 왔는데, 일본이 1년 동안 쓰는 전기보다 조금 많은 양이라고 하더라고요.

왜 이 구조를 지금 더 잘 알아야 하나요?

원래 인프라는 잘 돌아갈 때 안 보입니다. 인프라 연구의 고전으로 꼽히는 수전 리 스타의 1999년 논문에 이런 얘기가 나와요. 인프라는 고장 났을 때 비로소 보인다고. 서버가 다운되거나 다리가 무너지거나 정전이 나야, 그제야 사람들이 자기 밑에 뭐가 깔려 있었는지 알게 된다는 거죠.

스위치 누르면 불 켜지는 걸 당연하게 여기잖아요. 그 뒤에 발전소가 있고 송전탑이 있고 변전소가 있다는 건 평소에 아무도 생각 안 하고요. 그러다 정전 한 번 나면 그게 한꺼번에 드러납니다.

AI가 지금 딱 그 단계에 들어선 거예요. 몇 년 전까지만 해도 AI는 화면 안에 있는 똑똑한 서비스였는데, 쓰는 사람이 늘고 규모가 커지니까 밑에 깔려 있던 층들이 하나씩 밖으로 튀어나오고 있는 겁니다. 특히 API로 모델을 당겨와서 Agent로 서비스, 제공하는 기업들이 주를 이루기 시작하면 대화 한번에 아래층 까지 다녀오는 일이 더 빈번해질거고, 부실한 아래층을 다져야 한다는 필요성과 그 수요가 더 커지겠죠.

왜 하필 '케이크'?

이건 젠슨 황이 말한 건 아니고, 제 생각이긴 한데요.

케이크에서 사람들이 보는 건 맨 윗층이잖아요. 윗면을 보면서 케이크를 선택하고, 집에 조심히 가져와서 장식 올리고 초 꽂고 사진 찍고요. 아래층은 아무도 안 봅니다. 근데 위층이 화려해 보여도, 그건 아래에서 부터 쌓아올려서 위에 크림까지 올린거고 아래층을 야금야금 파먹기 시작하면, 위가 우르르 쏟아지죠.

AI도 지금 그렇습니다. 우리가 항상 시끌시끌 이야기 하는건 맨 윗층입니다. 새로 나온 서비스, 더 똑똑해진 모델. 그런데 그게 어디까지 올라갈 수 있는지는 아무도 안 읽는 1층이 정하고 있었던 거고요. 젠슨 황이 에너지를 두고 "제약 조건"이라고 한 게 그 얘기였습니다.

새 서비스 나왔다는 기사를 보면 아 이건 5층이구나 싶고, 모델 성능 비교는 4층이고, 데이터센터 들어선다는 뉴스는 3층이구나 하고요. 반도체 수출 규제는 2층, 전력 확보 논의는 1층이었습니다. 예전엔 따로 노는 기사들 같았는데 이제는 한 덩어리로 보이더라고요. 그리고 제가 그동안 그냥 넘겨버렸던 1층 기사들이, 사실은 나머지 전부의 높이를 정하고 있었고요.

한국에도 자주오는 젠슨 황. 여러 기업의 CEO들과 자리를 만들면서 '생태계'를 만들기 위한 활동을 매우 적극적으로 하고 있는데요. 치킨 집에서 치맥을 먹으면서 만들고 싶었던 생태계는 몇 층이었을까요?

‍

‍

Q. 왜 GPU가 아니라 전기가 1층인가요?

GPU도 결국 전기를 계산으로 바꾸는 장치라서요. 아무리 좋은 칩이 있어도 돌릴 전기가 없으면 멈춥니다.

Q. 다섯 층 중 어디가 제일 중요한가요?

젠슨 황 본인은 경제적 가치가 실제로 만들어지는 곳이 맨 위 애플리케이션 층이라고 말합니다. 아래 네 층은 그 가치를 위한 토대라는 구도예요.

Q. 층 이름이 자료마다 조금씩 다른 것 같은데?

맞습니다. 다보스에서는 2층을 "칩과 컴퓨팅 인프라", 3층을 "클라우드 데이터센터"로 나눴고, 3월 기고문에서는 "칩"과 "인프라"로 단순화했습니다. 골격은 같습니다.