[에너지 효율높은 AI 만들기] [오픈AI '스타 게이트', 원전 6기 전력.. ]

[에너지 효율 높은 AI 만들기]

[오픈AI '스타 게이트', 원전 6기 전력 빨아들인다]

 

 

 

에너지 효율 높은 AI 만들기

현재의 AI는 ‘전기 먹는 하마’… 발생 열 냉각에만 전력 50% 소모
데이터센터 냉각시장 규모 17조
뇌처럼 효율 높은 AI 개발 땐… 노동서 해방되는 신세계 올 수도 

 

《어릴 적 아주 좋아했던 만화영화 중에 ‘젯슨 가족(The Jetsons)’이 있다. 이 만화에는 미래를 꿈꾸게 하는 많은 요소가 있었다. 조지 젯슨이 아침에 눈을 뜨면 자동으로 기계가 양치질을 해주고, 에스컬레이터 같은 레일을 타고 문밖으로 나서면 서류가방에서 하늘을 나는 자동차가 나와서 그걸 타고 출근한다. 그리고 집에 돌아오면 로지라는 이름의 가정용 로봇이 음식을 만들어주고 집안일도 모두 해준다.》

 

아쉽게도 우리는 아직 그런 세상에 살고 있지는 않다. 하지만 아직 안 되었다고 해서 앞으로도 안 된다는 것은 아닐 것이다. 현재 많이 회자되는 기술 중에는 그 만화 속에 그려진 내용과 밀접한 기술이 많다. 인공지능(AI), 로봇, 새로운 모빌리티 기술들이 대표적인 예다. 인간이 필요한 것들을 파악해서 일을 처리하기 위해서는 인공지능이 필수적이고, 인공지능이 일을 처리하기 위해서는 로봇이 있어야 한다. 서류가방에서 나오는 하늘을 나는 자동차는 새로운 모빌리티의 최종 목표가 될 수 있지 않을까 한다.

그런데 우리는 기술의 발전에 기대와 함께 불안을 갖고 있다. 우선, 인공지능이 우리의 직업을 앗아가지 않을까 하는 불안감이다. 또한 인공지능이 과연 우리의 삶을 더 풍요롭게 할지, 아니면 우리를 지배하는 기술이 될지에 대한 불안도 있다. 이는 모든 기술 발전의 역사 속에 있어 왔던 인류의 고민이다. 산업혁명은 모두 기술의 발전으로 이루어졌고, 매번 인간의 역할에 대한 고민을 동반했다. 첫 산업혁명은 증기기관의 발명으로 이루어졌으며, 기계 동력을 사용해서 인간의 노동력을 대체하는 공업화를 이루었다. 2차 산업혁명은 전기 에너지 기반의 대량 생산으로 이루어졌다. 3차 산업혁명은 컴퓨터와 인터넷 기반의 지식 정보 혁명이었다. 현재 진행 중인 4차 산업혁명은 인공지능 기반의 혁명이다. 산업혁명은 우리 사회의 생산성을 증가시키는 방법을 기술에서 찾았고, 생산 과정에서 인간의 역할이 달라졌다. 그런데 인공지능은 인간만이 할 수 있었던 지적 노동의 영역을 처음으로 기술이 차지하게 되는 것이라 불안은 더욱 크다.

 

하지만 산업혁명은 인간이 힘든 노동으로 해야만 했던 일들을 기계가 대신함으로써 생산성에 큰 향상을 가져왔고, 우리는 예전에 비해 물질적으로 큰 풍요를 이루었다. 가로등을 켜고 끄는 사람이 필요하던 시대에는 가로등을 켜고 끄는 직업이 있었다는 장점이 있지만, 사람이 해야 한다는 제약으로 인해 인적이 드문 곳과 같은 장소에는 설치하기 어렵고, 비용도 비싸서 많은 사람이 가로등의 편의를 누리기 어렵다는 단점이 있었다. 하지만 센서로 어두움을 판별해 가로등 스스로 켜고 끌 수 있게 되면서 어느 곳에나 설치가 가능해졌고, 사람이 위험한 일을 할 필요도 없어졌으며, 에너지도 절약할 수 있게 됐다.

기술은 그 자체로 좋거나 나쁘다기보다 우리가 어떻게 사용하는지에 따라서 우리에게 이로울 수도 있고 해로울 수도 있다. 인공지능이 인간의 삶을 풍요롭게 하기 위해서는 어떤 조건을 갖춰야 할까? 인공지능 기술과 시장은 최근 급격히 성장하고 있지만 현재의 인공지능은 낮은 에너지 효율로 인해 천문학적인 에너지를 소모하고 있다. 이로 인해 발생하는 열을 식히는 데만 전체 사용 전력의 50%를 사용한다. 데이터센터 냉각 시장만 2023년 17조 원에서 2030년 41조 원으로 성장할 거라 예측될 정도다. 인공지능 모델의 경우 개발 및 사용에 시간당 GW(기가와트)급 에너지를 소모한다. 에너지는 유한한 자원이다. 그 에너지가 모두 인공지능에 사용되면 인간과 기계가 에너지를 놓고 경쟁하는 구도가 된다. 에너지 절약을 위해 에어컨을 틀지 않으면서, 데이터센터의 쿨링을 위해 엄청난 에너지를 사용하는 것이 그 예다. 에너지 효율이 낮은 인공지능은 또한 너무 큰 비용이 들기 때문에 많은 사람에게 보급되기 어렵고, 인류의 삶을 풍요롭게 하기 어렵다. 따라서 인공지능이 인간을 위한 기술로 발전하기 위해서는 에너지 고효율화가 가장 중요한 조건이라고 생각한다.

그렇다면 에너지 효율이 높은 인공지능은 어떻게 만들 수 있을까? 그 답은 생각보다 가까운 곳에 있다. 인간은 세끼 밥만 먹고 20W 정도의 작은 에너지를 소비하면서도 현재 각광받고 있는 아주 훌륭한 인공지능 모델보다 훨씬 더 많은 일을 해낸다. 뇌는 에너지 효율이 높다는 것을 쉽게 알 수 있다. 따라서 뇌를 이해하는 것은 인공지능을 다음 단계로 도약시켜 인류를 풍요롭게 하는 가장 큰 열쇠가 될 것으로 생각한다.

1차 산업혁명은 인간을 근육노동으로부터 자유롭게 했고, 2차 산업혁명은 가전들을 통해 우리를 가사 노동에서 자유롭게 했으며, 3차 산업혁명은 지식 정보의 자유를 가져왔다. 인간의 뇌처럼 높은 에너지 효율을 갖는 새로운 인공지능 설계는 많은 사람이, 젯슨 아저씨처럼 일상의 노동에서 자유롭게 해방돼 지성이 하고 싶은 일을 더 자유롭게 할 수 있게 할 것이다. 인공지능은 인간이 더 인간다워지도록 하는 기술이 될 것이다.

 

-이진형 미국 스탠퍼드대 생명공학과 교수, 동아일보(24-09-11)-

______________

 

 

오픈AI '스타 게이트', 원전 6기 전력 빨아들인다

 

[김정호의 AI시대 전략]

반도체보다 훨씬 빠른… 2년에 10배 커지는 'AI 무어의 법칙' 탄생
수없는 0과 1의 행렬 계산 반복하는 AI 반도체, 엄청난 전력 사용
원전 더 지어 전력 공급 늘리고, 저전력 AI 반도체 개발 서둘러야

 

1447년에 발간된 악장이자 서사시인 ‘용비어천가’는 이렇게 노래한다. “뿌리가 깊은 나무는 바람에 움직이지 아니하므로 꽃이 좋고 열매가 많으니! 샘이 깊은 물은 가뭄에 그치지 아니하므로 내가 이루어져 바다에 가나니!” 이 문장은 인공지능(AI) 시대에도 통하는 지혜를 담고 있다.

 

인간의 몸은 약 70%가 물로 이루어져 있다. 그래서 물 없이는 생명을 유지할 수 없다. 물이 바로 생명의 원천이고 지속성의 조건이다. 샘이 깊은 물은 가뭄에도 마르지 않는다. 마찬가지로 AI 반도체에도 바다와 같은 큰 전기가 필요하다. 전기가 마르지 않아야 학습과 생성을 유지할 수 있다.

 

‘무어의 법칙’은 인텔 창립자 고든 무어가 1965년에 발견한 반도체 기술 발전 속도에 관한 경험 법칙이다. 요약하면 ‘반도체에 집적되는 트랜지스터 숫자는 1~3년마다 두 배 또는 그 이상으로 증가한다’는 것이다. 이는 디지털 혁명을 가능케 한 법칙이다. 이러한 발전을 통해서 누구나 손안에 컴퓨터를 들고, 인터넷에 접속하고, 유튜브를 보는 시대가 됐다.

 

그런데 이제 AI 시대가 되면서 새로운 법칙들이 관찰되기 시작했다. 일종의 ‘AI 무어의 법칙’인 셈이다. 먼저 2년마다 대략적으로 10배씩 모델의 크기가 늘어나고 있다. 오픈AI의 챗GPT나 구글의 제미나이 같은 AI 모델이 커지는 속도가 그렇다는 얘기다. AI 모델이 멀티모달 생성 기능을 지원하면서 점점 초거대화되고 있기 때문이다. 멀티모달이란 예를 들어 글을 쓰거나 음악을 연주하거나 동영상을 생성하는 등 다양한 기능을 동시에 수행한다는 뜻이다.

 

그 결과, 조만간 모델 변수의 가짓수가 조 단위를 넘어 십여 년 내로는 100조 이상이 될 것으로 예상한다. 그러면 자동적으로 이에 필요한 반도체의 숫자와 성능도 비례해서 늘어난다. 예를 들어 HBM(고대역폭 메모리)의 대역폭도 일정 기간마다 2배씩 늘어난다.

 

마찬가지로 HBM 내의 데이터 저장 용량도 일정 기간마다 2배씩 늘어난다. 사용자도 늘어난다. 이렇게 되면 당연히 비례해서 전기 사용량이 증가한다. AI가 사용하는 전기도 일정 기간마다 2배씩 늘어날 수밖에 없다. 결국 투자 비용과 운영 비용도 함께 비례해서 늘어난다. 

 

AI가 학습하거나 정보를 생성하는 과정을 거칠 때 AI 반도체는 수많은 수학 ‘행렬 계산’을 반복한다. 행렬 계산 과정에서 디지털 2진수 숫자의 덧셈과 곱셈을 끝없이 계속한다. 이때 계산 값이 ‘1′과 ‘0′을 반복한다. ‘1′이라는 상태는 전자회로에 전자가 채워진 상태이고 ‘0′은 전자가 비워진 상태이다. 이렇게 전자의 채움과 비움이 반복된다. 이때마다 전자의 흐름인 전류를 공급해야 하고, 그 결과 전력 소모가 발생한다.

 

이런 전력 소모는 생성 속도, 모델 크기, AI 반도체 수, 그리고 사용자 수에 비례한다. 이는 ‘AI 무어의 법칙’에 따라 계속 증가할 것이다. 결과적으로 이러한 전자를 공급할 거의 무한대 용량의 ‘전자 샘물’이 필요하다. 이렇게 AI는 바다 같은 크기의 전자 저수지가 필요하다. 그 물리적 장치가 바로 발전소이고, 이를 연결하는 시설이 송전선이다. AI가 발전하면서 발전소와 송전선 인프라가 늘어날 수밖에 없는 필연적인 이유다.

 

인간의 뇌는 AI와 비교해 전력 소모 면에서 훨씬 효율적이다. AI가 유일하게 인간에게 뒤지는 조건이 바로 전력 효율인 것이다. 인간의 뇌는 약 20W의 전력을 사용한다. 반면 엔비디아 GPU(그래픽 처리 장치) 하나가 700W의 전력을 쓴다. 최소 AI 서비스 단위인 256대의 GPU를 사용하는 엔비디아 AI 수퍼컴퓨터의 경우 320KW의 전력을 사용한다. 이렇게 보면 AI는 인간의 뇌가 사용하는 전력의 최소 460배를 소모한다.

 

AI 데이터센터의 경우 가히 천문학적인 전력을 필요로 한다. 최근 오픈AI는 2028년경 ‘스타게이트’라고 불리는 GPU 280만대 규모의 첨단 AI 데이터센터를 구축할 예정이라고 발표했다. 여기에 필요한 전력 공급 규모는 5기가와트(1기가와트는 10억와트) 규모이다. 평균적 규모의 원자력 발전소 6기를 새로 지어야 하는 전력이다. 이 데이터 센터가 1년 동안 하루 24시간 쉼 없이 가동하면 총 누적 전력 사용량은 43.8조Wh가 된다. 이는 2022년 한 해 동안 우리나라가 원자력 발전으로 생산한 전체 전력 생산량의 24.9%에 해당하는 거대한 양이다. 그래서 AI를 위해서는 원자력 발전소가 더 지어져야 한다.

 

미래의 AI 데이터센터에는 기가와트 이상의 전력을 공급하도록 발전소와 송전 시설을 충분히 확보해야 한다. AI 데이터센터를 발전소 바로 옆에 설치하거나 아예 AI 데이터센터 안에 발전소를 설치해야 하는 상황이 생길 것으로 예측된다. 결과적으로 누구나 누릴 수 있는 생성형 AI 시대의 실현을 위해서는 유지 비용의 가장 핵심인 전력 소모를 줄여야 한다.

 

전력 소모를 줄이기 위해서는 지금보다 전력 면에서 더 효율적인 생성 AI 모델의 개발이 필요하다. 작은 모델이면서 생성 성능의 정확성이 보장되어야 한다. 지금의 변환기 모델을 뛰어넘는 초경량화 모델 개발이 필요하다. 그리고 저전력 AI 반도체 개발도 연구 대상이다. 이러한 배경으로 AI 패권 전쟁은 ‘자본의 전쟁’과 ‘인프라 전쟁’으로 전환되고 있다. 저전력 AI 반도체의 확보, 저전력 AI 데이터센터의 건설, 그리고 전력 인프라에 막대한 비용이 투입되어야 하기 때문이다.

 

국가, 이념, 문화의 영속성을 위해서는 뿌리 깊은 나무와 샘이 깊은 물이 필요하다. 공평한 AI 시대의 실현을 위해서는 바다와 같은 전기가 필요하다.

 

-김정호 KAIST 전기·전자공학과 교수, 조선일보(24-07-24)-

 

 

=========================