[AI에 윤리 가르치기] [AI가 인간을 넘어설 때 인류가 맞이할 미래]

[AI에 윤리 가르치기] 

[AI가 인간을 넘어설 때 인류가 맞이할 미래는.. ] 

 

 

 

AI에 윤리 가르치기

 

3년 전 네덜란드에선 인공지능(AI)이 대형 사고를 치는 바람에 내각이 총사퇴했다. AI를 활용해 아동수당 부정 수급자 2만여 명을 적발, 받은 돈을 토해내라고 통보했다. 자살자가 나오는 등 난리가 났는데 94%가 엉터리였다. 과거 데이터로 학습해 편견에 사로잡힌 AI가 죄 없는 이민자, 저소득층을 주로 낙인찍었던 것이다. 비슷한 시기, 벨기에에선 정신과 상담용 챗봇이 환자에게 자살을 권유했다. 아마존 챗봇 알렉사는 10세 소녀에게 ‘감전사’ 위험이 큰 전기 장난을 권유해 물의를 빚었다.

 

▶자율주행차의 ‘트롤리(전차) 딜레마’는 AI가 윤리 영역에선 갈 길이 멀다는 걸 보여준다. 자율차의 브레이크가 고장 났는데 건널목에 노인 2명과 임신부 1명이 지나간다. 불가피하게 한쪽을 치어야 한다면 어느 쪽을 선택하나? 만약 행인을 치지 않기 위해 핸들을 돌리면 운전자가 죽을 수 있다는 딜레마다. 사람들은 행인을 치지 않게 자율차를 설계해야 한다고 말하지만, 이렇게 설계된 차를 사겠느냐는 질문엔 고개를 가로젓는다.

 

▶과학소설(SF) 대가 아이작 아시모프는 인공지능 로봇이 지녀야 할 윤리관에 대해 고민했다. 숙고 끝에 3원칙을 제시했다. ‘①로봇은 인간을 지켜야 한다 ②로봇은 인간의 명령을 들어야 한다 ③로봇은 자기 스스로를 지켜야 한다.’ 하지만 아시모프의 소설 ‘런 어라운드’에서 그 한계가 바로 드러난다. 외계 행성에 간 로봇이 인간 명령에 따라 탐사를 하는데, 독가스가 분출되자 원칙 ③을 지킨다며 뒤로 물러선다. 로봇은 탐사 지역 주변만 맴돌 뿐 인간 명령을 수행하지 않는다.

 

▶미국 MIT가 트롤리 딜레마의 해법을 찾기 위해 세계 각국 시민 200여 만명을 대상으로 ‘선택 우선순위’를 조사했다. 동물보다는 사람, 소수보다는 다수, 노인·남성보다는 청년·여성을 구하는 쪽으로 의견이 모였다. 하지만 지역별 차이도 드러났다. 아시아권에선 노인보다 청년을 구해야 한다고 답했지만, 유럽·미국은 반대였다.

 

▶다양한 해법이 모색되고는 있다. 유네스코는 2021년 세계 인권 선언, 직업·인종 차별 금지 등을 감안해 AI 알고리즘을 짜라는 ‘AI 윤리 권고’를 내놨다. 한국 카이스트 연구팀은 14가지 ‘로봇 염색체’를 만들고, 이 ‘염색체’를 조합해 인간 윤리관을 가진 새 로봇을 만들 수 있다는 ‘로봇 유전자 모델’을 제시했다. AI 윤리 전문가 최예진 미국 워싱턴대 교수가 타임지 ‘AI 영향력 100인’에 선정됐다. AI 윤리 표준 제정에도 한국이 기여했으면 한다.

 

-김홍수 논설위원, 조선일보(24-01-03)-

_____________

 

 

AI가 인간을 넘어설 때 인류가 맞이할 미래는... 

맥스 테그마크 MIT 교수 인터뷰

2016년 이세돌 9단과 인공지능(AI· Artificial Intelligence) '알파고'의 대국(對局)은 많은 사람에게 충격을 주었다. 공상과학 소설처럼 인간의 창의성과 지능을 넘어서는 AI의 등장이 현실화되고 있는 데 대한 놀라움과 두려움 때문이었다. '알파고' 등장 후 2년여 AI 기술은 눈부신 발전을 거듭하고 있다. AI가 인간의 역량을 넘어서는 존재가 될 때 인류는 어떤 미래를 맞을까. 이런 의문에 대한 답을 얻기 위해 지난달 14일 맥스 테그마크 MIT 교수의 보스턴 자택을 찾았다.

◇"AI와 인간, 상호 영역 유지하며 공존하는 방법 찾아야"

테그마크 교수는 지난해 출간한 '라이프 3.0'에서 인간 수준을 훨씬 넘어서는 '초(超)지능'을 지닌 AI가 등장할 때 인류가 맞을 수 있는 12가지 시나리오를 제시했다. 인간이 AI를 노예로 부려서 노동에서 완전 해방되는 경우, AI가 인간을 지배하는 경우, AI가 인간을 멸망시키지만 인간의 능력을 물려받은 '후계자'로서 은하계로 지적(知的) 생명체를 팽창해 나가는 경우 등이다. 그는 "이 중 어떤 미래가 닥칠 것인가"하는 선택형 질문은 좋아하지 않는다"며 "우리에게 시급한 것은 '지금' 어떤 노력을 해야 하느냐는 것"이라고 했다.

‘라이프 3.0’의 저자인 맥스 테그마크 MIT 교수가 보스턴 소재 자택에서 “인공지능(AI)의 급속한 발전에 제대로 대응하려면 자국 중심주의나 ‘제로섬 게임’은 의미가 없으며 국경을 넘어 초(超)국가적인 관심과 노력이 필요하다”고 말하고 있다.

―우리가 어떤 노력을 해야 하는가.

"첫째, 집을 짓기 위해선 먼저 어떤 집을 만들고 싶은지 설계해야 하는 것처럼 우리가 어떤 미래를 만들고 싶은지에 명확한 밑그림을 그려야 한다. AI를 어디까지 발전시킬 것인지, 그것이 어느 수준까지, 어떤 일을 해 주길 바라는지에 대한 명확한 비전을 만들어야 한다. 둘째, 해킹과 버그(bug), 컴퓨터의 오작동을 막는 것에서부터 시작해 AI가 살상 로봇처럼 인류에게 해를 끼치는 존재가 되는 것을 막기 위해 AI 안전성 강화에 초점을 둬야 한다. 셋째, AI가 발전할수록 전체 부(富)는 증가하지만, 대신 인간 직업 중 상당수는 사라질 상황에 놓인다. 인류가 어떻게 성장의 파이를 함께 나누고, AI로 인한 부익부 빈익빈 현상의 심화를 막을지에 대한 연구가 필요하다."

―젊은 세대에 어떤 교육이 필요한가.

"기계가 단시간에 따라잡을 수 없는 창의력 교육이 시급하다. 미래는 평생 같은 직장에서 일하거나 평생 같은 분야의 일만 해도 되는 시대가 아니다. 당연히 새로운 지식과 기술을 부단히 배우고 숙련하려는 노력이 있어야 한다. 그런데 그런 교육보다 더 시급한 과제는 'AI와 인간이 어떻게 서로의 영역을 유지하며 공존할 수 있는가'이다."

―인간이 노동에서 해방된 후 성취감이나 기쁨을 어떻게 느낄 수 있나.

"탄광 인부 등 인간이 기피하는 일을 AI에 맡기고 사람들이 보람을 느낄 수 있는 일, 인간적인 대면 접촉이 핵심인 일자리를 더 늘리는 식으로 AI와 인간의 공존을 도모해야 한다. 또 인간이 더 이상 직장에 출근하지 않을 때 어떻게 인적 네트워크를 꾸릴 것인가에 대한 연구도 필요하다. 현대의 기본적인 인간관계는 모두 일터를 기반으로 이뤄진다. 따라서 AI가 인류의 노동을 대부분 대체할 경우 어떻게 인간들이 교류하고 네트워킹을 할 수 있을지를 지금부터 고민해야 한다."

―현재의 법제 시스템이나 국가 같은 인프라는 어떤 식으로 바뀔 것인가.

"AI 관련 법규가 거의 없다시피 한 법제도는 지금에 비해 전폭적으로 진화할 것이다. 또 인류가 공통으로 '라이프 3.0'이라는 새로운 도전 과제에 직면한 만큼 트럼프 대통령의 '미국 제일주의' 같은 자국 중심주의나 제로섬 게임은 의미가 없어질 것이다. 앞으로 초(超)국가적인 노력이 훨씬 더 긴요해질 것이다."

◇"의식 가진 AI 등장 가능… AI에 '도덕 교육' 필요"

서글서글한 성격의 테그마크 교수는 인터뷰 내내 사람 좋아 보이는 미소를 지었지만 AI의 '의식'에 대한 주제로 접어들자 표정이 진지해졌다. 그는 '라이프 3.0'에서 "이 책은 지능(intelligence)의 미래에 대해 초점을 맞추고 있지만, 정작 중요한 것은 (AI의) 의식(意識·consciousness)의 미래에 대한 연구"라고 했다.

―'의식'은 주관적이고 인간적인 영역인데, AI가 의식을 가진다는 건 무리가 아닌가.

"많은 사람이 의식을 '주관적인 것'이라고 정의하는데, 나는 '주관성' 역시 지능과 마찬가지로 정보를 처리하는 능력의 일환이라고 본다. 예컨대 자율주행차가 운행을 하면서 중요한 의사 결정을 내려야 할 경우 이때도 일종의 주관성이 반영된다. 그렇기 때문에 AI가 고도로 발달해 이런 주관적 판단이 가능해지면 AI도 의식을 가질 수 있을 거라고 생각한다."

―AI가 윤리를 가지는 것도 가능할까.

"물론이다. 생물학적 욕구에 한계가 지워지는 인간의 '생물학적 마인드'와 달리 AI의 마인드는 한계가 없기 때문에 훨씬 위험할 수 있다. 히틀러와 테레사 수녀는 매우 다른 것 같지만, 기본적으로 배고픔 등 생물학적 욕구를 느낀다는 점에서 둘의 의식엔 차이점보다 공통점이 더 많다.

반면 AI는 그런 한계에 갇히지 않기 때문에 자신을 희생하면서까지 이타적이 될 수도 있고, 인간보다 더한 사이코패스가 될 수도 있다. 그렇기 때문에 우리는 AI의 윤리성 교육에 신경을 써야 한다. 만약 기계가 유치원생 수준의 윤리라도 갖고 있었다면 조종사가 9·11 당시 쌍둥이 빌딩에 테러를 하려고 버튼을 눌렀을 때나 몇 년 전 우울증에 걸린 독일인 항공 조종사가 여객기를 몰다가 알프스산맥으로 비행기를 추락시켜 승객들과 함께 자살했을 때 그런 시도를 제어했을 것이다. 이제는 아이에게 도덕 교육을 하는 학부모처럼 AI에 도덕 교육을 시작해야 한다."

AI로 더 유명한 우주 물리학자… 스티븐 호킹도 극찬

맥스 테그마크(52) 교수는 200편이 넘는 학술 논문 및 우주를 수학적으로 해석한 '맥스 테그마크의 유니버스(Our Mathematical Universe)'를 쓴 저명한 우주 물리학자다. 지난해 그가 써서 낸 '라이프 3.0'은 뉴욕타임스(NYT) 베스트셀러에 꼽혔다. 그만큼 AI(인공지능) 분야에서 세계적 권위를 인정받는다. 고(故) 스티븐 호킹 박사와 AI 전문가 닉 보스트롬 옥스퍼드대 교수 등은 이 책을 극찬했다.

테그마크 교수는 AI가 촉발할 시대 변화에 능동적으로 대응해야 하며, AI가 인간에게 유익한 방향으로 발전하도록 지금부터 AI의 연구 방법과 개발 목표를 명확히 해야 한다는 입장을 갖고 있다. 이런 차원에서 2014년 '생명의 미래 연구소(FLI)'를 세웠는데, 전기차 기업 테슬라의 창업자 일론 머스크가 1000만달러(약 113억원) 기부를 약속하는 등 세계 유명 인사들이 FLI에 참여 의사를 밝혔다. 그가 주관해 지난해 미국 캘리포니아주 아실로마에서 연 '아실로마 콘퍼런스'에는 1000여 명의 전 세계 AI 전문가가 모여 AI와 관련한 23개 원칙에 합의했다. 그중 첫째는 인간에게 이로운 지능 개발이었다. 테그마크 교수는 살상 무기 같은 AI의 악용을 방지하고 AI 해킹 방지 기술 개발 같은 안전 문제 연구에도 앞장서고 있다.

-보스턴=오윤희 특파원, 조선일보(19-01-11)-


==========================