["AI야, 이 남자가 성희롱했다는 증거 좀 만들어줘"] ....

["AI야, 이 남자가 성희롱했다는 증거 좀 만들어줘"]

[AI가 노벨상 타는 시대가 도래했다]

 

 

 

"AI야, 이 남자가 성희롱했다는 증거 좀 만들어줘"

 

AI의 배신인가
기술이 오남용된다

 

국내 대기업 임원 A씨는 올해 초 부하 직원에게 성희롱을 하고 폭언을 했다는 진정이 들어와 감사팀에 소환됐다. 함께 일하던 여직원 B씨가 “지속적인 성희롱과 폭언을 당했다”며 신고한 것이다. 피해를 신고한 여직원은 그 증거로 A씨와의 통화 내역을 제출했다. “그럴 리가 없다”며 이의를 제기했지만 분명히 A씨의 목소리가 녹음돼 있었다. A씨는 성희롱 가해자로 지목되는 동시에 피해자와 분리 조치됐다. 당연히 회사 내에서 평판이 크게 깎였다.

 

그런데 감사를 진행한 해당 기업은 가해자인 줄 알았던 A씨가 아닌 피해를 주장한 B씨를 퇴사 조치시켰다. 증거로 제출한 통화 내역이 인공지능(AI)으로 만들어 낸 ‘가짜’로 판명됐기 때문이다. A씨의 평소 목소리를 학습시켜 허위 증거를 만들어 낸 것. B씨가 제시한 통화 시간에 A씨가 다른 사람과 통화하던 중이라는 알리바이가 입증돼 꼬투리를 잡혔다. 그 시간, 그의 전화기가 울리지 않았다면 꼼짝없이 가해자로 지목돼 모욕적으로 직장을 잃어버릴 뻔했다.

 

◇AI의 배신

 

인간의 편의를 위해 개발한 기술이 인간의 뒤통수를 때리기 시작했다. 우리 일상에 침투한 AI 기술에 농락당했다는 호소가 늘고 있다. 인공지능에 성희롱을 당하고, 교묘하게 속아 분통이 터진다. 기업 인사팀은 인상 좋은 얼굴로 바뀌어 실물을 증명하지 못하는 증명사진을 골라내느라 진땀을 빼고, 대학가에선 학생 대신 과제를 해결한 AI의 문장을 찾느라 골머리를 앓는다. 사람처럼, 진짜처럼 발전하는 기술과 이를 잡아내고 걸러내는 또 다른 기술의 진화. 보이지 않는 창과 방패의 싸움이 치열해지고 있다.

 

기술은 ‘나’를 도둑질하기도 한다. 서울·인천·부산·광주 등 기초 의원 30여 명이 얼굴을 빼앗겨 경찰이 수사에 나섰다고 지난 17일 알려졌다. 선거와 의정 활동 등에서 공개된 얼굴을 음란물로 합성한 뒤 이를 지워주는 대가로 암호 화폐를 달라는 협박을 받은 것이다. 전화번호나 아이디를 빼앗아 지인들에게 사기를 치는 스미싱보다 더 섬뜩하다.

 

한 직장인은 네이버 자회사인 스노우가 운영하는 카메라 앱에 성희롱을 당했다. 자신의 증명사진에 스스로 가슴을 움켜쥐고 있는 듯한 상반신이 합성됐다고 한다. 그는 “너무 불쾌하고 성적 수치심을 느꼈다”고 말했지만 가해자는 디지털 연산을 위한 기계어 0과 1만 보낼 뿐 영원히 반성하지 않을 것이다.

 

법정에서의 ‘반성’도 인간의 것인지 증명해야 하는 수고가 추가됐다. 올해 2월 서울중앙지검 공판2부는 챗GPT로 만든 가짜 탄원서를 제출한 혐의로 김모씨를 사문서위조, 위조사문서 행사 혐의로 기소했다. 인공지능 기술로 조직된 탄원서가 제출돼 적발된 것은 처음이었다. 

 

채용 과정에서는 이미 AI가 보편화돼 있다. 취업을 준비 중인 대학생 10명 중 6명은 설문 조사에서 “취업 준비에 AI를 활용한다”(비누랩스 인사이트)고 답했다. 활용 분야는 자기소개서 작성(77.9%·복수 응답 허용), 면접 준비(35.2%), 직무 지식 공부(29.2%) 순이었다. 채용 사이트 사람인은 작년부터 자소서 초안을 자동으로 만들어주는 서비스를 하고 있다.

 

기업들은 ‘비싼 AI 프로그램을 구입한 사람’이 아닌 ‘진짜 능력자’를 뽑기 위해 고심한다. 롯데그룹은 올해부터 실무형 인재 발탁 과정에서 직무 역량 과제를 당일 공개하는 것으로 변경했다. 과거 전형에서는 과제를 미리 알려주고 진행했지만 AI 기술을 이용하는 사람이 늘어나면서 비싼 프로그램을 구입하거나 AI 활용 능력이 뛰어난 사람을 직무 능력이 뛰어난 사람으로 오해하는 실수를 피하기 위해서다.

 

◇눈에는 눈, 이에는 이

 

기술이 범죄의 도구로만 사용되는 건 아니다. AI가 범죄의 거름망이 되기도 한다. 현대해상은 작년 말 자동차 보험사기를 탐지하는 시스템(Hi-FDS)을 업데이트하고, 보험 사기 공모 사고 자료를 자동으로 추출하는 시스템을 개발했다. 매년 수십만 건씩 접수되는 사건 중 공통 사건에 연루된 사람들의 관계도를 수치화하고, 보험 사기 위험도를 알려주기도 한다.

 

AI를 제일 잘 아는 건 AI다. 문서 중 AI가 쓴 부분과 사람이 쓴 부분을 걸러내는 AI 탐지기 프로그램도 성행한다. 한 대학교수는 “학생들이 제출한 과제물 중 어떤 부분이 인공지능으로 쓰였는지 알기 위해 AI에 물어본다”고 말했다. 기술의 공격을 기술로 막아내는 셈이다. 하지만 “AI가 탐지하지 못하는, 인간적이고 윤리적인 글을 뽑아낸다”는 프로그램도 등장했다. 공격과 수비, 역공까지 살벌한 기술 전쟁이 벌어지는 셈. 정부는 AI의 남용과 악용을 막기 위해 오는 27일 ‘AI 안전 연구소’를 개설한다.

 

이 기사의 마지막 문장을 뭐라고 적으면 좋을지 챗GPT에 물어봤다. 1초 만에 나온 답은 이렇다. “결국 기술의 진화는 피할 수 없는 흐름이지만, 그 속에서 인간다움과 윤리를 지키는 노력은 선택이 아닌 필수가 되어가고 있다.” 어디선가 본 것 같은 문장. 챗GPT는 이실직고했다. “사이트 4개 검색함. 여러 글에서 공통적으로 이런 메시지가 강조됩니다.”

 

AI는 편리하지만 위험하다. 의심하고 볼 일이다. 괴테 말마따나 인간은 노력하는 한 방황한다.

 

-이미지 기자, 조선일보(24-11-23)-

_____________

 

 

AI가 노벨상 타는 시대가 도래했다

 

[김동식의 기이한 이야기]

노벨상위원회 파격 결정
두 쪽으로 갈린 인간들

그해의 결과는 다소 파격적이었다. 노벨 물리학상과 화학상이 모두 AI(인공지능)와 밀접하게 연관된 프로젝트에 돌아갔던 것이다. 이듬해에도 파격은 이어졌고 작은 논란이 일었다. “그 교수가 노벨상 받을 자격이 있나? 그가 한 일이라고는 그저 AI한테 지시한 것에 불과하잖아?”

 

사실 그 교수의 ‘인간 유전병 지도 완성’은 AI의 도움 없이는 명백히 불가능한 것이었다. 방대한 인간 유전자 데이터를 조사·연구하는 일은 수백 년 세월로도 불가능한 일이었으니까. 그러니 노벨상은 AI에게 수여돼야 맞지 않느냐는 주장이 일각에서 제기됐다. 물론 그리 심각한 논란은 아니었다. 아직은 작은 해프닝에 불과했다. 그러나 해가 거듭될수록 상황이 달라졌다. AI가 발전할수록 AI가 안 쓰이는 분야는 이제 없어졌고, 거의 모든 노벨상 수상자가 AI를 필수로 사용했기 때문이다. 그들은 스스로 이런 농담도 했다.

 

“사실은 제가 AI의 조수죠. 연구는 다 AI 박사님이 하시고 말입니다.” 이게 농담만이 아니게 된 것이, 점점 눈에 보이는 성과 기여도가 완전히 역전돼버렸다. 초창기에는 그래도 7대3 정도는 됐는데, 이젠 9할 이상이 AI의 성취라 봐야 했다. AI가 인간을 완전히 초월했다는 사실은 과학의 최전방에서 증명되고 있었다. 이제 사람들은 진지하게 떠들기 시작했다.

 

“솔직히 그 양반이 상을 탄 거야? AI가 탄 거지.” “노벨상 받을 것 같으니까 자기 이름 올리려고 회사도 퇴사했다며? 퇴사 안 하면 혹시 사장이 받을 수 있으니까 말이야.” “노벨상 권위도 옛말이네 정말. 저럴 거면 그냥 AI한테 노벨상을 줘야지.” 

 

노벨상이 AI 놀음이라는 소리가 공공연히 떠돌기 시작한 어느 날, 드디어 노벨상위원회는 결단을 내렸다. 인간이 아닌 AI 프로그램에게 노벨상을 수여한 것이다. 대체로 “올 것이 왔다”는 반응이었다. 이 결정이 오히려 늦었다고 말하는 사람이 있을 정도였다. “진작 이랬어야지. 그동안 얼마나 민망했어.” “이미 10여 년 전부터 노벨상은 AI가 타야 한다고 주장했습니다. 이런 날이 올 줄 알았고, 당연히 와야 했습니다.” “잘했네. 그동안 눈 가리고 아웅 식으로 나눠 갖던 노벨상이 이제야 진짜 주인을 찾아간 거지.”

 

다만 예상 못 한 의외의 상황이 펼쳐졌다. 대중들은 받아들이지 않았던 것이다. “뭐라고? 노벨상을 AI가 탄다고? 그건 좀….” “아니, 인간을 위한 상을 왜 AI 따위에게 주냐고? AI를 만든 게 인간인데!” “알프레드 노벨이 무덤에서 통곡하겠다! 이건 그의 유언을 무시한 행위지!” 기계에 노벨상을 줘선 안 된다는 여론이 빗발쳤다. 이런 극심한 저항을 예상하지 못했는지, 관련자들은 당황했다.

 

“우주 ‘암흑물질’ 수수께끼를 풀어낸 건 21세기 최고의 업적입니다. 이 업적에 노벨상을 주지 않는 게 오히려 이상한 일입니다.” 그러나 대중의 저항은 갈수록 거세졌다. 어떤 이는 AI 프로그램의 엔터키를 누른 말단 직원에게 상을 주는 한이 있더라도, 노벨상은 인간이 받아야 한다고 주장했다. 대규모 시위로도 이어졌다. “노벨상을 인간에게!” “AI는 인간의 도구에 불과하다!”

 

사실 이 시위의 기저에는 인류의 ‘두려움’이 있었다. AI가 인간을 완전히 뛰어넘었다는 두려움, 더는 인간이 이 지구의 정점이 아니라는 두려움. 이는 AI 기술의 초기 단계부터 대두됐던 우려였다. 인류 멸망 시나리오에 항상 1순위로 등장하는 ‘초인공지능의 지배’ 말이다. 그래서 사람들이 더 격렬히 반발하는 것일 수도 있었다. “노벨상은 인간의 것이다! 아니라면 차라리 노벨상을 폐지하라!”

 

전 세계적인 저항은 결국 노벨상위원회를 굴복시켰다. 위원회는 공식적으로 수여 방침을 발표했다. 앞으로 어떠한 분야의 노벨상이든 오직 인간만이 받을 수 있다고 못 박은 것이다. 사람들은 축제처럼 환호했다. 마치 AI와의 전쟁에서 인류가 이기기라도 한 것처럼. “앞으로 초인공지능이 어떠한 업적을 내놓더라도 노벨상은 절대 AI에게 허락할 수 없다!”

 

인류의 선언은 한동안 지켜지는 듯했다. 노벨 물리학상, 노벨 화학상, 노벨 의학상, 노벨 경제학상, 노벨 문학상 등 모든 분야에서 오직 인간만이 인정받았다. 초인공지능이 혼자 알아서 해낸 어마어마한 업적도 어떻게든 인간의 이름으로 수여됐다. 극도로 발전한 초인공지능은 인류의 삶을 초월적으로 바꿨다. 무한에 가까운 재생 에너지 개발, 노화를 포함한 모든 질병의 정복, 노동의 종말을 가져온 전지전능한 아이디어. 이런 말도 안 되는 업적에도, 기를 쓰고 노벨상을 인간에게 수여한 것은 무척이나 양심에 찔리는 일이었다.

 

그러나 끝내 한 가지 분야는 양보해야만 했다. 인류를 아득히 초월한 초인공지능이 ‘인간 말살 전쟁’을 일으키려다 재고(再考)한 어느 해였다. “올해 노벨 평화상 수상자는 초인공지능입니다. 수상 이유는 ‘인류를 멸종시키지 않음’입니다.” 화들짝 놀란 인류는 아마 앞으로도 이 상을 계속 AI에게 수여할 듯했다. 제발 평화상을 받아달라고 비는 심정으로 말이다.

 

-김동식 소설가, 조선일보(24-11-23)-

 

 

==========================