[“좋은 평가만”… 논문 심사하는 AI에 비밀명령] ....

[“좋은 평가만”… 논문 심사하는 AI에 비밀명령]

[설민석이 차라리 낫다] 

[조국과 서울대의 비양심] 

[표절의혹 박사학위 논문 보니... ]

 

 

 

“좋은 평가만”… 논문 심사하는 AI에 비밀명령

 

한국 KAIST, 미국 컬럼비아대, 중국 베이징대, 일본 와세다대 등 14개 유명 대학 연구자들의 논문 17편에서 인공지능(AI)을 이용한 평가 조작 시도가 발견됐다고 일본 언론이 보도했다. 논문 속에 “좋은 말만 쓰라” “부정적 내용은 쓰지 말라” 같은 영어 명령문을 슬쩍 써넣었는데, 흰색 바탕에 흰색 글씨거나 아주 작은 글씨로 되어 있었다. 사람 눈엔 안 보이고 AI만 인식할 수 있었다는 것이다. 논문 평가에 AI가 이용됨을 전제로 한 연구 부정 행위다. 논문 작성과 동료 평가로 이뤄진 연구 생태계 전반에 AI가 깊숙이 침투해 있음을 실감케 한다.

▷논문 작성 단계에선 AI가 폭넓게 이용되고 있다. 대개는 관련 문헌을 찾고 데이터를 분석할 때 조교처럼 활용하는 정도인데 1년 전부터는 주제어와 개요만 제시하면 논문을 통째로 써주는 서비스도 나왔다. 연구자가 방학 내내 매달려도 쓸까 말까 한 30쪽짜리 논문 한 편을 3분이면 써낸다. 일본 AI 스타트업 사카나는 올 3월 AI가 쓴 논문이 학회 워크숍의 동료 평가를 처음으로 통과했다고 발표했다.

▷연구자의 ‘밥줄’이 걸려 있는 논문 심사를 AI에 맡기는 건 더욱 민감한 문제이나 2, 3시간 걸릴 일을 AI는 몇 분 만에 해주니 알음알음 쓰는 추세다. 과학 학술지 네이처는 올 3월 연구자 10명 중 2명꼴로 AI를 논문 심사에 이용한 적이 있다는 설문조사 결과를 전했다. 동료 평가는 해당 분야 전문가 2, 3명이 참여해 학술지 게재 여부를 결정하는데, 사람은 평가자들 간 편차가 크지만 AI는 그렇지 않아 심사를 받는 쪽에서도 만족도가 높다는 연구도 있다.

 

▷문장을 다듬는 수준을 넘어선 AI 논문 심사에 대해선 우려의 목소리가 크다. 연구 논문엔 민감한 실험 자료가 포함되는 경우가 있는데 AI 도움을 받는 순간 심사가 끝나기도 전에 정보가 유출될 수 있다. 동료 평가에선 평가자와 논문 간 이해 충돌 문제를 걸러낼 수 있지만 AI는 그럴 방법이 없다. 기존 데이터를 학습해 심사하는 AI로서는 전혀 새로운 연구의 가치를 알아보기 어려울 것이라는 지적도 나온다. 네이처는 동료 평가 시 AI 사용을 부분적으로 허용하고, 미국 최대 연구 지원 기관인 국립보건원과 국립과학재단은 금지하고 있다.

▷이번 AI 평가 조작 보도에 언급된 KAIST 소속 연구자는 “AI에 긍정적인 동료 평가를 유도한 것은 부적절했다”며 논문 게재를 철회하기로 했다. KAIST는 이번 사건을 조사하는 한편으로 AI 활용을 위한 가이드라인 제정에 나섰다. 조만간 AI가 쓰고 AI가 심사한 논문까지 나올 것이다. 그 논문에 치명적 오류가 있다면 그 책임은 누가 져야 할까. 기술 혁신이 일어날수록 연구 윤리에 관한 고민이 깊어지고 있다.

-이진영 논설위원, 동아일보(25-07-02)-

______________

 

 

설민석이 차라리 낫다

 

평소 그의 강의 마무리처럼 깔끔하고 명쾌하긴 했다. ‘스타 강사’로 이름난 설민석씨는 최근 잇따라 강의 내용의 사실 오류를 지적받았고, 지난 29일엔 교육대학원 석사 학위 논문의 52%가 표절이라는 지적이 불거졌다. 이날 그는 “변명의 여지가 없는 저의 과오”라며 표절을 인정하고 모든 방송에서 물러나겠다고 밝혔다. 

 

설민석 페이스북 캡처/페이스북

 

방송을 통해 대중에게 지식을 가르치는 유명인이 남의 글을 베껴 학위 논문을 쓴 일은 치명타일 수밖에 없다. 하지만 “겸손한 마음으로 다시 더 배우고 공부하겠다”는 그의 말은 훗날 재기(再起)할 여지를 남긴 반성으로 보였다. ‘국민 언니’란 말을 듣던 스타 강사 김미경씨도 2013년 석사 논문을 표절했다는 지적을 받고 방송 출연을 그만뒀다. “내가 잘못했고 무지했다”고 밝힌 김씨는 이후 방송에 복귀할 수 있었다.

 

애초에 대중이 설씨와 김씨에게 열광한 것은 그들이 학위 과정에서 얻은 전문성보다는, 강의 내용을 듣는 이 귀에 쏙 집어넣어 감동을 줄 수 있는 탁월한 전달 능력 때문이었다고 봐야 한다. 강의의 질(質)보다 ‘예능감’을 우선시하고, 진지한 성찰 대신 사회적 정서에 편승한 담론을 재생산한 것은 사실 당사자와 사회가 그 책임을 함께 짊어져야 할 일이다.

 

여기서 주목해야 할 또 다른 부분은 상대적으로 깨끗해 보이는 그들의 승복과 물러남이다. 정치에서는 상황이 완전히 다르기 때문이다. 조국 전 법무부 장관은 서울대 법학 석사 논문이 출처를 밝히지 않은 채 일본 책에서 33곳을 가져다 짜깁기한 등의 사례가 드러났으나 사과하는 모습은 보이지 않았다. 경기도 교육감을 지낸 김상곤 전 교육부 장관은 석·박사 논문에서 ‘압도적 분량의 일문(日文) 표절’이란 지적을 받았으나 자리에서 물러나지 않았다.

 

자신에게 학위를 준 대학을 공개적으로 비하한 적반하장도 있었다. 이재명 경기도지사는 ‘석사 논문의 절반 이상이 표절로 의심된다’는 문제 제기가 있자 학위를 반납했을 뿐 인정하거나 사과하지 않고 “제가 어디 이름도 모르는 대학의 석사 학위가 필요하겠느냐”고 했다.

 

세 사람 모두 해당 대학의 자체 조사에서는 ‘문제가 있으나 위반 정도가 경미하다’(조국·김상곤)거나 ‘시효가 지나 심사 대상이 아니다’(이재명)라는 판정을 받았다. 설사 면죄부를 받았다 해도 최소한의 양심이 있다면 설민석·김미경처럼 반성하는 기색이라도 보여야 하겠지만, 이제 이들에게 표절 논란 정도는 코웃음 칠 사안이 돼 버린 듯하다.

 

왜 이러는 걸까. 정치인은 강사와 달리 늘 거짓말로 먹고사는 사람들이니 표절 좀 했다고 해서 이상할 게 없다고 여기는 것일까? 아니면 그 정도 비난은 개의치 않을 정도로 철면피인 것일까? 결과적으로 이들은 설민석 같은 사람을 실제보다 훨씬 선량해 보이게 하고 있다.

 

-유석재 기자, 조선일보(21-01-02)-

______________

 

 

조국과 서울대의 비양심

 

조국 박사논문 표절 여부, 7년 전 조사 거부했던 서울대
이번엔 연구부정행위로 결론… 단, 부정사례 카운트하지 않고
대충 경미한 위반으로 빠져나와, 박정훈 위원장 바꿔 재심해야

 

서울대 연구진실성위원회가 조국 로스쿨 교수의 버클리 캘리포니아대 박사학위 논문에 대해 ‘연구부정행위’가 있었다는 판정을 내렸다. 그러면서도 ‘위반의 정도는 경미하다’고 했다.

이에 대한 논평을 잠시 망설인 이유는 조 씨가 언론 보도에 잇달아 손해배상 청구소송을 내고 있어서가 아니라 혁명 수준으로 진행되는 형사사법 체계의 파괴, 수습 불가 상태로 가고 있는 부동산 정책의 실패 같은 큰 현안을 놔두고 곁가지로 빠지는 기분이 들어서다. 그럼에도 조 씨의 논문 표절 의혹을 제기해온 사람 중 하나로서 이 문제를 그냥 지나칠 수 없다.

위원회 결정은 2013년 결정보다는 진전된 것이다. 당시 이준구 경제학과 교수가 위원장으로 있을 때는 “제보 내용이 진실하지 않다”며 보지도 않고 기각해버렸다. 조 씨의 연구부정행위를 알아내기 위해 거창한 조사까지 할 필요도 없다. 누구나 비교해보면 금방 알 수 있다. 그런데도 연구부정행위를 인정받기까지 7년이 걸렸다. 조국 사태가 없었다면 이마저도 불가능했을 것이다.

서울대 연구윤리지침은 표절이란 말을 사용하지 않는다. 그 대신 연구부적절행위와 연구부정행위라는 말을 사용한다. 연구부적절행위는 ‘연구상 중대하지 않은 과실’을, 연구부정행위는 ‘고의나 연구상 중대한 과실’을 의미한다고 돼 있다. 조 씨의 표절은 연구부정행위인데도 경미하다는 것이다. 요령부득이다.

위원회는 조 씨의 서울대 석사학위 논문은 127군데에서 인용표시 없는 인용이 있었다고 밝혔으나 박사학위 논문은 몇 군데서 그런 인용이 있었는지 밝히지 않았다. 이것만으로도 건성으로 조사했음이 드러난다. 조 씨 논문에는 마이클 잰더라는 학자의 글이 10군데나 인용표시 없이 인용돼 있는데 이런 사례들이 통째로 빠졌다. 부정행위가 인정된 7편의 논문에 대해서도 인용표시 없는 인용이 몇 군데씩 누락돼 있다.

 

위원회는 연구부정행위가 대부분 타인 저술이나 외국 판례의 요약정리와 관련돼 있으며 연구의 주요 결과에 미치는 정도가 미미하다고 봤다. 위원회는 인문·사회과학 논문에서 독자적인 요약정리의 중요성과 조 씨의 요약정리 차용이 지닌 비양심적 맥락에 눈을 감았다.

 

공리주의 철학자 제러미 벤담의 책은 영어로 쓰여 있지만 단어는 평이해도 그가 쓰는 특유한 의미가 있어 해독이 어려운 영어다. 그래서 벤담은 벤담 전공자가 아닌 한 벤담 전공자가 요약정리한 책으로 읽고 인용하는 것이 일반적이다. 그런데도 굳이 벤담을 직접 읽고 인용한 것처럼 쓴 것은 비영어권 박사과정 학생이 영어로의 요약정리 능력이 떨어져서가 아니라 벤담에 대한 기초적인 감조차 잡지 못한 상태에서 거짓을 시도한 것이다.

조 씨는 논문에서 독일어 논문을 12편 인용하는데 9편이 페이지 수 표시 없이 통째로 인용돼 있다. 그는 영어 논문을 인용할 때는 빠짐없이 페이지 수를 써준다. 독일어 논문을 실제 읽지 않았다는 뜻이다. 이 자체가 인용표시 없는 인용을 넘어서는 심각한 부정행위다. 그의 논문 속에 어처구니없는 독일어 표기 실수가 너무나 많은 것은 독일어를 읽는 능력이 크게 떨어지기 때문이라고 볼 수 있다. 그런 실력으로 독일어 판례는 당연히 읽지 못했을 것이며 그러니 다른 학자가 영어로 정리해놓은 요약을 자신이 직접 독일어 판례를 읽은 것처럼 갖다 쓴 것이다.

이런 논문이 어떻게 미국에서도 일류로 통하는 버클리 캘리포니아대 로스쿨의 심사를 통과할 수 있었는지 궁금해서 취재해봤더니 조 씨의 지도교수이자 박사학위 논문 심사위원장이 필립 존슨 교수였다. 위키피디아 백과사전에는 그가 지적 디자인(Intellectual Design) 운동의 창시자 중 하나로 사이비과학을 추구한다는 비판을 받고 있다고 쓰여 있다. 로스쿨 교수가 관심이 딴 데 가 있는 정도를 넘어 학문적 사이비로 빠졌던 것이다.

 

조 씨는 지난해 대통령민정수석비서관을 끝내자마자 법무부 장관으로 지명되리라는 예상 속에서도 서울대에 복직 신청을 했다. 서울대 법학 교수는 장관 자리와도 바꾸지 않는다고 한다. 그가 그런 영광스러운 자리를 차지할 만큼의 학자적 양심이 있는지 의문이다. 이번 연구진실성위원회 위원장은 박정훈 서울대 로스쿨 교수였다. 그는 현 정부에서 경찰위원회 위원장을 맡고 있다. 재심 청구가 들어갈 것으로 알려졌다. 서울대에 위원장을 바꿔 재심할 것을 권한다.

 

-송평인 논설위원, 동아일보(20-08-12)-

______________

 

 

표절의혹 박사학위 논문 보니...

 

김상곤, 9개 문헌 44군데를 자기 것인 양... 교수들 "꾼들의 표절"

작년 서울대 연구진실성委, 조사 "연구부적절 행위 해당하나 경미".. 교육부 지침 적용하면 '표절'

교총 관계자 "3년전에 낙마한 김명수보다 표절 정도 더 심해
교육부장관 후보에게 표절은 국세청장이 탈세한 것과 같아"

 

김상곤 사회부총리 겸 교육부 장관 후보자가 1992년 쓴 서울대 경영학 박사 학위 논문이 일본 논문을 표절했다는 의혹으로 논란이 되고 있다. 특히 서울대 연구진실성위원회는 지난해 10월 민간단체인 연구진실성검증센터의 제보를 받고 김 후보자의 논문 표절 여부를 심사해 "경미한 '연구부적절 행위'에 해당한다"고 결론 내렸으나, 현행 교육부 지침에 따르면 '표절'에 해당할 가능성이 높은 것으로 파악됐다.

◇"교묘한 표절" vs "당시 관행"

진실성검증센터는 12일 연구진실성위로부터 받은 예비조사 결과 공문을 공개하고 "표절이 명백한 만큼 본조사에 들어가야 한다"고 밝혔다. 연구진실성위는 지난해 "정확한 출처 표시 또는 인용 표시 없이 타인의 문장을 사용했다는 점에서 '연구부적절 행위'에 해당하나 연구윤리 위반 정도는 경미한 것으로 판단된다"는 이유로 본조사에 들어가지 않았다.

연구진실성위는 지난해 김 후보자의 논문을 심사한 결과 "국내 4개 문헌 20부분과 일본 5개 문헌 24부분이 정확한 출처 표시 없이 사용됐다"고 판정했다. 하지만 "(김 후보자의 논문이) 완전하게 연속된 2개 이상 문장을 동일하게 사용하지는 않고 일부 문장은 각주를 달아 출처 표시를 했기에 '타인의 문장을 자기 것처럼 가장하여 사용한 행위'로 추정할 수 없다"는 이유로 명백한 표절에 해당하는 '연구부정 행위'가 아닌 '연구부적절 행위'로 결론 내렸다. 

 

이에 대해 서울의 한 대학교수는 "일본 원문에선 '러시아 학자 연구에 따르면'이라고 원문 출처를 일일이 밝히고 있는데 김 후보자 논문엔 원전에 대한 설명도 없고 자기 생각인 것처럼 써놓았다"면서 "이런 경우를 학계에선 질이 나쁜 '꾼들의 표절'이라고 한다"고 말했다. 반면 충남의 한 대학교수는 "인용 표시를 안 한 것은 분명 문제가 있지만 25년 전 논문을 요즘 잣대로 판단하면 안 된다"고 말했다.

◇"교육부 수장 자격 있나"

서울대 연구윤리지침에 따르면, '연구부정 행위'나 '연구부적절 행위'가 발견되면 원칙적으로 연구 결과의 전부 또는 일부를 철회해야 한다. 김 후보자처럼 졸업한 학생에 대해서는 별다른 제재 수단이 없어 보통 '주의' 조치를 내린다고 한다. 그러나 서울대 측은 김 후보자에게 주의 조치를 안 한 것으로 알려졌다. 연구진실성위 측은 "당시 (김 후보자 측으로부터) 소명은 받았다"고 말했다.

논문 표절 등 대학 연구 윤리를 관리·감독하는 교육부 장관 후보자라는 점이 김 후보자에겐 특히 뼈아픈 대목이다. 교육부 수장으로서 자격이 있느냐는 비판이 당장 제기된다. 한국교총 관계자는 "조심스럽긴 하나 3년 전 자기 논문 표절 등으로 낙마한 김명수 당시 교육부 장관 등 역대 후보자보다 표절 정도가 더 심한 것 같다"면서 "교육부 장관 후보자의 논문 표절 의혹은 국세청장의 탈세 의혹과 다름 없어 표절 여부를 꼼꼼히 따져야 한다"고 말했다.

게다가 교육부가 학술진흥법에 근거해 만든 '연구윤리 확보를 위한 지침(2015년 개정)'을 보면 김 후보자의 논문은 '표절'에 해당할 가능성이 높다. 이 지침 제12조엔 '타인의 연구 내용 전부 또는 일부를 출처를 표시하지 않고 그대로 활용하는 경우' '타인의 저작물의 단어·문장 구조를 일부 변형해 사용하면서 출처 표시를 하지 않은 경우' 등을 표절로 규정하고 있다. 김 후보자는 지난 2014년 경기도지사 경선 때도 표절 의혹이 일었지만 구체적으로 해명하지 않았다.

  

-곽수근 기자, 조선일보(17-06-13)-

 

 

=======================