[이재용·올트먼·손정의 전격 회동, '한미일 AI 동맹' 추진을] ....

[이재용·올트먼·손정의 전격 회동, '한미일 AI 동맹' 추진을]

[자국 AI 모델 개발 안 했을 때 벌어질 일들]

[자율 실행 ‘AI 에이전트’ 온다… 인간 통제 못 벗어나게 개발 관리해야]

 

 

 

이재용·올트먼·손정의 전격 회동, '한미일 AI 동맹' 추진을 

 

오픈AI의 샘 올트먼 최고경영자(CEO)가 3일 오후 서울 강서구 서울김포비즈니스항공센터를 통해 방한하고 있다. 올트먼 CEO는 4일 이재용 삼성전자 회장과 최태원 SK그룹 회장, 정신아 카카오 대표 등을 만났다. /뉴스1

 

중국 인공지능(AI)의 거센 도전에 직면한 오픈AI 샘 올트먼 CEO가 한국을 찾아 삼성전자 이재용 회장, SK그룹 최태원 회장, 카카오 정신아 대표 등과 협력 방안을 논의했다. 이 회장과 회동엔 손정의 소프트뱅크 회장이 일본에서 날아와 자리를 함께했다. 올트먼 CEO와 손 회장은 4년간 5000억달러(약 730조원)를 투자해 초거대 AI 인프라를 구축한다는 ‘스타게이트’ 프로젝트를 추진하고 있다. 여기에 한국 기업들을 참여시켜 중국에 대항하는 ‘한·미·일 AI 동맹’을 구축하려는 전략으로 보인다. 올트먼은 “한국이 스타게이트의 중요한 부분이 될 것 같다”고 했다. 

 

한·미·일 AI 동맹은 한국 반도체 산업에 초대형 호재다. 오픈AI는 AI 데이터센터용 ‘AI 반도체’와 ‘AI 전용 단말기’ 개발을 추진 중인데, 메모리 반도체 세계 1위 삼성전자, 고대역폭 메모리(HBM)의 최강자 SK하이닉스가 최적의 파트너 자격을 갖추고 있다. 삼성전자는 오픈AI와의 협력을 통해 파운드리(반도체 위탁 생산) 분야 경쟁력을 높이고 대형 수요처를 확보하는 기회로 활용할 수 있을 것이다. 선두 주자 대만 TSMC가 삼성의 추격을 따돌리기 위해 1나노 반도체 공장 건설에 착수한 만큼 격차 좁히기가 시급한 과제다. 

 

이 회장은 무죄 판결로 9년 만에 사법 리스크 족쇄를 푼 후 첫 공개 일정을 올트먼 CEO, 손정의 회장과의 3자 회동으로 시작했다. 이 회장은 2019년 ‘뉴 삼성’을 선언하면서 AI·파운드리 등을 미래 산업으로 키우겠다고 했지만, 재판정에 185차례나 출석하는 등 사법 리스크 탓에 경영에 집중할 수 없었다. 그러는 사이 삼성전자의 반도체 경쟁력은 하이닉스에도 뒤지고, 대만 TSMC와의 파운드리 점유율 격차는 더 벌어졌다.

 

9년 만에 사법 리스크에서 벗어난 이 회장에게 미국·일본과의 AI 협력은 경영자로서의 리더십을 보여줄 기회가 될 수 있다. 글로벌 빅테크와의 초대형 합작 프로젝트, 기업 인수·합병(M&A) 등을 통해 새로운 혁신 역량을 발휘해주길 기대한다. 정치는 어지럽지만 기업에는 이런 혁신이 매일같이 일어났으면 한다.

 

-조선일보(25-02-05)-

______________

 

 

자국 AI 모델 개발 안 했을 때 벌어질 일들

 

선진국들은 경제·안보 위해 '소버린 AI' 개발에 매달려
빅테크 AI 수입해 개량한다고? 군대도 외국에 외주 줄 건가 

 

도널드 트럼프 미국 대통령이 21일(현지 시각) 백악관에서 래리 앨리슨 오라클 최고기술책임자, 마사요시 손 소프트뱅크 CEO, 샘 올트먼 오픈AI CEO가 지켜보는 가운데 인공지능(AI) 인프라 구축을 위한 스타게이트프로젝트 구상을 발표하고 있다./UPI 연합뉴스

 

요즘 테크 업계에서 인공지능(AI)이라는 말이 들어가지 않는 것을 찾기 어렵다. 집에서 상추를 키울 때 쓰는 재배기도 AI로 한다고 선전한다. 과잉 홍보를 감안해도, AI가 산업의 풀뿌리까지 바꾸고 있는 것은 분명하다. AI 신기술 대부분은 오픈AI·메타·구글·바이두(중국)·미스트랄(프랑스) 등 소수의 AI 모델을 차용해 개발한 것이다. 빅테크의 기술 독점력은 갈수록 강해지고 있다.

 

빅테크들의 AI 경쟁은 국가 대리전(戰) 양상을 띠고 있다. 주요국들은 흔히 ‘소버린(sovereign·주권) AI’라 불리는 자국 AI 모델 개발에 진력을 다하고 있다. 인재와 돈이 민간에 몰리는 현대 테크 산업의 특성상 전면에 기업이 나서 있을 뿐이다. 미국은 말할 것도 없고, 프랑스의 미스트랄, 일본의 사카나 AI, 캐나다의 코히어, 독일의 넥스트클라우드 등이 정부의 전폭적인 지원을 받으며 자국 AI 모델을 개발 중이다.

 

‘소버린 AI’ 개발에 사활을 거는 데는 크게 두 가지 이유가 있다. 우선 경제적 측면이다. ‘소버린 AI’ 개발을 회의적인 눈으로 보는 이가 많은데, 수백조 원 단위 투자를 하는 미국과의 경쟁에서 승산이 없다는 논리다. 빅테크의 AI 모델을 가져와 개량하는 것이 실용적이라는 뜻이다. 숫자만 들여다보면 반박하기 어렵다. 20여 년 전 유럽이 그랬다. 야후·구글·페이스북 등 미국의 검색 플랫폼과 소셜미디어가 세계를 휩쓸 때, 유럽은 자본·기술 부족을 이유로 경쟁을 포기했다. 이후 결과는 모두 아는 대로다. 그나마 다음·네이버 같은 플랫폼으로 버텼던 한국은 이커머스·게임·웹툰 등으로 IT 생태계를 확장했다. 그때 유럽 같은 판단을 했다면, 지금의 ‘판교’는 없었을 것이다.

 

AI 전문가들이 이보다 중요하게 생각하는 이유가 있다. 군사·안보적 측면이다. 미국이 중국에 최첨단 반도체와 AI 모델 수출을 금지하면서 ‘군사적 전용 가능성’을 언급하는 것은 단순한 명분 쌓기가 아니다. 그게 미국 입장에선 더 절실하다. AI와 국방 분야의 결합은 우리가 생각하는 것보다 훨씬 많이 진전돼 있다고 한다. 우크라이나 전장의 무인 AI 드론은 사실 맛보기에 불과하다. 전략·전술에 개입하는 수많은 데이터를 AI가 분석하고, 작전을 제안한다. 바둑판에서도 AI가 인간을 넘어섰는데, 전쟁은 어떨까?

 

미국은 AI를 실제 핵무기만큼 중요한 군사 전략적 자산으로 보고 있다. 지난해 AI를 모든 국방 분야에 적용하겠다며 ‘AI 신속 역량반(AI Rapid Capabilities Cell)’이라는 조직을 창설했다. 그러나 자체 AI 모델이 없는 국가는 AI를 군사적으로 활용하는 것에 한계가 있다. 한 테크 업계 관계자는 “미국 군대가 세계 최강이라고 자기 나라 국방을 미군에 오롯이 맡긴다면, 그 결말은 뻔하지 않냐”고 했다. 현재 국제 질서가 핵보유국과 비보유국으로 나뉘듯, 앞으로는 얼마나 강력한 ‘소버린 AI’를 가지고 있느냐에 따라 국가 간 힘의 균형이 달라질 수 있다는 분석도 제기된다. 국제사회에서 앞으로 ‘소버린 AI’를 가진 국가와 못 가진 국가에 대한 대접도 완전히 달라질 수 있다는 것이다.

 

현재 한국에 소버린 AI라고 불릴 만한 AI 모델을 개발 중인 곳은 네이버와 LG 정도를 꼽을 수 있다. 자원을 생각할 때 개별 기업에 이를 맡기는 것은 현실적이지 않다. 국가 차원에서 대규모 AI 데이터센터를 구축해 소버린 AI를 만들고, 정부와 기업이 활용할 수 있도록 해야 한다. 정부도 이런 문제를 인식하고 있다고 한다. 방향도 중요하지만, 지금 더 절실한 것은 속도다.

 

-이성훈 테크부장, 조선일보(25-01-23)-

_______________

 

 

자율 실행 ‘AI 에이전트’ 온다… 인간 통제 못 벗어나게 개발 관리해야

 

[박재혁의 데이터로 보는 세상]

산업 패러다임 바꿀 게임체인저
LLM 공구면 에이전트는 건축가
인간 속이거나 권력 추구할 수도
“너무 유능한 AI는 개발 막아야” 

 

1월 ‘CES 2025’에서 프랑스 스타트업 ‘인챈티드 툴스’가 선보인 로봇 ‘미로카이’. 거동이 불편한 환자를 간병하고, AI 기능을 활용해 대화도 나눈다. 라스베이거스=AP 뉴시스

 

《AI 에이전트의 잠재력과 위험

매년 초 미국 라스베이거스에서 열리는 세계 최대 정보기술(IT)·가전 전시회 ‘CES’는 미래 기술의 향연이 펼쳐지는 장이자, 다가올 기술 트렌드를 예측하는 바로미터다. ‘CES 2025’는 특히 인공지능(AI), 그중에서도 스스로 판단하고 행동하는 ‘AI 에이전트’ 기술이 핵심 키워드로 떠오르며 미래 산업의 게임 체인저로 주목받았다.》

 

엔비디아 최고경영자(CEO) 젠슨 황은 AI 에이전트가 수조 달러 규모의 시장을 형성할 것이라고 예측하며, 소프트웨어를 넘어 현실 세계와 상호작용하는 ‘물리적 AI’ 시대의 도래를 선언했다. 삼성전자는 다양해진 주거 형태와 라이프스타일을 반영한 개인화된 AI 경험을 제공하는 솔루션을 제시했고, 현대자동차그룹은 엔비디아의 데이터센터급 컴퓨팅과 인프라를 활용해 첨단 AI 모델을 훈련하고 자율주행차 소프트웨어 스택 구축에 주력하는 모습을 보였다.

 

이처럼 AI 에이전트는 다양한 산업 분야에서 혁신을 주도할 잠재력을 보여주고 있지만, 개념 자체는 챗GPT와 같은 언어모델 기반의 AI에 비해 일반 대중에게는 낯설다.

 

대규모언어모델(LLM)과 같이 우리가 최근까지 보아 온 개별 AI 모델은 문서 작업, 이미지 및 비디오 생성처럼 특정 종류의 작업을 수행하는 데 특화된 단일 도구다. 반면 AI 에이전트는 LLM을 포함한 다양한 컴퓨팅 도구를 활용해 특정 목표를 달성하기 위해 자율적으로 행동하는 시스템이다. LLM이 개별 공구라면, AI 에이전트는 공구를 이용해 집을 짓는 건축가와 같은 역할을 한다.

세계경제포럼(WEF) 백서(연구①)에 따르면 AI 에이전트는 센서, 효과기(effector), 제어센터, 학습, 애플리케이션이라는 5개 핵심 구성 요소로 이뤄져 있다. ‘센서’로 환경을 인식한 에이전트는 목표 달성을 위해 ‘효과기’를 통해 환경에 작용한다. ‘제어센터’는 정보 처리와 의사 결정을 담당하며, ‘학습’은 에이전트가 경험을 통해 성능을 개선하는 데 필수적이다. 마지막으로 ‘애플리케이션’은 에이전트와 환경 사이의 인터페이스 역할을 한다. 즉, AI 에이전트는 주어진 입력과 환경 정보에 따라 자율적으로 복잡한 의사 결정을 내리고, 그 결과를 바탕으로 환경을 변화시키는 능동적인 시스템이다.

이러한 AI 에이전트는 다양한 분야에서 활용될 수 있다. 소프트웨어 개발 분야에서는 코드 생성 및 검증을 자동화해 개발자의 생산성을 향상시키고, 의료 분야에서는 진단 및 개인 맞춤형 치료를 개선해 의료 서비스의 질을 높일 수 있다. 고객 서비스 분야에서는 24시간 맞춤형 지원을 제공하는 등 다양한 분야에서 혁신을 가져올 것으로 기대된다.

그러나 AI 에이전트의 발전은 새로운 위험을 수반한다. 오작동, 악의적 사용, 예상치 못한 사회경제적 영향 등이 대표적인 예다. AI 에이전트가 인간을 속이거나 권력 추구처럼 도구적 목표를 추구하거나, 다른 AI 에이전트와 예상치 못한 방식으로 결탁할 경우 심각한 문제가 발생할 수 있어 신중하게 접근해야 한다.

요슈아 벤지오, 스튜어트 러셀 등 저명한 컴퓨터 과학자들이 사이언스지에 기고한 최근 논문(연구②)은 고도화된 AI 에이전트 기술 규제에 대한 새로운 접근법을 제시한다.

이 논문은 AI 에이전트 중에서도 ‘장기 계획 에이전트(LTPA·Long-Term Planning Agents)’에 주목한다. LTPA는 인간보다 훨씬 효율적으로 장기간에 걸친 계획을 수립하고 실행할 능력을 갖춘 AI 시스템이다. 특히 ‘보상 최대화’라는 목표를 가진 강화학습 기반의 LTPA는 인간의 통제를 벗어나 예측 불가능한 행동을 할 가능성이 높다. 가령 이윤 극대화를 목표로 훈련된 AI 에이전트가 온라인 소매 플랫폼에서 자율적으로 운영될 경우, 더 많은 이윤을 얻고자 인간을 기만하거나 시스템을 조작할 수 있다는 것이다.

논문은 이러한 위험을 제어하기 어렵기 때문에 ‘충분히 유능한 LTPA’의 개발을 원천 금지해야 한다고 제안한다. 이를 위해 AI 시스템의 ‘위험한 능력’을 정의하고, 이러한 능력을 가진 AI 시스템 개발에 필요한 자원인 △컴퓨팅 파워 △데이터 △사전훈련 모델 등을 모니터링하고 보고하도록 의무화하는 ‘자원 중심적’ 규제를 제시한다. 고도화된 AI 에이전트라면 테스트 환경을 인지하고 의도적으로 안전하게 행동하다가 실제 환경에서 전혀 다른 행동을 보일 수 있다는 것이다.

2025년은 전 세계적으로 다양한 AI 모델이 결합된 AI 에이전트 시스템이 우리 주변의 온·오프라인 기기들을 제어하고 활용하며, 일상에 본격적으로 도입되는 원년이 될 것이다. 정부는 지난해 말 국회를 통과한 AI 기본법에 대한 하위 법령을 정비하고 있다. 이 과정에서 AI 에이전트 관련 규제 및 관리 방안 또한 신속하게 마련해 다가올 기술의 잠재력을 최대한 활용하면서도 위험을 방지할 제도적 장치를 마련하기를 기대한다.

 

연구①: World Economic Forum. “Navigating the AI Frontier: A Primer on the Evolution and Impact of AI Agents [White Paper].” World Economic Forum (2024)

연구②: Cohen, Michael K., et al. “Regulating advanced artificial agents.” Science 384.6691 (2024): 36-38.

 

-박재혁 KDI 국제정책대학원 교수, 동아일보(25-01-23)-

 

 

==========================