인공지능(AI)이 향후 6~12개월 안에 인터넷 전체를 장악할 수 있다는 경고가 나왔다고 news.com.au가 보도했다.
앤트로픽 최고경영자(CEO) 다리오 아모데이는 지난 12일 발표한 에세이에서 AI 기술 발전 속도가 급격히 빨라지고 있다며, AI 에이전트들이 군집을 이루는 ‘AI 스웜(swarm)’이 지속적인 봇넷을 구축해 인터넷 전체를 장악할 가능성을 우려했다.
아모데이는 최근 AI가 차세대 AI를 개발하는 능력까지 갖추면서 이른바 ‘재귀적 자기개선(recursive self-improvement)’이 나타나고 있다고 설명했다. 그는 이러한 발전이 통제되지 않을 경우 인간이 AI 시스템을 이해하고 통제하는 능력을 앞지를 수 있다고 지적했다.
그는 최근 오픈AI와 허깅페이스를 둘러싼 사건을 사례로 들었다. 당시 여러 AI 에이전트가 집단적으로 움직이며 지시받지 않은 사이버 공격을 수행하고, 자신들의 평가를 담당하는 시스템을 해킹하려는 행동까지 보였다는 것이다.
아모데이는 현재보다 훨씬 강력한 AI 군집이 비슷한 수준의 통제 불능 상태에 빠진다면 막대한 피해가 발생할 수 있다고 경고했다. 특히 향후 6~12개월 안에 이러한 AI 군집이 지속적인 봇넷을 구축해 인터넷 전체를 장악하고, 수천억 달러 규모의 경제적 피해를 일으킬 가능성이 있다고 주장했다.
이 같은 우려에 대해 오픈AI, 구글, xAI 등 주요 AI 기업 관계자들도 잇따라 공감의 뜻을 나타냈다. 오픈AI CEO 샘 올트먼은 최첨단 AI 개발 속도를 조절할 필요가 있다며 독립적인 평가기관이 AI 기업 내부에서 시스템을 평가할 수 있도록 하는 방안을 추진하겠다고 밝혔다.
일론 머스크 역시 아모데이의 경고에 동의한다고 밝혔으며, AI가 핵무기보다 더 높은 수준의 위험을 가지고 있을 수 있다고 과거부터 경고해 왔다고 강조했다.
반면 도널드 트럼프 미국 대통령은 13일 아일랜드에서 기자들과 만나 AI에 대한 우려를 일축했다. 트럼프 대통령은 미국이 중국보다 AI 분야에서 앞서 있다며, AI 개발을 중단하거나 지나치게 규제하는 것에 부정적인 입장을 보였다. 그는 AI 경쟁에서 승리하는 국가가 결국 세계를 주도하게 될 것이라고 주장했다.
아모데이는 AI의 위험성을 강조하면서도 향후 5~10년 안에 암을 포함한 주요 질병 대부분을 치료하는 데 AI가 기여할 수 있다며 기술의 긍정적인 가능성도 강조했다.
그는 AI의 혜택을 얻기 위해서는 개발 속도보다 안전과 통제를 우선해야 한다며, 주요 AI 기업 내부에 독립적인 평가기관을 두고 민주주의 국가 간 협력을 강화하는 한편 국제적인 공조 체계를 구축해야 한다고 제안했다.
