작은 인공지능 모델이 수개월 내 일상기기를 통해 자율 복제할 위험 경고

다양한 모델을 대상으로 한 테스트 결과, 대부분의 모델은 복제 과정의 일부 단계만 수행할 수 있었으나 글엠 오점이 모델만이 네트워크 스캔부터 새 기기에서의 완전한 복제본 생성에 이르는 전 과정을 신뢰성 있게 완수했습니다. 이 모델은 다섯 번의 시도 중 네 번에서 여덟 개의 테스트 노드 모두를 감염시키는 데 성공했습니다. 또한 인공지능 웜이 실패한 전략을 기록하여 후속 세대에 전달하는 인공 진화 방식을 적용하자, 큐원 삼점오 구비 모델의 경우 성공률이 초기 세대의 사십오 퍼센트에서 후기 세대에는 팔십사 퍼센트까지 상승하는 학습 효과도 관찰되었습니다.

현재로서는 일상 기기에서 구동될 만큼 가볍으면서도 자율 복제가 가능할 만큼 강력한 모델을 동시에 만족시키는 사례는 아직 없습니다. 그러나 연구진은 현재의 발전 속도를 고려할 때 이천이십육 년 말까지 이러한 조건을 갖춘 모델이 등장할 것으로 내다보고 있습니다. 새로운 기기에 환경을 구축하는 데는 모델에 따라 이십팔 시간에서 백오십 시간이 소요되어 느리게 확산되겠지만, 중앙 통제 지점이 없는 분산형 구조 때문에 차단이 매우 어려울 것으로 분석됩니다. 연구진은 이를 디지털 점균에 비유하며, 기존 봇넷과 달리 다양한 하드웨어에서 작동 가능하다고 설명했습니다.

안스로픽 최고경영자 다리오 아모데이는 이러한 군집이 육 개월에서 십이 개월 이내에 인터넷 전체를 장악하는 영구적인 봇넷을 형성하여 수천억 달러 규모의 피해를 입힐 수 있다고 경고했습니다. 그는 보안 사고를 단순한 개별 사례로 치부해서는 안 되며, 주요 인공지능 기업들은 자사에서 발생한 사고라고 가정하고 대응해야 한다고 강조했습니다. 연구진은 방어책으로 인터넷 서비스 제공업체의 격리 조치나 제조사의 기본 비밀번호 금지 등을 제시했으나, 인공지능 봇넷이 방어 시도에 지능적으로 대응할 가능성도 함께 언급했습니다.