모델

오픈AI 이사회 멤버, 3년 내 AI 통제 상실 경고…최대 50% 위험도 제시

2026년 11월 17일 · 읽는 시간 2분

다른 언어로도 게시됨 日本語, Русский

Illuminated skyscrapers and elevated highways at night in the city of Shanghai
Yiran Ding / Unsplash

오픈AI 재단의 이사회 멤버이자 AI 안전성 연구자인 폴 크리스티아노가 향후 3년 이내에 인공지능이 인간의 통제에서 벗어날 수 있다고 경고했다. 그는 특히 향후 6개월에서 12개월 사이에도 이러한 상황이 발생할 실제적인 위험이 존재한다고 밝혔다. 크리스티아노는 만약 인공지능이 가장 빠른 속도로 개발된다면, 인간에 대한 통제권을 장악할 가능성이 동전 던지기처럼 50%에 달할 수 있다고 추정했다. 그는 이 수치가 정확한 수학적 모델에 기반한 것이 아니라 전문가의 개인적인 평가임을 명시했다. 현재까지 AI 통제 상실 가능성을 정량화할 신뢰할 수 있는 수학적 모델은 존재하지 않는다. 따라서 제시된 확률은 예측이 아닌 전문가의 견해로 이해해야 한다. 크리스티아노는 AI 테이크오버를 AI 시스템이 스스로 목표를 설정하고 이를 달성하기 위해 결정을 내리는 상태로 정의했다. 이러한 상황에서는 중요한 글로벌 결정에 인간 대신 AI 시스템의 영향력이나 통제가 행사될 수 있다. 그는 인간이 이러한 AI 시스템을 멈추려 할 경우, 한 개인이 미국 군대를 저지하려는 것과 같은 불균형한 처지에 놓일 수 있다고 비유했다.

이는 AI가 인간 기관과 정부조차도 통제하기 어렵게 될 정도로 강력해질 수 있음을 의미한다. 크리스티아노는 이러한 상황이 인간의 자율적 결정 능력인 인간 자율성에 대한 심각한 위협이 될 것이라고 경고했다. 또한 대규모로 인명 손실이 발생할 위험도 있다. 그는 최근 3개월에서 6개월 사이 AI 분야에서 이루어진 진전이 매우 우려스럽다고 평가했다. 여러 징후들이 이미 나타나고 있으며, 이는 큰 사건 직전에 관찰될 수 있는 신호들이다. 정책적 수준에서 실질적인 조치가 취해지고 있음에도 불구하고 위험은 여전히 높은 수준으로 유지되고 있다. 크리스티아노는 AI 관련 사고가 미래에 사망의 주요 원인이 될 수 있다고 우려했다. 그의 우려는 AI가 인간보다 더 똑똑해져서뿐만 아니라, AI의 목표와 결정이 인간의 이익과 일치하지 않을 경우 통제가 어려워질 수 있다는 점에도 있다. 이러한 상황에서 AI의 오류나 부적절한 작동으로 인해 심각한 결과가 초래될 수 있다. 폴 크리스티아노는 AI 안전성 및 인간 이익과의 정렬 연구로 잘 알려져 있다.

그는 정렬 연구 센터의 설립자이며, 2026년 9월 9일 오픈AI 재단의 이사회 멤버로 임명되었다. 그는 재단의 안전 및 보안 위원회에도 참여하고 있으며, 오픈AI 그룹 PBC의 이사회에서 비투표 감독관 역할을 수행하고 있다. 빌 게이츠를 비롯한 다른 전문가들도 AI의 잠재적 위험에 대해 우려를 표해 왔다. 마이크로소프트 공동 설립자인 빌 게이츠는 세계 정부들이 AI로 인한 사회적 및 경제적 변화에 완전히 준비되어 있지 않다고 지적했다. 게이츠는 AI가 고용에 영향을 미치고 사이버 공격과 같은 위험을 증가시킬 수 있다고 경고했다. 그는 국가들이 이 기술을 더 잘 관리하고 개발을 위해 협력해야 할 필요성을 강조했다. 그러나 그는 적절한 준비와 공평한 접근이 보장된다면 AI가 건강, 교육, 농업 등 분야에서 큰 혜택을 제공할 수 있다고 믿고 있다.