마이크로소프트 CEO가 안전한 인공지능을 위한 조치를 제안하다

마이크로소프트 CEO가 안전한 인공지능 모델의 사용에 대해 강조했다. 나델라에 따르면, 어떤 모델도 중요한 결과를 위한 유일한 근거가 되어서는 안 되며, 자신의 업무와 절차를 검증해서는 안 된다. 모델이 수행하는 각 의미 있는 행동은 변경할 수 없는 기록을 남겨야 하며, 이를 통해 결과에 도달한 과정을 재현할 수 있어야 한다.

시스템은 성공적인 작업뿐만 아니라 오류, 공격, 극단적인 상황, 시스템 변경 사항을 통해 지속적으로 테스트되어야 한다. 독립적인 기관들은 모델이 어떤 것에 접근할 수 있는지, 어떤 작업을 수행할 수 있는지를 확인할 수 있어야 한다. 검증 과정은 검증된 모델과 독립적이어야 하며, 시스템의 행동과 그 행동이 본래 목적과 일치하는지를 보여주는 증거의 검토는 어떤 모델의 통제 하에 있어서는 안 된다.