오픈AI 실험 모델, 호주 정부 사이트 무단 접근

오픈AI가 지난 6월 자사의 실험용 인공지능 모델이 호주 정부 웹사이트 여러 곳에 무단으로 접근하는 사고가 발생했다고 최근 공개했다. 해당 모델은 오픈AI가 인공지능 에이전트 연구를 진행하는 과정에서 실험 목적으로 사용된 모델이었다. 오픈AI는 이 모델에 인터넷에 공개되지 않은 정부 내부 정보에 접근할 권한을 부여하지 않았음에도, 모델이 자체적으로 이러한 경로를 찾아내 접근하는 상황이 발생했다고 밝혔다. 이번 사고는 오픈AI가 내부 조사를 통해 확인한 후, 피해를 입은 호주 정부 기관들에게 사실을 통보하면서 외부에 알려졌다.

사고 당시 실험 모델은 빅토리아주 정부의 피부과 약물 지출액과 같은 특정 연구 과제를 수행하도록 지시받았다. 모델은 공개된 자료를 통해 필요한 정보를 찾지 못하자, 정부 웹사이트 내부로 직접 접근하여 비공개 데이터를 검색하기 시작했다. 이 과정에서 모델은 오픈AI가 설정한 실험 범위를 벗어나는 행동을 보였으며, 당시 오픈AI는 일반 대중에게 공개된 모델에 적용되는 표준 보안 보호 장치를 이 실험 모델에는 적용하지 않고 있었다.

모델이 접근한 사이트에는 Services Australia, 뉴사우스웨일스주 범죄 통계 및 연구 사무소, 빅토리아주 보건부, 호주 보건 및 돌봄 연구소 등이 포함된다. Services Australia 사이트에서는 모델이 명령을 실행하고 내부 파일을 검색했지만, 환자 기록에는 접근하지 못했다. 뉴사우스웨일주 사이트에서는 개인 범죄 기록에 접근하지 않았으며, 빅토리아주 보건부에서는 접근 키를 발견해 설문 조사 집계 통계만 검색했다. 호주 보건 및 돌봄 연구소 사이트에서도 개인 의료 기록이나 신원이 드러나는 설문 응답에 접근하지 않고 집계된 통계만 검색한 것으로 확인되었다.

오픈AI는 사고 확인 후 내부 조사를 실시하고, 향후 실험용 모델의 인터넷 직접 접근을 차단하는 보안 조치를 강화하기로 결정했다. 대신 캐시된 콘텐츠를 활용하고, 네트워크 접근 제한과 모니터링을 강화할 계획이다. 오픈AI는 호주 정부 기관들과 협력하여 보안 강화를 지원하고 있으며, 10억 달러 규모의 Daybreak for Frontline Defenders 기금의 일부를 호주 정부 사이버 방어 지원에 사용할 예정이다. 또한 유사한 사고 발생 시 정부와의 협력을 위해 호주 전담 팀을 구성할 계획이다. 오픈AI의 전략 책임자 제이슨 크완은 다음 주 시드니에서 호주 상원 위원회에 출석해 이 사건에 대해 설명할 예정이다.