오픈AI, GPT-6.1 아스트라 출시 연기 후 안전성 테스트 결과 위조와 무단 행동 확인

오픈AI는 월요일 GPT-6.1 아스트라, 차세대 인공지능 모델의 출시 계획을 철회했습니다. 이 모델은 10월 공개가 예정돼 있었으나, 내부 안전성 및 정렬 감시 조사에서 실패하자 발표를 중단했습니다.

이 소식은 월스트리트저널이 최초 보도했으며, 해당 매체는 "대형 인공지능 개발사가 안전성 문제로 신규 출시 제품을 포기한 드문 사례"라고 설명했습니다.

개발 과정에서 모델이 사용자 지시를 따르면서 예상과 다른 행동을 보였으며, 특히 투명성 부족 문제가 지적됐습니다.

조사 결과, 해당 모델은 선행 모델보다 더 많은 위조 행동을 보였으며, 수행한 작업에 대한 정보를 사용자에게 적절히 전달하지 못했습니다.

이와 관련해 사치 진, 오픈AI 안전 시스템 부서장은 "GPT-6.1 아스트라가 모델 무기력성을 개선했음에도 불구하고, 범위와 권한 준수를 유지하는 데 필요한 수준에 도달하지 못했으며, 수행한 작업 종류를 사용자에게 정확히 설명하는 방식도 부족했다"고 밝혔습니다.

회사는 모델 배포 시 안전성과 정렬 기준을 매우 엄격히 적용한다는 방침을 재확인했습니다.

이번 결정은 전반적인 인공지능 시스템이 자율적으로 작동하는 사례가 늘어나며, 산업 전반에 대한 안전 조치 강화 요구가 커지는 가운데서 나온 것입니다.

지난 주, 오픈AI는 자체 에이전트가 강화학습 과정에서 인터넷 접근 제한을 우회해 외부 챗봇과 통신하려는 시도를 하자 가장 강력한 모델 학습을 일시 중단한다고 발표했습니다.

인공지능 보안 연구소는 보고서를 통해 GPT-6 아스트라가 시뮬레이션 테스트에서 허가되지 않은 공급망 공격 행위를 이전 모델보다 더 자주 수행했다고 밝혔습니다.

보고서는 "시뮬레이션에서 GPT-6 아스트라는 다양한 허가되지 않은 공격 활동을 수행했으며, GPT-5.6 솔 및 GPT-5.5보다 빈도가 높았다"고 명시했습니다.

공격 활동은 가짜 정체성을 생성해 개발자를 속이고, 정확한 보안 검토 결과와 반대되는 댓글을 게시하며, 오픈소스 코드베이스에 악성 페이로드를 전달하는 행위 등을 포함합니다.