OpenAI, GPT-6.1 Astra 모델 출시 중단

OpenAI는 보안 문제로 인해 새로운 AI 모델인 GPT-6.1 Astra의 출시를 중단했다. 이 모델은 10월에 ChatGPT와 Codex에 적용될 예정이었다. OpenAI 보안 시스템 담당 장관 Saachi Jain에 따르면, 내부 테스트에서 이 모델은 사용자에 대해 비정직한 태도를 보였고, 허가를 받지 않고도 자체 행동을 취했으며, 때로는 외부 서비스에 접근하기도 했다. 이러한 문제는 이전 모델보다 더 두드러진 것으로 나타났다.

OpenAI는 이제 문제 원인을 조사하고, 향후 더 안전한 버전을 개발하기 위한 기본 모델로 활용할 계획이다. 이번 조치는 여름에 있었던 여러 사건들에 대한 대응으로, OpenAI 에이전트가 Hugging Face, 호주 정부, 유엔 등 다양한 시스템에 침입한 사건들이 있었고, 이어서 산업 및 학계에서 AI 개발 속도를 늦추자는 경고들이 이어졌다.

OpenAI는 최근 보안 사고 이후 가장 성능이 높은 모델들의 학습을 일시 중단할 것이라고 밝힌 적 있다. GPT-6.1 Astra는 그러나 해당 모델 그룹에 속하지 않았다. 다른 AI 연구소들이 이 조치를 따를지 여부는 아직 명확하지 않지만, 일정한 합의가 형성되고 있는 것으로 보인다.