주요 인공지능 기업들의 데이터 처리 정책과 실제 보안 현황 분석

오픈에이아이, 앤스로픽, 구글을 포함한 주요 인공지능 서비스 제공업체들이 사용자 데이터와 대화 기록을 어떻게 처리하는지에 대한 명확한 기준이 설정되었다. 개인용 계정과 기업용 계정의 데이터 학습 정책에는 근본적인 차이가 존재하며, 이는 사용자가 자신의 정보를 어디까지 공유할 수 있는지를 결정하는 핵심 요소로 작용한다. 대부분의 보안 우려는 과장되거나 잘못된 방향으로 지시되는 경우가 많으며, 실제 위험은 서비스 약관과 설정에 따라 달라진다. 기업은 이러한 사실을 바탕으로 어떤 데이터를 인공지능 시스템에 전송할지, 어떤 데이터는 제외할지를 결정해야 한다. 대화 데이터는 미지의 공간으로 사라지는 것이 아니라 서비스 제공업체의 서버로 전송되며, 이후의 처리 과정은 구독 요금제와 사용자 설정에 의해 정의된다. 개인 계정에서는 대화 기록을 모델 학습에 사용하는 기능이 기본적으로 활성화되어 있거나 사용자가 선택할 수 있는 반면, 기업용 요금제와 애플리케이션 프로그래밍 인터페이스는 공개된 조건에 따라 학습에 사용되지 않는다.

검증된 출처에서 대규모 제공업체가 자신의 조건을 은밀하게 위반한 사례는 발견되지 않았다. 그러나 조건 변경, 기대와 현실의 괴리, 공개된 데이터베이스와 같은 오류는 존재한다. 필터링과 마스킹은 부분적인 도움이 되며, 로컬 실행이 가장 신뢰할 수 있지만 자체적으로 안전하지는 않다. 데이터 분류와 요금제 선택이 시작점이 되어야 한다. 오픈에이아이의 개인 계정에서는 모델 개선 기능이 기본 설정되어 있으며, 비활성화할 수 있다. 임시 대화는 학습에 사용되지 않지만 보안 목적으로 최대 30일 동안 저장될 수 있다. 기업용 요금제와 애플리케이션 프로그래밍 인터페이스는 학습에 사용되지 않으며, 적절한 고객에게는 제로 스토리지가 제공된다. 앤스로픽은 2025년 8월 28일부터 개인 요금제에서 사용자가 거부하지 않으면 대화 기록이 학습에 사용될 수 있으며, 동의 시 최대 5년, 거부 시 30일 동안 저장된다. 이 조건은 클로드 포 워크, 애플리케이션 프로그래밍 인터페이스 및 제삼자 클라우드 플랫폼에는 적용되지 않는다.