모델

AI Futures Project, 2027년까지 인공지능 연구 자동화 시스템 등장 예측

2026년 11월 19일 · 읽는 시간 2분

a purple and blue abstract pattern on a black background
Sandip Kalal / Unsplash

AI Futures Project는 2027년에 인공지능 연구를 자동화할 수 있는 시스템이 등장할 것이라고 예측했습니다. 이 단체는 모델의 개선 속도가 통제 불가능할 정도로 빨라질 수 있다는 우려를 표하며, 가장 진보된 모델들의 개발 속도를 늦출 것을 요청했습니다.

이러한 예측은 11월 5일에 발표된 METR의 독립적인 조사 결과에 기반하고 있습니다. METR은 Anthropic의 내부 정보를 11주 동안 분석한 결과, 해당 기업 모델들의 기술 테스트 점수가 이전 추세보다 약 1.9배 더 빠르게 향상되고 있다고 추정했습니다. 이 수치는 95% 통계 신뢰 구간에서 1.5배에서 2.8배 사이이며, 계산 방법론을 변경할 경우 1.1배에서 2.9배까지 나타납니다.

METR은 벤치마크 결과, 연구 및 개발 문서, 모델 사용 지표를 검토하고 약 15명의 직원을 인터뷰했습니다. 분석 결과, Anthropic 모델들은 지난 1년 동안 이전 기간의 약 2년치에 해당하는 발전을 이루었습니다. METR은 이러한 성장이 훈련에 사용된 계산 능력의 증가 때문이 아니라, 코드 작성, 분석, 실험 지원 등 인간의 지도하에 수행된 인공지능의 도움 덕분이라고 보고 있습니다. 분석가들은 현재 가속도의 약 80%가 인공지능 사용에 기인한다고 주관적으로 평가했으나, 결정적인 증거는 찾지 못했다고 명시했습니다.

AI Futures Project는 METR의 결과를 자신들의 시뮬레이션인 AI Futures Model에 적용했습니다. 이들은 인공지능에 의한 가속도가 현재 역사적 추세의 약 1.7배라고 추정하며, 2027년까지 초인적 인공지능 연구자, 즉 인공지능 개발에 종사하는 최고 수준의 인간 연구자만큼 자율적으로 프로그래밍하고 연구 선택을 내릴 수 있는 시스템이 등장할 것으로 내다봤습니다. 또한 2028년 이전에 대부분의 지적 과업에서 최고 전문가를 능가하는 더 넓은 범주의 인공지능이 등장할 확률을 35%에서 65% 사이로 예측했습니다.

다만 이러한 예측에는 한계가 있습니다. Anthropic은 기밀 정보 보호를 위해 METR 보고서에서 정보 가치가 높은 상당 부분의 내용을 삭제하도록 요청하여 인과 관계를 부분적으로만 확인할 수 있습니다. 또한 벤치마크 점수의 상승이 실제 완전한 연구 활동으로 이어질지는 미지수입니다. 유망한 실험을 선택하거나 기만적인 결과를 인식하고 수개월의 작업을 조직하는 능력은 측정하기 어렵기 때문에, 점수 가속도가 실제 연구 능력의 향상을 과대평가했을 가능성이 있습니다.